모델 835건 · 국산 131 · 가격 671 추적 중
AI 인프라·반도체

SSD·메모리 가격 급등, AI 토큰 비용 '보조금 시대' 끝낸다

CIO Korea·2026-10-13주요

요약

하버드비즈니스리뷰(HBR) 분석에 따르면 기업용 AI 시장은 공급업체가 GPU·추론 비용을 대신 부담해온 구조에서 벗어나 인프라 비용을 고객에게 전가하는 '비용 충격'을 앞두고 있다. HBM 생산 집중으로 서버용 D램 공급이 줄며 가격이 급등했고, VDURA의 플래시 변동성 지수에 따르면 30TB TLC SSD 가격은 2025년 2분기부터 2026년 1분기까지 472% 상승했다. 구글의 월간 토큰 처리량은 2024년 9조7000억 개에서 피차이 CEO가 밝힌 3200조 개까지 늘었고, 골드만삭스는 2030년까지 업계 토큰 소비량이 24배 더 늘 것으로 전망했다. CES 2026에서 엔비디아는 KV 캐시를 NVMe SSD로 옮기는 CMX 컨텍스트 메모리 스토리지 플랫폼을 공개했으며, 델·IBM·넷앱·VAST·위카 등 12곳 이상이 이를 지원할 예정이다.

큐레이터 노트

원문에 없는 맥락입니다

토큰당 과금 모델이 인프라 비용 변동과 분리돼 있었다는 지적인데, 플래시 가격 급등이 그대로 토큰 비용에 반영되기 시작하면 기업들의 AI 예산 산정 방식 자체가 재검토될 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI, 산업 현장 확산…인프라 효율화가 과제
전자신문 IT · 2026-10-13

13일 코엑스에서 열린 한국전자전(KES 2026) 오프닝 키노트에서 AI 산업 전문가들은 AI가 대화 서비스나 거대언어모델(LLM) 활용을 넘어 물리적 기기를 제어하고 컴퓨팅 인프라 운영 효율을 높이는 방향으로 진화하고 있다고 진단했다. 피지컬 AI와 시스템 인프라가 제조업 현장에서 …

분산형 AI, 2035년 68조원 경제효과 전망
IT조선 · 2026-10-12

AI 활용이 생성형 AI에서 에이전틱 AI, 피지컬 AI로 확장되면서 AI 인프라 구조도 변화하고 있다. 클라우드 중심 처리 방식에서 벗어나 디바이스·엣지·데이터센터·온프레미스를 연결해 작업에 따라 최적의 컴퓨팅 자원을 활용하는 '분산형 AI'가 새로운 방향으로 제시된다. 분산형 AI가…

AI發 메모리 공급난, 스마트폰 출하량 14년來 최악
블로터 · 2026-10-12

시장조사업체 카운터포인트리서치의 12일 잠정 추정치에 따르면 지난 3분기 전 세계 스마트폰 출하량이 전년 동기 대비 20% 감소해 2012년 이후 3분기 기준 최저치를 기록했다. 카운터포인트는 AI 인프라 사업이 메모리 공급량을 대거 흡수하면서 가격 급등과 공급 부족이 발생했고, 이로 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
KV 캐시
트랜스포머 기반 언어 모델이 토큰을 하나씩 생성할 때 이미 계산한 어텐션의 키(Key)와 값(Value) 벡터를 저장해 두었다가 다음 토큰 생성 시 재사용함으로써 중복 계산을 없애는 추론 최적화 기법을 말한다.
처리량
처리량은 시스템이 일정 시간 동안 처리할 수 있는 요청 수나 생성 토큰 수를 나타내는 지표를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

CIO Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →