모델 817건 · 국산 131 · 가격 654 추적 중
AI 인프라·반도체

HBM 다음 메모리는 PIM…추론·온디바이스서 부상

전자신문 SW·2026-09-22

요약

AI 메모리 경쟁이 고대역폭메모리(HBM) 중심에서 메모리 내부에서 직접 연산하는 프로세싱인메모리(PIM)로 확장되고 있다. AI 활용이 학습에서 추론·온디바이스로 옮겨가면서 데이터를 그래픽처리장치(GPU)로 옮기는 데 드는 전력과 시간이 새로운 과제로 떠올랐기 때문이다. 업계는 PIM을 HBM의 대체재가 아닌 보완재로 보고 있으며, 학습·초고속 연산은 HBM이, 전력과 발열에 민감한 추론·엣지 영역은 PIM이 맡는 역할 분담 구도가 형성되고 있다. 고대역폭플래시(HBF)는 용량 확대를 담당하는 것으로 언급됐다.

큐레이터 노트

원문에 없는 맥락입니다

HBM이 학습용 고속 연산에 집중된 동안, PIM은 전력 제약이 큰 추론·온디바이스 환경에서 별도 역할을 맡는 방향으로 메모리 기술이 분화하고 있다는 점이 핵심이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 인프라 투자가 GPU에서 CPU·메모리로 확대되고 있다는 분석(9월 24일, 전자신문 IT)과 마이크론의 역대급 실적 전망 및 2027년까지 이어질 메모리 타이트 공급 전망(9월 25일, ZDNet Korea)이 이어지는 가운데, 메모리 업계 안에서도 학습용 HBM 일변도에서 벗어나 추론·온디바이스용 PIM으로 기술 축이 분화하는 흐름이 나타나고 있다. 같은 시기 퀄컴이 스냅드래곤 서밋 2026에서 선보인 1비트 추론 엔진과 웨어러블용 메모리 절감 기술(9월 24일, ZDNet Korea)도 온디바이스 AI에서 전력·메모리 부담이 핵심 과제로 떠올랐음을 보여준다.

짚어야 할 점

  • HBM·PIM·HBF의 역할 분담론은 김동원 KB증권 리서치본부장이 짚은 'HBM뿐 아니라 DDR5, 기업용 SSD까지 수요 확대' 전망과 같은 방향에서, 메모리를 용도별로 세분화해 보는 시각이라는 점에서 이어진다.
  • 퀄컴이 1비트 양자화로 온디바이스 메모리 사용량을 8분의 1로 줄인 사례는, PIM이 필요해지는 배경인 '추론·엣지의 전력·발열 제약'을 소프트웨어 쪽에서 우회한 접근으로 볼 수 있어 대조된다.
  • 마이크론이 2027년까지 메모리 수급을 타이트하게 전망하고 HBM4 매출을 늘리는 상황에서, PIM이 실제 양산·매출로 이어지는 시점이 언제일지가 다음 관전 포인트다.

아직 확인되지 않은 것

  • PIM을 개발 중인 구체적 기업이나 양산 일정은 이 기사에서 확인되지 않았다.
  • 삼성전자·SK하이닉스가 PIM에 어느 정도 투자·개발 역량을 두고 있는지는 제시되지 않았다.
  • PIM 시장 규모나 수요 전망에 대한 수치 자료는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

국방·바이오·마케팅까지 번지는 AI 현장 적용
테크42 · 2026-10-06

마키나락스가 해군 포항함에 온디바이스 AI '장비운용 AI 참모'를 탑재해 실증 운용에 들어갔다. 엑시나와 포트래이는 CXL 기반 메모리 확장 인프라를 공동 개발해 바이오 데이터 처리 규모를 최대 1억 개 세포 수준까지 확대할 계획이다. CRM 에이전트 기업 블럭스는 AI가 먼저 업무를…

마키나락스, 포항함에 폐쇄망 AI 참모 탑재 실증
ZDNet Korea · 2026-10-06

마키나락스가 해군 제1함대사령부 포항함에 '장비운용 AI 참모'를 탑재하고 실증 운용에 돌입했다. 이 사업은 국방기술진흥연구소(KRIT)가 주관하는 '방산혁신기업 100 기술개발 전용지원사업'의 일환으로 추진됐다. AI OS '런웨이' 기반 AI 에이전트로 함포 기술교범과 정비자료를 학…

두산로보틱스, 국책과제 2건 수행기업 선정
ZDNet Korea · 2026-10-06

두산로보틱스가 산업통상부와 한국산업기술기획평가원이 주관하는 국책과제 2건의 수행기업으로 선정됐다. 하나는 온디바이스 AI 반도체를 탑재해 외부 연결 없이 스스로 인지·판단·제어하는 차세대 협동로봇과 산업용 휴머노이드를 개발하는 과제로, 두산로보틱스가 총괄주관기관을 맡는다. 다른 하나는 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →