모델 803건 · 국산 131 · 가격 645 추적 중
AI 인프라·반도체

NVIDIA, AI 인프라 서밋서 전력 효율 개선 성과 공개

NVIDIA Blog·2026-09-15영문 원문주요

요약

NVIDIA는 산타클라라에서 열린 AI 인프라 서밋에서 베라 루빈 시스템과 DSX 플랫폼을 통한 전력 효율 개선 사례를 공개했다. AI 클라우드 업체 Lambda는 NVIDIA DSX MaxLPS 적용으로 클러스터 전체 토큰 처리량을 늘리고 성능당 전력 효율을 23% 개선했다고 밝혔다. Emerald AI는 실리콘밸리파워와 함께 AI 팩토리의 전력 사용량을 실시간 전력망 신호에 맞춰 자동 조절하는 프로그램을 시연했다. 아마존 산하 Annapurna Labs는 NVHBM 커스텀 고대역폭 메모리, d-Matrix는 자사 Raptor XPU에 NVLink Fusion 플랫폼을 통합하는 협력을 각각 발표했다. 이 밖에 Pinterest는 NVIDIA Blackwell과 Dynamo 추론 소프트웨어를 활용해 대화형 AI 기반 비주얼 검색 기능을 도입했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

NVIDIA는 AI 인프라 평가 지표가 최대 성능에서 메가와트당 토큰 생성량으로 옮겨가고 있다고 설명하는데, 이는 데이터센터 확장의 병목이 반도체 자체보다 전력 공급 쪽으로 이동하고 있음을 보여주는 사례다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

같은 날 NVIDIA 블로그가 두 차례에 걸쳐 다룬 DSX MaxLPS 관련 소식으로, Lambda의 성능당 전력 효율 23% 개선은 별도 NVIDIA 발표(2026-09-15)에서 노드 가동 대수와 토큰 처리량 수치까지 구체적으로 제시된 내용과 같은 사례다. 데이터센터 전력 확보 경쟁은 마이크로소프트가 2032년까지 데이터센터 용량을 12GW에서 38GW 이상으로 늘리겠다는 계획(전자신문, 2026-09-10)이나 한국 정부의 텍사스 가스발전소 30조원 투자 보고(전자신문, 2026-09-07)로도 이어지고 있다.

짚어야 할 점

  • NVIDIA가 강조한 '메가와트당 토큰 생성량' 지표는 반도체 성능보다 전력 확보가 AI 인프라 확장의 병목이 되고 있다는 흐름과 맞물린다.
  • Emerald AI의 전력망 연동 시연은 별도 NVIDIA 발표에서 언급된, 4메가와트에서 3메가와트로 전력을 낮추면서도 우선순위 작업을 유지하고 200회 넘게 수요반응에 대응했다는 구체 실적과 같은 사업이다.
  • 네트워크·메모리 협력사(Annapurna Labs, d-Matrix)까지 끌어들인 것은 전력 효율 개선이 GPU 단독이 아니라 메모리·인터커넥트 전반의 재설계를 요구한다는 신호로 볼 수 있다.
  • 전력 제약이 데이터센터 냉각 방식에도 영향을 주면서, PFAS 냉각재 생산업체들이 AI 데이터센터 수요를 이유로 증산을 계획 중이라는 조사(ZDNet Korea, 2026-09-15)와 같은 시기에 나왔다.

아직 확인되지 않은 것

  • Lambda·Emerald AI의 효율 개선치가 실제 전력망 전체의 수요 증가 속도를 상쇄할 수 있는 규모인지는 확인되지 않았다.
  • Annapurna Labs의 NVHBM, d-Matrix의 NVLink Fusion 통합이 언제 상용화되는지 구체적 일정은 나오지 않았다.
  • 이런 전력 효율화 기술이 PFAS 냉각재처럼 환경 부담이 큰 다른 인프라 요소의 사용을 늘리는 방향으로 이어지는지는 이번 발표만으로는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI를 비용 아닌 자산으로 만드는 법
MIT Tech Review · 2026-09-29

MIT 테크놀로지 리뷰에 게재된 HPE 후원 콘텐츠는 기업의 AI 활용이 실험 단계를 넘어 상시 가동되는 워크로드 포트폴리오로 옮겨가고 있다고 설명한다. 딜로이트의 2026 기업 AI 현황 보고서를 인용해, 2025년 직원의 AI 접근률이 5% 늘었고 AI 프로젝트의 40% 이상을 실제…

삼성 관계사 6곳, AWS 전 CEO의 AI 인프라 기업 헬릭스에 투자
CIO Korea · 2026-09-29

2026년 6월 출범한 헬릭스는 데이터센터 개발·운영부터 발전·송배전·광통신망까지 AI 인프라를 통합 제공하는 기업으로, 아마존웹서비스(AWS) 전 CEO 아담 셀립스키가 이끌고 있다. 삼성전자, 삼성물산 건설부문, 삼성SDS, 삼성SDI 등 삼성 관계사 6곳이 KKR, 엔비디아, 미국…

가트너, 2026년 전 세계 AI 지출 49.5% 증가 전망
CIO Korea · 2026-09-29

가트너는 2026년 전 세계 AI 지출이 49.5% 증가해 2조 7,000억 달러에 이르고, 2027년에도 36.2% 성장할 것으로 전망했다. 가트너 수석 부사장 존 데이비드 러브록은 AI 투자를 위해 다른 IT 예산을 전용한 것이 아니라 기존 지출 항목의 성격이 AI 중심으로 재정의되…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
처리량
처리량은 시스템이 일정 시간 동안 처리할 수 있는 요청 수나 생성 토큰 수를 나타내는 지표를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

NVIDIA Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →