모델 801건 · 국산 131 · 가격 643 추적 중
AI 인프라·반도체

SageMaker HyperPod-Qumulo, 리전 간 분산 학습 검증

AWS ML Blog·2026-09-25영문 원문

요약

AWS와 Qumulo가 Amazon SageMaker HyperPod와 Qumulo의 Cloud Data Fabric(CDF)을 결합해 학습 데이터와 GPU 컴퓨팅이 서로 다른 AWS 리전에 있어도 데이터 복제 없이 학습을 수행하는 아키텍처를 공개했다. 데이터는 미국 오하이오 리전(허브)에 두고 컴퓨팅은 오리건 리전(스포크)에 배치해 60ms 네트워크 지연 환경에서 동일한 학습 작업을 각각 돌려 처리량을 비교했다. AWS·Qumulo의 자체 검증에 따르면 초기 워밍업 구간이 지나면 원격 리전 클러스터가 데이터와 동일 리전에 있는 클러스터와 같은 수준의 처리량에 도달했으며, 이 워밍업 비중은 배치 수가 늘어날수록 전체 학습 시간에서 미미해진다고 밝혔다. Qumulo의 NeuralCache가 데이터 로더 접근 패턴을 학습해 다음에 필요한 데이터 블록을 미리 로컬 캐시로 가져오는 방식이 핵심이다.

큐레이터 노트

원문에 없는 맥락입니다

GPU 가용 리전과 데이터 보관 리전이 다를 때 흔히 겪는 데이터 복제 비용·지연 문제를 캐싱 기술로 우회하려는 접근으로, 다만 성능 수치는 AWS·Qumulo가 자체 실시한 검증 결과라는 점을 감안할 필요가 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AWS ML 블로그는 2026년 9월 들어 SageMaker HyperPod 관련 기능을 잇달아 공개해왔다. 추론 콜드스타트를 줄이는 모델 캐싱(9월 10일), EKS 환경의 장애 허용 학습(9월 16일), SkyRL 기반 멀티모달 RL 학습(9월 25일) 등이 이어졌고, 이번에는 학습 데이터와 GPU 컴퓨팅이 물리적으로 다른 리전에 있어도 데이터 복제 없이 학습이 가능한지를 검증한 결과를 내놓았다.

짚어야 할 점

  • 데이터 블록을 미리 로컬로 가져오는 NeuralCache의 캐싱 방식은, 같은 시리즈의 모델 캐싱(가중치·컨테이너를 노드 NVMe에 미리 적재)과 같은 발상을 학습 데이터 쪽에 적용한 것으로 볼 수 있다.
  • GPU가 확보된 리전과 데이터가 저장된 리전이 다른 상황은 GPU 수급이 빠듯할 때 흔히 생기는 제약인데, 이를 데이터 이전 없이 캐싱으로 우회하려는 시도라는 점이 핵심이다.
  • 성능 수치는 AWS와 Qumulo가 60ms 지연이라는 특정 조건에서 자체적으로 검증한 결과이며, 제3자 검증은 언급되지 않았다.

아직 확인되지 않은 것

  • 60ms보다 지연이 크거나 더 많은 GPU 노드, 더 큰 모델로 확장했을 때도 동일 리전 수준의 처리량이 나오는지는 확인되지 않았다.
  • 워밍업 구간이 구체적으로 몇 배치 또는 몇 분 걸리는지, 전체 학습 시간 대비 정확한 비중은 수치로 제시되지 않았다.
  • Qumulo Cloud Data Fabric 이용에 따른 추가 비용이나 AWS 리전 간 데이터 전송 비용은 이번 자료에서 다뤄지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

크래프톤, 게임 넘어 '피지컬 AI'까지 AI 퍼스트 전환
전자신문 SW · 2026-09-21

크래프톤이 게임 제작과 서비스 전반에 AI를 적용하는 'AI 퍼스트' 기업 전환을 추진한다. 자체 파운데이션 모델 연구부터 게임 속 AI 캐릭터, 업무용 에이전트, 피지컬 AI까지 적용 범위를 넓히고 있다. 이를 위해 약 1000억원을 투자해 GPU 클러스터를 구축하며, 2026년부터는…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
멀티모달
텍스트뿐 아니라 이미지, 음성, 영상 등 여러 종류의 데이터를 함께 이해하거나 생성할 수 있는 AI 모델의 특성을 말한다.
처리량
처리량은 시스템이 일정 시간 동안 처리할 수 있는 요청 수나 생성 토큰 수를 나타내는 지표를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →