모델 817건 · 국산 131 · 가격 654 추적 중
AI 인프라·반도체

AWS, EKS·EFA·DeepEP로 MoE 강화학습 처리량 40% 향상

AWS ML Blog·2026-09-25영문 원문

요약

AWS는 믹스처 오브 엑스퍼트(MoE) 모델을 RLHF나 GRPO로 대규모 강화학습 후속 학습할 때 나타나는 통신 병목 문제를 다뤘다. Amazon EKS와 Elastic Fabric Adapter(EFA), DeepEP를 결합해 전문가 병렬화(Expert Parallelism)의 동적 올투올 토큰 라우팅 통신을 최적화하는 아키텍처를 제시했으며, AWS는 이 구성으로 처리량이 40% 향상됐다고 밝혔다. 대규모 비동기 RL 학습에서는 롤아웃 생성과 정책 학습 간 속도 불균형, 가속기의 컴퓨트·메모리·네트워크 대역폭 부담, 단일 인스턴스를 넘어설 때 노드 내 NVLink에서 노드 간 저대역폭 링크로 통신이 옮겨가는 문제가 동시에 발생한다고 설명했다.

큐레이터 노트

원문에 없는 맥락입니다

MoE 모델은 추론 비용을 낮추기 위해 희소성을 키우지만, 그 결과 학습 단계의 병목이 연산이 아닌 전문가 병렬화 통신으로 옮겨간다는 점을 보여주는 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

로보파티, IROS서 오픈소스 휴머노이드 로봇 RP1 공개
ZDNet Korea · 2026-10-04

로보파티가 2026년 9월 28일 IROS 2026에서 완전 오픈소스 이족보행 휴머노이드 로봇 RP1을 공개했다. RP1은 2026년 1월 출시된 오픈소스 프로젝트 RPO와 자체 개발 Romomo 액추에이터, 개방형 플랫폼 PartyOS를 기반으로 한다. PartyOS에는 사전 정의된 …

업스테이지, 경량 LLM '솔라 미니 4' 공개
전자신문 IT · 2026-10-01

업스테이지가 경량언어모델(SLM) '솔라 미니 4'를 공개했다. 전문가혼합(MoE) 구조를 적용해 적은 연산량으로 고성능·고효율을 구현한 것이 특징이다. 동급 규모의 활성 매개변수를 쓰는 소형 모델 가운데 최고 수준의 성능을 기록했다고 밝혔다. 글로벌 AI 평가기관 아티피셜 애널리시스의…

노타, 멀티모달 AI 경량화 기술 NeurIPS 채택
ZDNet Korea · 2026-10-01

노타는 멀티모달 AI 모델의 성능 저하를 최소화하면서 GPU 메모리 사용량을 줄이는 '모달리티 인지 전문가 프루닝' 연구 논문이 NeurIPS 2026 메인트랙에 채택됐다고 밝혔다. 이 기술은 MoE 기반 멀티모달 모델에서 전문가 모듈을 제거할 때 언어와 이미지 이해 능력을 함께 고려해…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
처리량
처리량은 시스템이 일정 시간 동안 처리할 수 있는 요청 수나 생성 토큰 수를 나타내는 지표를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →