모델 841건 · 국산 132 · 가격 680 추적 중
MLOps·개발도구

AWS, GPU 관리 없는 모델 커스터마이징 '트레이닝 세션' 정식 출시

AWS ML Blog·2026-10-22영문 원문

요약

AWS가 SageMaker AI 서버리스 모델 커스터마이징의 '트레이닝 세션' 기능을 정식 출시했다. 사용자는 커스텀 손실 함수나 보상 신호를 포함한 훈련 루프 코드를 직접 작성하고, GPU 할당·분산 실행·장애 복구·체크포인트 저장은 SageMaker AI가 처리한다. SFT, DPO, RLVR, RLAIF, 멀티턴 강화학습 등 다양한 기법을 사용할 수 있으며 LoRA나 전체 파인튜닝 선택도 가능하다. ImagineSoftware는 의료 청구 거절 분류 모델에, Karini AI는 Amazon Neptune 지식그래프를 활용한 에이전틱 멀티턴 도구 호출을 위해 gpt-oss-20b를 파인튜닝하는 데 이 기능을 사용했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

여행 예약이나 상담 응대처럼 여러 차례 상호작용을 거쳐야 결과를 평가할 수 있는 에이전트용 멀티턴 강화학습은 훈련·추론·채점 단계마다 서로 다른 인프라를 연결해야 했는데, 이 기능은 그 연결 작업을 플랫폼이 대신 맡는 방식이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이 기사는 같은 날 공개된 '트레이닝 세션 API' 소개 보도와 짝을 이루는 정식 출시 소식으로, AWS가 forward_backward·optim_step·sample 같은 저수준 연산과 토큰 단위 과금 구조를 먼저 선보인 데 이어 실제 고객 사례를 더해 공개한 것이다. SFT, DPO, RLVR 등 다양한 커스텀 학습 기법을 GPU 관리 없이 서버리스로 지원하겠다는 AWS의 전략이 이번 정식 출시로 구체화됐다.

짚어야 할 점

  • 핵심은 멀티턴 강화학습에서 훈련·추론·채점마다 따로 인프라를 연결해야 했던 번거로움을 플랫폼이 대신 처리한다는 점으로, 에이전트형 학습 수요를 겨냥한 설계다.
  • GPU·인프라 복잡성을 서버리스로 흡수하려는 흐름은 데이터브릭스가 '기존 네트워크 구성의 복잡성이 서버리스 전환을 막는다'고 지적한 문제의식과 맞닿아 있다.
  • 공개된 ImagineSoftware, Karini AI 사례는 모두 AWS와의 협력에서 나온 것으로 구체적 성능 수치는 제시되지 않았다.

아직 확인되지 않은 것

  • 토큰 단위 과금이 기존 GPU 인스턴스 직접 임대 방식보다 실제로 비용 효율적인지는 확인되지 않았다.
  • ImagineSoftware의 청구 거절 분류 모델이나 Karini AI의 gpt-oss-20b 파인튜닝이 어느 정도 성능 개선을 보였는지는 공개되지 않았다.
  • 멀티턴 RL 채점 단계에서 발생할 수 있는 지연이나 대규모 확장 시의 한계에 대한 자료는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI 드론, 레이싱서 인간 조종사 제치고 우승
ZDNet Korea · 2026-10-21

네덜란드 델프트공과대학 연구진이 카메라 1대와 관성측정장치, 소형 컴퓨터만으로 작동하는 AI 드론 레이싱 시스템 '모노레이스'를 개발했다. 2025년 아부다비 자율 드론 레이싱 리그에서 인간 조종사 3명을 제치고 우승했으며, 11개 게이트 코스 두 바퀴를 16.56초에 완주하고 최고 시…

구글클라우드·NVIDIA, 베라 루빈 인프라 A5X 일반 출시
NVIDIA Blog · 2026-10-21

구글클라우드와 NVIDIA가 NVIDIA 베라 루빈 NVL72 기반 A5X 인스턴스의 일반 출시를 발표했다. A5X는 다음 달 이용 가능해지며 이후 유럽으로 확대될 예정이고, 구글클라우드는 베라 루빈 기반 인프라를 여러 거점에 걸쳐 최대 96만 개 루빈 GPU 규모로 확장할 계획이다. …

[AI리더의 서가] 밑바닥부터 시작하는 딥러닝 6
AI타임스 · 2026-10-19

한빛미디어가 8월 31일 출간한 『밑바닥부터 시작하는 딥러닝 6』은 사이토 고키가 쓰고 개앞맵시가 옮긴 책으로, 순수 파이썬과 파이토치만으로 LLM의 토크나이저부터 트랜스포머 아키텍처, 강화학습까지 직접 구현하는 과정을 다룬다. 독자가 이론과 코드를 단계별로 따라가며 언어 모델의 내부 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
파인튜닝
사전 학습된 대규모 언어 모델을 특정 작업이나 도메인의 데이터로 추가 학습시켜 성능과 응답 방식을 맞춤화하는 과정을 말한다.
LoRA
LoRA(Low-Rank Adaptation)는 대형 신경망의 원래 가중치는 고정한 채, 작은 저랭크 행렬 쌍을 추가로 학습시켜 모델을 특정 작업에 맞게 미세조정하는 기법을 말한다.
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →