모델 842건 · 국산 132 · 가격 681 추적 중
MLOps·개발도구

AWS, CDK로 SageMaker 엔드포인트 오토스케일링 조율법 공개

AWS ML Blog·2026-10-23영문 원문

요약

AWS ML 블로그는 CloudFormation·CDK로 SageMaker AI 실시간 엔드포인트 설정(인스턴스 유형·개수·환경변수)을 변경할 때 배포가 실패하는 문제를 다뤘다. 엔드포인트 업데이트 전 오토스케일링 대상을 해제해야 하는데, 해제하면 CloudFormation이 Application Auto Scaling 리소스를 추적하지 못해 오류가 나거나 롤백까지 실패(UPDATE_ROLLBACK_FAILED)해 스택이 복구 불가 상태에 빠질 수 있다. 해결책으로 CDK 커스텀 리소스를 이용해 '해제 → 엔드포인트 업데이트 → 스케일러블 타겟 재등록 → 스케일링 정책 재적용' 순서를 자동으로 조율하는 재사용 가능한 구조체를 제시했다. 이를 통해 엔드포인트 설정과 오토스케일링 파라미터를 수동 개입 없이 한 번의 배포로 함께 업데이트할 수 있다.

큐레이터 노트

원문에 없는 맥락입니다

모델 서빙 인프라를 코드로 관리하는 MLOps 워크플로우에서 반복적으로 부딛히는 운영상의 함정과 해법을 다룬 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

엔터프라이즈 AI, 모델보다 서빙 아키텍처가 핵심
MIT Tech Review · 2026-10-22

EXL은 기고문에서 기업 AI의 경쟁력이 모델 선택보다 이를 뒷받침하는 '서빙 하니스'(아키텍처, 메모리 관리, 스케줄링, 최적화 기법)에 좌우된다고 주장했다. 지연시간, 동시성, GPU 활용도 같은 워크로드 제약조건이 아키텍처를 결정해야 하며, 최적화에 앞서 성능을 제약하는 요인을 먼…

엠아이큐브솔루션, 제조AI 정부진단서 'S등급' 획득
ZDNet Korea · 2026-10-19

엠아이큐브솔루션이 중소벤처기업부의 '2026년도 스마트공장 공급기업 역량진단 지원사업'에서 자사 제조 특화 AI 플랫폼 '스마트AI'로 최고 등급인 S등급을 받았다. 이 진단은 기술·성과·운영 3개 분야를 종합 평가해 S부터 D까지 등급을 부여하며, 유효기간은 확정일로부터 2년이다. 스…

래블업, 1인 1에이전트 인프라 비전 발표
AI타임스 · 2026-10-01

래블업이 9월 29일 서울 코엑스에서 연례 기술 컨퍼런스 'lab | up > /conf/6'을 열고 'AI 팩토리' 비전과 1인 1에이전트 시대 실현을 위한 인프라 전략을 발표했다. 2015년 설립된 래블업은 GPU 가상화와 MLOps 기술로 모델 학습·배포를 지원해왔다. 2024년 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
파라미터
모델이 학습 과정에서 값을 스스로 조정해 나가는 내부 수치로, 입력을 출력으로 변환하는 계산 방식을 결정하는 요소를 말한다.
추적
AI 에이전트나 LLM 애플리케이션이 작업을 처리하는 동안 거치는 호출, 입출력, 지연 시간 등의 실행 경로를 단계별로 기록하고 시각화하는 것을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →