OpenAI, 엔비디아 블랙웰로 GPT-6 울트라패스트 가속

OpenAI의 GPT-6 Astra Ultrafast가 엔비디아 블랙웰 GPU 기반으로 OpenAI API와 일부 ChatGPT Work·Codex 사용자에게 제공되기 시작했다. OpenAI 측은 이 모드가 기존 Astra Standard 모드보다 토큰 생성 속도가 최대 8배 빠르다고 밝혔다. OpenAI는 자사 모델을 활용해 엔비디아 GPU용 추론 소프트웨어를 직접 최적화했으며, 엔비디아의 프로그래밍 가능한 플랫폼이 이를 뒷받침했다고 설명했다. 코드 작성, 도구 호출, 결과 확인을 반복하는 코딩 에이전트 워크플로에서 응답 속도 개선이 특히 체감된다고 OpenAI는 설명했다.

이 일이 어디서 왔나

오픈AI는 9월 11일 GPT-6 아스트라용 코덱스 프롬프트 지침을 공개하며 모델 성능 향상에 맞춰 작업 방식을 바꾸고 있다고 밝힌 바 있는데, 이번에는 그 모델을 엔비디아 블랙웰 GPU에서 더 빠르게 구동하는 하드웨어 최적화 소식이다. 비슷한 시기 Z.ai는 자사 GLM이 자신이 구동되는 추론 인프라를 스스로 개선하는 초기 사례를 공개했고, 구글도 R4T로 검색 추론 속도를 사전 학습 단계에서 최대 20배 높이는 방법을 내놓는 등, AI 기업들이 모델 자체의 답변 품질 경쟁과 별도로 추론 속도·인프라 최적화 경쟁을 벌이고 있는 흐름 속에 있다.