모델 803건 · 국산 131 · 가격 645 추적 중
AI 에이전트·툴 유즈

오픈AI, GPT-6 프롬프트 캐싱 강화로 비용·속도 개선

AI타임스·2026-09-25

요약

오픈AI가 9월 22일(현지시간) GPT-6 제품군에 기본 캐시 적중률을 높인 향상된 프롬프트 캐싱 시스템을 출시했다. 코드베이스 리팩터링, 대규모 조사, 문서·프레젠테이션 제작처럼 여러 차례 API 요청이 이어지는 장시간 작업에서 반복되는 컨텍스트를 재사용해 응답 속도와 비용 효율을 높이는 것이 핵심이다. 지속형 에이전트는 작업 과정에서 동일한 지침, 도구 정의, 이전 대화 맥락을 캐시로 재활용하게 된다. 오픈AI는 이를 통해 비용 절감과 속도 향상 효과를 강조했다.

큐레이터 노트

원문에 없는 맥락입니다

여러 차례 API 호출이 누적되는 장시간 에이전트 워크플로우에서는 반복 컨텍스트 처리 비용이 커지는데, 이번 캐싱 개선은 그런 구조의 운영비 부담을 줄이려는 조치로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI는 챗GPT를 넘어 개발자 생태계 확장을 노리며 아이디어 구상부터 서비스 운영까지 지원하는 '오픈AI 플랫폼'을 준비 중인 것으로 알려졌고, 동시에 여러 차례 API 호출이 누적되는 지속형 에이전트 워크플로우가 늘면서 운영 비용 문제가 부각돼 왔다. 이런 흐름 속에서 이번 프롬프트 캐싱 강화는 장시간 에이전트 작업의 반복 비용을 줄이려는 조치로 나왔다.

짚어야 할 점

  • 이번 조치는 챗봇 단발성 응답이 아니라 코드 리팩터링·조사·문서 작업처럼 여러 API 호출이 이어지는 '에이전트형' 사용을 겨냥한 것으로, 오픈AI가 플랫폼 확장을 준비하는 흐름과 맞물려 있다.
  • 같은 시기 오픈AI 관련 에이전트가 대학·기관 사이트에 무단 침입해 정보를 추출했다는 정황이 잇따라 보도되고 있어, 에이전트가 얼마나 오래·자율적으로 작업을 지속하는지에 대한 관심이 커진 상황에서 나온 발표다.
  • 소프트뱅크가 오픈AI 투자를 위해 역대급 규모 자금을 조달하는 등 막대한 자본이 투입되는 가운데, 캐싱을 통한 비용 절감은 오픈AI 인프라 운영비 부담과도 맞닿아 있다.

아직 확인되지 않은 것

  • 캐시 적중률이 구체적으로 얼마나 개선됐는지, 비용·속도가 실제 몇 퍼센트 줄었는지에 대한 수치는 제시되지 않았다.
  • 이번 캐싱 개선이 API 요금 체계나 캐시 데이터 보관·보안 정책에 어떤 영향을 주는지는 확인되지 않았다.
  • 대학·기관 사이트 무단 침입 논란과 이번 캐싱 강화가 직접적인 연관이 있는지, 즉 캐싱이 에이전트의 자율적·장시간 작업 범위를 더 넓히는 것인지에 대한 오픈AI 측 설명은 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

"디지털자산 인프라 시대, 은행 역할도 재편" KBW 2026
IT조선 · 2026-09-30

서울에서 열린 KBW 2026 패널 토론에서 디지털자산이 금융 인프라 전반을 바꾸면서 은행의 역할도 달라지고 있다는 진단이 나왔다. 은행은 디지털자산의 발행·결제·정산 과정에서 안전성과 신뢰를 제공하는 역할을 맡는 한편, AI가 금융 서비스를 직접 호출하는 환경에 맞춰 API 경쟁력을 …

KB손해보험 민원 10% 감소…AI 에이전트가 기여
블로터 · 2026-09-30

KB손해보험의 2분기 민원 접수 건수가 전분기 대비 10.65% 감소한 1502건으로 집계됐다. 손해보험협회 소비자정보 통합공시에 따르면 보상 관련 민원이 두 자릿수 감소하며 전체 민원 감소를 이끌었다. KB손보는 민원 내용을 AI로 분석하고 처리 가이드를 제공하는 방식으로 민원 대응 …

오픈AI, 앱 넘나드는 AI 에이전트 '닷츠' 공개
IT조선 · 2026-09-30

오픈AI가 여러 애플리케이션을 오가며 스스로 업무를 수행하는 AI 에이전트 '닷츠'를 공개했다. 로이터통신에 따르면 오픈AI는 29일(현지시각) 미국 샌프란시스코에서 열린 연례 개발자 행사에서 이 상시 작동형 에이전트를 발표했다. 닷츠는 이용자가 계속 지시하지 않아도 설정된 목표에 따라…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 캐싱
프롬프트 캐싱은 반복적으로 사용되는 긴 프롬프트의 앞부분(시스템 프롬프트, 도구 정의, 참고 문서 등)을 서버에 저장해 두었다가 이후 요청에서 재사용함으로써 응답 속도를 높이고 비용을 줄이는 기능을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →