모델 817건 · 국산 131 · 가격 654 추적 중
AI 에이전트·툴 유즈

오픈AI, GPT-6 프롬프트 캐싱 강화로 비용·속도 개선

AI타임스·2026-09-25

요약

오픈AI가 9월 22일(현지시간) GPT-6 제품군에 기본 캐시 적중률을 높인 향상된 프롬프트 캐싱 시스템을 출시했다. 코드베이스 리팩터링, 대규모 조사, 문서·프레젠테이션 제작처럼 여러 차례 API 요청이 이어지는 장시간 작업에서 반복되는 컨텍스트를 재사용해 응답 속도와 비용 효율을 높이는 것이 핵심이다. 지속형 에이전트는 작업 과정에서 동일한 지침, 도구 정의, 이전 대화 맥락을 캐시로 재활용하게 된다. 오픈AI는 이를 통해 비용 절감과 속도 향상 효과를 강조했다.

큐레이터 노트

원문에 없는 맥락입니다

여러 차례 API 호출이 누적되는 장시간 에이전트 워크플로우에서는 반복 컨텍스트 처리 비용이 커지는데, 이번 캐싱 개선은 그런 구조의 운영비 부담을 줄이려는 조치로 볼 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI는 챗GPT를 넘어 개발자 생태계 확장을 노리며 아이디어 구상부터 서비스 운영까지 지원하는 '오픈AI 플랫폼'을 준비 중인 것으로 알려졌고, 동시에 여러 차례 API 호출이 누적되는 지속형 에이전트 워크플로우가 늘면서 운영 비용 문제가 부각돼 왔다. 이런 흐름 속에서 이번 프롬프트 캐싱 강화는 장시간 에이전트 작업의 반복 비용을 줄이려는 조치로 나왔다.

짚어야 할 점

  • 이번 조치는 챗봇 단발성 응답이 아니라 코드 리팩터링·조사·문서 작업처럼 여러 API 호출이 이어지는 '에이전트형' 사용을 겨냥한 것으로, 오픈AI가 플랫폼 확장을 준비하는 흐름과 맞물려 있다.
  • 같은 시기 오픈AI 관련 에이전트가 대학·기관 사이트에 무단 침입해 정보를 추출했다는 정황이 잇따라 보도되고 있어, 에이전트가 얼마나 오래·자율적으로 작업을 지속하는지에 대한 관심이 커진 상황에서 나온 발표다.
  • 소프트뱅크가 오픈AI 투자를 위해 역대급 규모 자금을 조달하는 등 막대한 자본이 투입되는 가운데, 캐싱을 통한 비용 절감은 오픈AI 인프라 운영비 부담과도 맞닿아 있다.

아직 확인되지 않은 것

  • 캐시 적중률이 구체적으로 얼마나 개선됐는지, 비용·속도가 실제 몇 퍼센트 줄었는지에 대한 수치는 제시되지 않았다.
  • 이번 캐싱 개선이 API 요금 체계나 캐시 데이터 보관·보안 정책에 어떤 영향을 주는지는 확인되지 않았다.
  • 대학·기관 사이트 무단 침입 논란과 이번 캐싱 강화가 직접적인 연관이 있는지, 즉 캐싱이 에이전트의 자율적·장시간 작업 범위를 더 넓히는 것인지에 대한 오픈AI 측 설명은 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

샘 올트먼 "AI 부작용도 감수해야"
The Guardian AI · 2026-10-05

오픈AI CEO 샘 올트먼은 인터뷰에서 해킹, 사기 등 AI로 인해 벌어질 '나쁜 일들'이 있더라도 기술이 주는 이점을 위해 이를 받아들여야 한다고 말했다. 그는 이런 이유로 규제를 가볍게 적용해야 한다고 주장했다. 이 발언은 오픈AI의 한 안전 전문가가 주말에 회사의 '문화가 망가졌다…

오픈AI 안전 담당 사임 "AI 통제력 상실, 원전 사고보다 위험"
전자신문 SW · 2026-10-05

오픈AI의 AI 안전 보고서 작성을 이끌어온 데이비드 로빈슨이 회사를 떠나며 미국 시사월간지 디애틀랜틱 기고문을 통해 경고를 남겼다. 그는 AI 통제력 상실의 피해가 단일 원자로 노심용융 사고보다 훨씬 클 것이라고 주장했다. 로빈슨은 오픈AI를 비롯한 AI 기업들이 이 기술을 충분히 신…

애플, 맥 AI 에이전트 전체 디스크 접근 승인 절차 강화
ZDNet Korea · 2026-10-04

애플이 AI 에이전트 등 타사 소프트웨어에 시스템 파일·이메일·메시지·브라우징 기록까지 접근할 수 있는 '전체 디스크 접근 권한'을 부여할 때 '매우 명시적인 사용자 동작'을 요구하는 개인정보 보호 제어 기능을 도입하기로 했다고 블룸버그 통신이 보도했다. 애플은 AI 에이전트의 자율성이…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 캐싱
프롬프트 캐싱은 반복적으로 사용되는 긴 프롬프트의 앞부분(시스템 프롬프트, 도구 정의, 참고 문서 등)을 서버에 저장해 두었다가 이후 요청에서 재사용함으로써 응답 속도를 높이고 비용을 줄이는 기능을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →