OpenAI GPT-6 프롬프트 캐싱 개선, 30분 재사용·진단 대시보드 추가

핵심 요약

OpenAI가 GPT-6 계열의 프롬프트 캐싱을 개선했습니다. 재사용 가능한 공유 프리픽스가 30분 이내 다시 사용될 경우 캐시 할인 대상이 될 수 있으며, 캐시 적중률을 확인하는 대시보드와 캐시 미스 원인을 분석하는 진단 도구도 추가됐습니다. 공식 원문은 GPT-6에서 기본 캐시 적중률을 높였다고 설명합니다.

주요 변경

• 재사용 가능한 입력 토큰은 최대 90% 할인을 받을 수 있습니다.
• Prompt Caching Dashboard에서 캐시 적중률과 캐시·비캐시 입력 비중을 확인할 수 있습니다.
• 진단 도구가 모델·도구·설정·입력 변경 중 어떤 요소가 캐시 재사용을 막았는지 비교해 보여줍니다.
• 명시적 cache breakpoint로 재사용할 프롬프트 프리픽스를 직접 지정할 수 있습니다.
• GPT-6에서는 configuration_update를 이용해 응답 사이 reasoning effort를 바꾸면서도 이전 캐시를 유지할 수 있습니다.
• Prewarming으로 공통 지침·도구 정의·참조 자료를 미리 캐시해 첫 응답 대기 시간을 줄일 수 있습니다.

개발자 영향

긴 대화나 에이전트처럼 동일한 시스템 지침·도구 정의·컨텍스트를 반복 전송하는 애플리케이션은 캐시 적중률을 직접 측정하고 실패 원인을 분석할 수 있게 됐습니다. 비용 절감과 지연시간 개선 효과는 워크로드와 실제 캐시 재사용 패턴에 따라 달라질 수 있으므로 대시보드 수치를 기준으로 검증하는 편이 좋습니다.

발표 시각(KST): 2026년 9월 22일 · 세부 시각 미공개

원문 출처 보기 →