이번 소식
여러 AI 모델을 연결해 쓰는 Vercel AI Gateway에서 OpenAI의 Ultrafast 처리 등급을 사용할 수 있게 됐습니다. 대상은 GPT-6 Astra와 GPT-6.1 Sol입니다. Vercel은 대화형 앱과 빠른 코드 수정 작업에서 출력 속도를 높이는 선택지로 소개했습니다.
달라진 점
AI SDK, Chat Completions API 또는 Responses API로 요청할 수 있습니다. 공식 AI SDK 예제는 모델을 openai/gpt-6.1-sol로, OpenAI의 serviceTier를 ultrafast로 지정하고 Gateway의 제공자도 openai로 제한합니다.
도구 호출이 잦은 작업에는 연결을 유지하는 WebSocket 방식의 Responses API가 권장됩니다. 호출 사이의 연결 부담을 줄이기 위한 안내입니다.
어떤 점이 달라지나요?
AI Gateway로 앱을 만드는 개발자는 속도가 중요한 요청에 이 등급을 선택할 수 있습니다. 비용도 함께 확인해야 합니다. 실제 Ultrafast 처리분은 표준 토큰 단가의 6배이며, 다른 등급으로 전환된 요청은 실제 처리 등급의 요금이 적용됩니다.
사용 전 확인할 점
Gateway의 Ultrafast는 US·global 처리를 지원합니다. EU처럼 미지원 지역에 고정한 요청은 기본 등급인 default로 처리됩니다. 등급을 지정하지 않아도 표준 처리가 기본입니다. 요청한 등급과 실제 처리 등급이 같다고 가정하지 않아야 합니다.
공식 발표일: 2026년 10월 8일
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.