이번 소식
Vercel이 2026년 10월 17일 AI Gateway 로그의 Sessions 화면을 발표했습니다. 여러 AI 요청을 하나의 대화로 묶어 비용과 사용 모델, 요청을 처리한 업체를 함께 보여주는 기능입니다.
달라진 점
각 대화에는 Claude Code, Codex, Cursor 같은 사용 도구와 비용, 모델, 제공 업체, 입력 내용의 캐시 사용량이 표시됩니다. 캐시는 앞서 처리한 입력을 다시 활용하는 방식입니다. 대화를 열면 캐시 적중률과 소요 시간, 매 요청의 모델·처리 시점·업체 경로를 확인할 수 있습니다.
어떤 점이 달라지나요?
AI 도구가 여러 차례 요청을 주고받았을 때 개별 요청뿐 아니라 대화 전체의 비용과 처리 흐름을 살펴볼 수 있습니다. 이전 요청과 같은 업체로 다음 요청을 보내는 세션 연결 유지 기능이 어떻게 작동했는지도 로그에서 확인합니다. 이 화면이 모든 대화의 비용 절감이나 같은 성능을 보장하는 것은 아닙니다.
사용 전 확인할 점
요청 횟수, 사용 도구, 모델, 업체, 인증 방식, 비용으로 걸러 볼 수 있습니다. 요청이 한 번뿐인 대화는 최소 요청 횟수 필터를 해제해야 나타납니다. 세션 연결 유지는 텍스트·채팅 요청에 기본 적용됩니다. 대화를 직접 묶으려면 각 요청에 같은 sessionId 또는 x-session-id 헤더를 전달합니다. 지정하지 않으면 대화 시작 부분을 바탕으로 자동 분류됩니다.
공식 발표일: 2026년 10월 17일
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.