이번 소식
Vercel은 2026년 10월 15일 AI Gateway에서 TypeSafe AI의 Jev 1.14를 사용할 수 있다고 발표했습니다. 이번 버전은 판단할 자료로 이미지를 받을 수 있으며, 일반 요청에 담기 어려운 문서·로그·대화를 위한 실험적 긴 문맥 모드를 추가했습니다.
달라진 점
Jev는 긴 답변을 쓰는 대신, 주어진 자료에 대한 질문을 정해진 형식으로 평가하는 모델입니다. 선택지 중 하나를 고르는 Choice, 척도에 따라 점수를 매기는 Score, 참일 확률을 돌려주는 Boolean을 지원합니다. 같은 자료에 여러 질문을 보내 한 요청에서 함께 처리할 수 있습니다.
1.14에서는 텍스트와 이미지 파일을 함께 입력할 수 있습니다. 공식 예시는 PNG 이미지를 넣고 빨간색이 주를 이루는지 묻는 방식입니다. 긴 자료는 providerOptions.typesafe.longContext: true로 별도 모드를 켜서 처리합니다. 이 모드는 실험적 기능이며, 일반 기능과 같은 안정성을 보장한다고 발표된 것은 아닙니다.
어떤 점이 달라지나요?
핵심은 판단 대상이 글에만 머무르지 않는다는 점입니다. 이미지에 대해 미리 정한 질문을 던지거나, 긴 고객 지원 대화에서 특정 내용이 있는지 확인하는 흐름에 활용할 수 있습니다. 공식 긴 문맥 예시도 지원 기록에 배송 파손 보고가 있는지 묻습니다. 자유로운 설명문 대신 정해진 값과 확률을 받는 방식이므로 분류·요청 배분·자동 점검에 연결하기 위한 모델로 이해하면 됩니다.
다만 반환된 확률은 사실 확인을 마쳤다는 보증이 아닙니다. Boolean도 단순한 예·아니요 문자열이 아니라 참일 확률을 반환하므로, 앱에서 어떤 기준으로 후속 처리를 할지 구분해야 합니다.
사용 전 확인할 점
모델 ID는 typesafe-ai/jev-1.14.0입니다. Decision 문서에 따르면 AI SDK의 experimental_decide를 쓰려면 ai 7.0.128 이상이 필요합니다. 이전 AI SDK 7에서는 기존 experimental_evaluate 경로를 확인해야 하며, 일반 Chat Completions나 Responses 엔드포인트로 그대로 호출하는 기능은 아닙니다.
모델 상세 페이지의 입력 요금은 100만 토큰당 US$0.04이며 기본 문맥 크기는 32K로 표시됩니다. 실험적 긴 문맥 모드의 최대 길이를 이 수치에서 추정하면 안 됩니다. 데이터 미보관(Zero Data Retention)과 학습 사용 금지(No Training)도 지원하지만 요청별로 켜야 합니다. 호출은 Gateway 로그·보고서와 예산 관리에 반영되므로 실제 사용량과 설정을 함께 확인하세요.
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.