이번 소식
Vercel이 2026년 10월 21일 AI Gateway에 Baseten의 Mammoth-1과 Elephant-1을 추가했다고 발표했습니다. 무료 이용은 원문 날짜 기준 2026년 10월 27일까지입니다. 종료 시각과 시간대는 이번에 확인한 발표에서 확정하지 못했으므로 한국시간 마감 시각으로 바꾸지 않습니다.
달라진 점
- 두 모델은 텍스트를 분류하고, 요청을 어디로 보낼지 고르거나, 정해진 기준에 따라 내용을 평가하는 판단용 모델입니다.
- Mammoth-1은 270억, Elephant-1은 90억 매개변수 규모입니다. 둘 다 한 번에 처리할 수 있는 입력 범위인 컨텍스트 창이 16k 토큰이며 선택 결과·확률·점수를 반환합니다.
- 같은 입력에 여러 질문을 한 번에 넣을 수 있습니다. 발표 예시는 고객 문의의 담당 팀 선택, 환불 요청 여부 확인, 긴급도 평가입니다.
어떤 점이 달라지나요?
긴 답변을 생성하는 대신, 서비스가 다음 행동을 정하는 데 쓸 판단 결과를 받을 수 있습니다. 자동 처리할지 사람의 검토로 넘길지 결정하는 확률 기준은 애플리케이션이 정합니다. 모델이 결과를 반환한다는 사실이 판단의 정확성이나 자동 처리의 안전성을 보장하는 것은 아닙니다.
사용 전 확인할 점
모델 이름은 baseten/mammoth-1과 baseten/elephant-1입니다. AI Gateway는 모델 접근과 사용량·비용 추적을 통합하며, 판단 요청도 다른 모델 요청과 함께 로그와 예산에 반영됩니다. 구체적인 질문 형식은 공식 Decision 문서에서 확인할 수 있습니다.
이번 발표만으로 무료 기간 이후 가격이나 계정별 무제한 사용을 단정하지 않습니다. 공식 발표일: 2026년 10월 21일.
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.