이번 소식
Vercel이 2026년 10월 14일 AI Gateway에서 NVIDIA의 Nemotron 3.5 Lightning을 무료로 사용할 수 있다고 발표했습니다. AI Gateway는 여러 AI 모델을 하나의 연결 방식으로 이용하게 해 주는 서비스입니다. 이번 무료 모델은 NVIDIA가 제공하며, 모델 이름은 nvidia/nemotron-3.5-lightning-free입니다.
달라진 점
Nemotron 3.5 Lightning은 추론과 대화에 쓰는 공개 가중치 모델입니다. 가중치는 모델이 학습한 수치 정보이며, Vercel은 오래 실행되는 에이전트, 일을 나눠 맡는 하위 에이전트, 챗봇과 외부 자료를 찾아 답에 활용하는 검색 증강 생성(RAG)을 주요 용도로 소개했습니다.
한 번에 다룰 수 있는 입력 범위는 최대 100만 토큰입니다. 토큰은 AI가 글을 처리할 때 사용하는 단위입니다. 외부 도구를 호출하는 기능과, 정해진 형식으로 응답을 받는 구조화된 출력도 지원합니다. 큰 입력 범위가 모든 작업의 정확도나 속도를 보장한다는 뜻은 아니므로 실제 작업에 맞는 확인이 필요합니다.
어떤 점이 달라지나요?
AI SDK와 Chat Completions, Responses, Messages API를 통해 이 모델을 호출할 수 있습니다. 이미 AI Gateway를 사용하는 개발자는 무료 모델 식별자를 지정해 연결할 수 있습니다. 공식 안내에는 Claude Code, Codex, Cursor 같은 코딩 에이전트를 AI Gateway에 연결하는 방법도 포함됐습니다.
코딩 에이전트에서 연결하려면 최신 Vercel CLI를 사용하고 npx vercel ai-gateway setup을 실행한 뒤 모델을 선택하도록 안내합니다. CLI는 터미널에 명령을 입력해 서비스를 다루는 도구입니다. 이 연결 절차는 AI Gateway를 거쳐 해당 모델을 쓰는 경로이며, 기존 코딩 도구의 모든 기능이나 이용 조건이 무료로 바뀐다는 발표는 아닙니다.
사용 전 확인할 점
무료 제공 조건과 함께 데이터 처리 조건을 꼭 확인해야 합니다. Vercel은 제공사가 모델 개선을 위해 프롬프트를 보관할 수 있다고 명시했습니다. 프롬프트는 모델에 보내는 요청 내용입니다. 회사 내부 자료, 개인정보나 공개하면 안 되는 소스 코드를 넣기 전에는 이 보관 가능성이 사용 목적에 맞는지 판단해야 합니다.
이번 소식의 무료 대상은 발표에 지정된 Nemotron 3.5 Lightning 모델입니다. 다른 AI Gateway 모델이나 연결한 코딩 도구의 요금까지 무료라고 확대해 해석하지 않는 것이 중요합니다.
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.