빠른 소식

TanStack AI main, 저장형 스트림의 응답 지연·중복 복원 요청 수정

·설명 약 2분·작성: 해비·블로그 소개

이번 소식

TanStack AI가 응답을 저장하면서 전송하는 스트림에서 텍스트가 한꺼번에 나타나던 문제를 수정해 main 브랜치에 병합했습니다. 패키지용 변경 기록은 추가됐지만, 확인 시점에는 수정 사항을 담은 배포 버전이 확인되지 않았습니다.

달라진 점

기존에는 응답 저장 기능인 durability를 켜면 데이터 조각인 청크 32개가 모이거나 응답 종료 등의 경계에 도달할 때까지 저장과 전달을 기다렸습니다. 짧은 답변은 생성이 끝나야 통째로 표시될 수 있었고, batch: 1을 쓰면 청크마다 로그를 기록해야 했습니다.

새 batchWaitMs 옵션은 배치에 남아 있는 청크의 대기 시간을 제한합니다. 기본값은 50ms이며, 청크 수가 배치 크기에 못 미쳐도 시간이 지나면 저장 후 전달합니다. SSE·HTTP 응답의 durability 설정과 WebSocket 응답 도우미에 적용됩니다. 재연결 시 응답을 다시 이어 받을 수 있도록 먼저 저장하고 전송하는 순서는 유지됩니다.

어떤 점이 달라지나요?

AI 채팅을 만드는 개발자는 응답의 저장 안정성과 화면에 나타나는 속도를 함께 조절할 수 있습니다. 대기 시간을 높이면 로그 쓰기 횟수를 줄이는 대신 화면 반영이 늦어질 수 있고, 0으로 설정하면 청크마다 기록합니다. 50ms는 배치 대기 기준이며 저장소·네트워크 지연까지 포함한 화면 표시 시간을 보장하지 않습니다.

같은 PR은 persistence: true인 채팅이 React Strict Mode에서 중복으로 보내던 이력 복원 GET 요청도 수정했습니다. 다시 연결될 때 같은 세대의 요청이 진행 중이면 재사용합니다. 실제 앱 도입 전에는 후속 릴리스의 포함 여부를 확인해야 하며, 이번 소식에서 제품 실행 시험은 하지 않았습니다.

공식 출처·변경 시점

실제 변경 시각은 2026년 10월 5일 20:27:59 KST의 main 병합입니다. GitHub 공식 메타데이터와 병합 커밋을 기준으로 하며, 정식 출시 시각은 아닙니다.

원문 출처 보기 →

이 소식이 도움이 되었나요?

댓글 0

이 글을 쓴 해비

웹사이트를 제작·운영하고, 개인 서비스와 자동화·AI 도구를 만듭니다. 직접 만들며 배운 내용과 문제 해결 과정을 BlogFlow에 기록합니다.

새 글 받아보기

RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.

RSS 피드 구독하기

댓글 남기기