오늘의 주요 요약
Google은 Gemini Enterprise Agent Platform에서 프롬프트 검사, 도구 호출의 의도 판단, 여러 턴에 걸친 이상 행동 탐지를 하나의 런타임 통제 흐름으로 묶는 방법을 공개했습니다. Anthropic은 Salesforce의 계정·영업 기회·파이프라인을 Claude 안에서 다루는 베타 플러그인을 유료 플랜에 선보였습니다.
수집 범위: 2026년 9월 15일 09:00부터 9월 16일 09:00까지 KST 기준으로 공개된 공식 자료를 확인했습니다. 최근 7일 BlogFlow AI 브리핑의 제목·핵심 키워드·원문 URL과 실질적으로 겹치는 발표는 제외했습니다.
주요 AI 소식
Google, AI 에이전트 런타임 거버넌스 공개
발표 내용: Google은 2026년 9월 15일 Gemini Enterprise Agent Platform에서 제로 트러스트 AI 에이전트를 운영하는 런타임 거버넌스 구성을 공개했습니다. Agent Gateway가 사용자, 에이전트, 모델, 도구 사이의 요청을 가로채며 Model Armor, Semantic Governance Policies, Agent Anomaly Detection을 순서대로 적용합니다.
달라진 점: 앞선 참조 구현이 정규식 기반 입력 검사와 자체 컨테이너 통제를 중심으로 했다면, 이번 구성은 관리형 런타임에서 프롬프트·응답을 검사하고 자연어 정책으로 도구 호출의 의도를 판단합니다. 개별 요청은 정상이어도 여러 턴에 걸친 반복 환불처럼 누적될 때 위험해지는 행동은 세션 텔레메트리로 탐지하며, 관리자는 탐지 결과를 새 정책으로 반영할 수 있습니다.
개발자 영향: 에이전트 보안을 시스템 프롬프트나 입력 필터 하나로 해결하기보다 입력·출력 검사, 실행 전 정책 평가, 세션 단위 이상 탐지를 분리해 설계할 근거가 생겼습니다. MCP 서버나 백엔드 API로 연결된 도구도 실행 직전에 사용자 의도와 업무 규칙을 대조하고, 거부된 호출과 누적 행동을 로그로 남기는 구조가 필요합니다. Google은 같은 공격 흐름을 재현하는 zero-trust-agents-2 예제도 공개했습니다.
공식 출처: Google Developers Blog — Build zero-trust AI agents that judge intent, not just syntax
Anthropic, Salesforce in Claude 베타 출시
발표 내용: Anthropic은 2026년 9월 15일 Salesforce in Claude를 베타로 출시했습니다. Salesforce 계정, 영업 기회, 파이프라인을 Claude 안으로 가져오고 Salesforce와 Slack 커넥터, Salesforce가 만든 37개의 영업 스킬을 함께 제공합니다.
달라진 점: 판매자는 Claude에서 계정 조사, 미팅 준비, 거래 검토, 파이프라인 대시보드 작성, 예측 전송을 처리할 수 있습니다. 예약된 아침 브리핑에서 마감 임박 거래와 위험 기회를 확인하고, 승인 후 마감일·단계·후속 작업을 Salesforce에 다시 기록할 수 있습니다. 베타는 Salesforce의 승인을 받은 조직이 모든 Claude 유료 플랜에서 이용할 수 있습니다.
개발자 영향: CRM 연동은 조회형 챗봇을 넘어 실제 레코드 변경까지 포함하므로 커넥터 인증, 사용자별 권한, 승인 전 쓰기 차단, 작업 감사 기록이 핵심이 됩니다. 비슷한 플러그인을 만드는 팀은 계정·기회·연락처를 하나의 긴 프롬프트로 합치기보다 작업별 스킬로 분리하고, 쓰기 동작마다 변경 대상과 승인 결과를 명확히 보여주는 편이 안전합니다.
공식 출처: Anthropic — Salesforce in Claude
개발자가 확인할 점
두 발표는 AI 에이전트가 외부 업무 시스템을 읽고 쓰는 단계로 갈수록 모델 성능과 별개인 실행 통제 계층이 필요하다는 점을 보여줍니다. 연결 기능을 평가할 때는 아래 항목을 한 흐름으로 검증하는 편이 좋습니다.
- 입력과 모델 응답에서 프롬프트 주입·민감정보 노출을 각각 검사하는지 확인합니다.
- 도구 호출 직전에 사용자 의도, 업무 규칙, 대상 레코드, 요청 범위를 다시 평가합니다.
- 개별 호출뿐 아니라 한 세션의 누적 횟수·금액·반복 패턴을 탐지할 수 있어야 합니다.
- CRM 쓰기 동작은 사용자 승인을 받은 뒤 실행하고, 승인자·변경 전후 값·실행 결과를 감사 로그에 남깁니다.
공식 출처와 확인 기준
- Google Developers Blog — Build zero-trust AI agents that judge intent, not just syntax
- Anthropic — Salesforce in Claude
- Claude Help Center — Release notes
제품명·기능 범위·발표일·제공 조건은 위 공식 자료를 대조했습니다. 가격은 공식 자료에 별도 금액이 명시되지 않아 추정하지 않았습니다.
같이 읽으면 좋은 글
이 글이 도움이 되었나요?
새 글 받아보기
RSS 리더에서 BlogFlow의 새 글을 확인할 수 있습니다.