인퍼런스 훅이란: 모델이 보기 전에 여는 게이트

2026년 8월 5일 Anthropic이 Claude Enterprise 조직 대상으로 인퍼런스 훅(Inference hooks) 베타를 공개했습니다. 사용자가 프롬프트를 보내면 Anthropic 서버가 대화 전체를 조직이 지정한 AI 보안 서버로 HTTPS POST 전송하고, 그 서버가 반환하는 allow·deny 판정에 따라 모델 추론 진행 여부가 결정됩니다. 판정은 사용자 기기가 아니라 Anthropic 서버 쪽에서 일어나므로 클라이언트에 설치할 것이 없고, claude.ai·Cowork·Claude Code(웹·데스크톱·CLI) 전 표면에 동일하게 적용됩니다.

현재 지원 이벤트는 추론 직전 한 번 발생하는 prompt뿐이며, 응답 쪽 검사는 추후 이벤트로 예고돼 있습니다. 검증 타임아웃은 기본 5,000ms(1~10,000ms 조정 가능)이며, 이 시간 안에 보안 서버가 응답하지 못하면 조직이 설정한 실패 처리 정책(차단 또는 통과)이 그대로 적용됩니다.

이진 판정의 한계와 데이터 범위

보안 서버가 받는 정보는 사용자가 보는 것과 같은 대화 텍스트·도구 호출과 결과·첨부파일에서 추출한 텍스트로 한정되고, 원본 파일·이미지 바이트, 시스템 프롬프트, Anthropic 내부 컨텍스트는 전달되지 않습니다. 스크린샷처럼 이미지로만 존재하는 민감정보는 그래서 검사 대상에서 빠집니다.

판정 자체도 allow·deny 둘 중 하나뿐이라 재작성·리댁션은 지원하지 않습니다. Platform(API) 조직과 Bedrock·Google Cloud 경유 요청, 음성 모드는 적용 대상에서 빠지므로 조직이 실제로 통제하는 표면이 어디까지인지부터 표로 정리해 둬야 합니다.

그림자 모드부터 서킷 브레이커까지: 인퍼런스 훅 배포 로드맵

도입 전에 숫자 네 개를 먼저 정합니다. 검증 타임아웃은 보안 서버가 안정적으로 지킬 수 있는 가장 낮은 값으로 잡아야 하며, 기본값 5,000ms보다 낮춰 2,000ms 이내로 설정하면 사용자 체감 지연을 줄일 수 있습니다. 롤아웃 비율은 0%에서 출발해 그림자 모드 관찰을 거친 뒤에만 올리고, 커스텀 차단 메시지는 500자 이내에서 문의 채널을 명시하며, 인증 헤더는 최대 16개까지 등록해 보안 서버 쪽 인증을 강제합니다.

가장 흔한 사고 경로는 그림자 모드를 건너뛰고 곧바로 Enforce verdicts를 켜는 경우입니다. 그림자 모드는 실제 트래픽에 판정을 실행하되 아무것도 차단하지 않으므로, 오탐률을 확인하기 전에 강제 차단으로 넘어가면 도입 첫날부터 정상 업무가 막힙니다. 타임아웃을 지나치게 낮게 잡는 것도 같은 결과를 부릅니다. 타임아웃 초과는 서버 미응답과 동일하게 취급되어 실패 처리 정책이 적용되므로, Block 모드에서는 지연이 곧 차단으로, Allow 모드에서는 검사 누락으로 이어집니다.

보안 서버 장애가 누적되면 서킷 브레이커가 자동으로 트립돼 이후 요청은 보안 서버를 거치지 않고 조직의 실패 처리 설정값을 그대로 따르며, 관리자에게는 알림 센터로 통지됩니다. Block 모드였다면 그 순간부터 조직 전체가 막히므로, 트립 알림을 받는 즉시 서버를 복구하고 Enforce verdicts를 다시 켜 브레이커를 리셋하는 절차를 문서로 고정해 둬야 합니다. 특정 역할군을 제외하려면 커스텀 역할로 예외 처리하되, 역할 조회 자체가 실패하면 통과가 아니라 재시도 가능한 오류로 닫히는 쪽이 기본 동작입니다.

배포 전에는 Test connection으로 URL 구조·사설 IP·타임아웃·비-200 응답·파싱 불가 응답까지 실패 유형을 하나씩 재현해 봅니다. 서명 검증은 Standard Webhooks 규격을 따르고, 시크릿을 회전하면 이전 값은 즉시 폐기돼 신규·구 시크릿이 동시에 유효한 유예 구간이 없으므로 전환 구간 처리를 보안 서버 쪽에 미리 구현해 둡니다. 관측 대시보드는 엔드포인트 상태, 최근 2분 평균 분당 실패 수, 판정 대비 차단 비율, 브레이커 이력을 보여주지만 최선형 집계일 뿐이라 0으로 보인다고 실제 장애가 없다는 보장은 아니며, 차단 기록에 붙는 식별자를 사고 대응 로그와 조인하는 절차를 미리 만들어 둡니다.

그림자 모드에서 모은 차단률과 오탐 사례를 정책 룰에 반영해 롤아웃 비율을 단계적으로 100%까지 올리고, 강제 차단 이후에도 deny_reason별 발생 빈도를 주간 단위로 검토해 보안 서버 정책을 갱신합니다. 사전 차단은 인퍼런스 훅이, 사후 감사·조사는 Compliance API가 맡는 역할 분담을 유지하면 같은 사고를 두 번 쫓을 필요가 없습니다.

바로 쓰는 체크리스트

Claude Enterprise 인퍼런스 훅은 추론 직전 프롬프트를 조직의 보안 서버로 보내 5초 기본 타임아웃 안에 허용·차단을 받는 이진 게이트입니다. 그림자 모드로 오탐률을 먼저 측정하고 롤아웃 비율을 0%에서 단계적으로 올리며, 서킷 브레이커 트립과 실패 처리 정책(Block·Allow)의 조합이 조직 전체에 미칠 영향을 사전에 시뮬레이션해 둬야 도입 첫 주의 장애를 피할 수 있습니다.

참고 링크

Inference hooks — Claude Platform Docs (Anthropic)

Configure Inference hooks — Claude Platform Docs (Anthropic)