전사 레드액션과 요약 생성은 같은 파이프라인이 아니다

콜봇 루프에서 통화가 끝나면 전사에 마스킹을 입히는 레드액션 단계와, 그 전사를 다시 모델에 넣어 상담 요약을 만드는 단계가 따로 돈다. 둘이 분리돼 있어 레드액션이 전사에는 적용됐는데 요약 입력에는 빠지는 경로가 생긴다. Amazon Connect 문서에 따르면 생성형 AI 상담 요약에 레드액션되지 않은 개인정보가 섞이면 Bedrock 안전 가드레일이 걸려 요약 생성이 FAILED_SAFETY_GUIDELINES 코드로 실패한다 — "요약 실패" 알림만 뜨고 원인은 로그를 뒤져야 보인다.

마스크 모드가 바뀌면 다운스트림 파서가 조용히 깨진다

레드액션 마스크 모드는 두 가지다. PII 모드는 식별정보를 모두 [PII]로 뭉뚱그리고, ENTITY_TYPE 모드는 [CREDIT_DEBIT_NUMBER]처럼 항목명을 남긴다. CRM 자동화가 요약 텍스트에서 정규식으로 항목을 뽑아 티켓 필드에 넣는다면, 두 모드 사이 설정 변경 한 번에 그 파서가 조용히 무력화된다. 설정은 인스턴스 단위가 아니라 컨택 플로우 단위라, 플로우를 복제해 캠페인을 늘리는 순간 설정을 놓치기 쉽다.

지원 언어 밖은 무방비 구간이다

2025년 9월 AWS는 Contact Lens 레드액션 지원 언어를 프랑스어(프랑스·캐나다)·포르투갈어(포르투갈·브라질)·이탈리아어·독일어·스페인어(스페인) 7개 로케일로 넓혔다. 영어를 더해도 상시 지원은 8개뿐이다. 한국어·일본어처럼 그 밖의 언어로 운영하는 콜봇은 벤더의 자동 레드액션이 적용되지 않으므로 자체 전처리나 룰 기반 마스킹을 앞단에 둬야 한다.

설계에서 운영까지: AI 통화 요약 레드액션 게이트 체크리스트

기획 단계 목표 지표부터 숫자로 박는다. 합성 PII 100건(카드번호·주민번호 패턴·전화번호)을 넣은 배포 전 회귀셋 통과율 100%, 요약-CRM 동기화 지연 5분 이내, 미지원 로케일 콜 비율 주간 추적이다.

레드액션 누락은 사후 발견 시 이미 CRM·분석 플랫폼으로 퍼진 뒤라 복구 비용이 전사 1건 수정보다 훨씬 크다는 점을 기획 단계에서부터 전제해야 한다.

실패 패턴은 FAILED_SAFETY_GUIDELINES 거부 경로를 중심으로 짠다. 1차 재시도는 레드액션 강도를 올린 전사로 다시 호출하고, 2차도 실패하면 LLM 요약을 포기해 사전 정의 템플릿(통화 사유·처리 결과·후속 조치만 채우는 정형 요약)으로 대체한다.

같은 캠페인에서 연속 10건 이상 실패하면 서킷브레이커로 요약 생성을 멈추고, 운영자가 설정을 확인할 때까지 원본 전사는 암호화된 격리 저장소에만 쌓는다.

운영 체크리스트는 로그 필드부터 고정한다. redaction_mode, redacted_entity_count, summary_model_version, locale, crm_sync_status 다섯 필드를 모든 통화 레코드에 남기고, 배포 전 시나리오 테스트에는 지원 언어 밖 로케일 1건과 ENTITY_TYPE·PII 모드 전환 1건을 반드시 포함한다.

상담사가 요약을 CRM 메모란에 수동 복사하는 경로는 레드액션을 거치지 않고 로그에도 남지 않는 전송을 만들므로, UI에서 복사를 막거나 복사 시 감사 로그를 남기게 해야 한다. 지속 개선 루프는 두 갈래다. 주간 단위로 레드액션 미탐지 패턴(새 카드 BIN 범위, 신분증 번호 형식 변경)을 모아 엔티티 목록을 갱신하는 루틴과, 개인정보 삭제 요청(GDPR 17조 등) 처리 시 원본 통화뿐 아니라 연결된 CRM의 요약 레코드까지 함께 지우는 절차를 별도 변경 로그로 추적하는 루틴이다. 둘을 하나로 합치면 "레드액션 규칙이 바뀐 날"과 "삭제 처리가 바뀐 날"이 섞여 사고 조사 때 원인을 못 가른다.

실행 요약

AI 통화 요약은 전사 레드액션과 별개의 파이프라인이라는 전제로 설계해야 한다. 마스크 모드·지원 언어·동기화 경로마다 빠지는 지점이 다르므로, 합성 PII 회귀 테스트와 다섯 가지 로그 필드, FAILED_SAFETY_GUIDELINES 전용 복구 분기, 수동 복사 차단을 묶어야 레드액션 게이트가 CRM 유입 전 마지막 방어선으로 작동한다.

참고 링크

Amazon Connect: 생성형 AI 상담 요약 보기(AWS 공식 문서)

Amazon Connect Contact Lens 레드액션 지원 언어 7개 추가 발표(AWS, 2025-09)

이 글에 대해 AI와 대화하기

AI가 이 글을 읽은 상태로 답합니다. 무엇이든 물어보세요 — 글에 없는 내용이면 없다고 먼저 알려줍니다.

대화창을 불러오는 중…