파일 하나가 50MB를 넘으면 그 자리에서 멈춘다: Bedrock 매니지드 RAG 전환 게이트 설계

매니지드가 바뀐 지점: 에이전틱 리트리벌

AWS는 2026년 6월 Amazon Bedrock Knowledge Bases의 완전 매니지드 옵션을 정식 출시했습니다(AWS 공식 공지). 이 경로는 하나의 질문을 여러 하위 질의로 쪼개 계획하고, 중간 응답을 평가해 재순위화하는 멀티홉 에이전틱 리트리벌을 기본으로 포함합니다. 팀이 벡터 스토어 운영을 직접 들여다보지 않아도 되는 대신, 수집 파이프라인의 세부 한도는 그대로 팀의 책임으로 남습니다.

그래프 추론은 선택 사항으로 남는다

엔티티 간 관계를 함께 추적해야 하는 질의가 있다면 Neptune Analytics 기반 GraphRAG를 씁니다. AWS는 이 기능을 2025년 3월 7일 정식 출시했고, 콘솔의 Quick Create로 새 그래프 저장소를 바로 만들 수도 있고 이미 운영 중인 Neptune Analytics 그래프에 연결할 수도 있습니다. 매니지드형 에이전틱 리트리벌과 그래프 추론은 같은 날 같은 지식베이스에 반드시 함께 켜지는 조합이 아니므로, 어느 쪽 질의가 더 많은지부터 확인하고 설계를 시작해야 합니다.

전환 체크리스트: 수집 한도부터 확인한다

전환을 시작하기 전에 운영 목표를 수치로 먼저 선언합니다. 수집 실패율 0%, 멀티홉 질의 응답 지연 p95 기준 유지, 신규 문서 반영까지 걸리는 시간 상한을 팀의 SLA로 걸어 두면 전환 이후에도 같은 기준으로 비교할 수 있습니다. 목표가 없으면 "이전보다 빠른 것 같다"는 인상 평가로 끝나기 쉽습니다.

데이터소스 설계도 이 시점에 함께 정합니다. AWS 공식 문서는 Bedrock Knowledge Base로 들어가는 소스 파일 하나의 크기를 50MB로, JPEG·PNG 이미지는 3.75MB로 제한합니다. 이 한도를 넘는 파일은 수집 단계에서 걸러지는데, 알림을 별도로 설계하지 않으면 그 문서 하나가 지식베이스에서 빠졌다는 사실을 운영팀이 한참 뒤에야 알아챕니다.

실패 패턴은 대체로 두 갈래입니다. 첫째, 스캔 PDF나 이미지가 많은 문서가 50MB·3.75MB 한도를 넘어 조용히 누락되는 경로입니다. 둘째, 매니지드로 먼저 옮긴 뒤 그래프 관계를 묻는 질의가 섞여 있었다는 사실을 운영 중에 발견하는 경로입니다. 두 경로 모두 전환 전 질의 로그와 소스 문서 용량을 살피지 않으면 막기 어렵습니다.

복구는 누락을 잡는 순간부터 시작합니다. 한도 초과로 빠진 문서가 보이면 그 문서를 압축·분할해 재수집하고, 같은 소스에 비슷한 크기의 파일이 더 있는지 전체 스캔으로 확인합니다. 그래프 관계 질의가 뒤늦게 드러난 경우에는 전체 트래픽을 한 번에 되돌리지 않고, 해당 질의 유형만 GraphRAG 경로로 분기해 먼저 검증합니다.

운영 체크리스트는 배포 전 시나리오 테스트로 시작합니다. 50MB에 가까운 파일, 3.75MB에 가까운 이미지를 샘플로 넣어 수집이 실제로 거부되는지 확인하고, 거부 시 에러가 관측 로그에 남는지 점검합니다. 관측 필드에는 소스 파일명·크기·수집 결과·실패 사유를 남겨 두어야 누락을 로그만 보고 추적할 수 있습니다. PII가 섞인 소스는 수집 전 마스킹을 거치게 합니다.

개선 루프는 주 단위로 돌립니다. 그 주에 걸린 한도 초과 건수와 그래프 관계 질의 비율을 함께 집계해 트래픽 성격이 달라지지 않았는지 봅니다. 전환 결정을 한 번으로 끝내지 않고 변경 로그에 분리해 남겨 두면, 다음에 같은 결정을 다시 검토할 때 처음에 무엇을 기준으로 골랐는지가 그대로 남습니다.

한눈에 보는 전환 기준

매니지드 전환은 성능 비교보다 수집 한도와 질의 성격을 먼저 보는 문제입니다. 소스 파일 50MB·이미지 3.75MB 한도를 전환 전 용량 점검에 넣고, 그래프 관계 질의가 섞여 있으면 GraphRAG 경로를 따로 검증한 뒤에 트래픽을 옮기면, 운영 중 문서가 조용히 빠지는 사고를 배포 전에 걸러낼 수 있습니다.

참고 링크

Amazon Bedrock Managed Knowledge Base is now generally available — AWS

Prerequisites for your Amazon Bedrock knowledge base data — AWS