장기 작업은 컨텍스트가 병목이다
자동 연구 루프가 여러 시간, 여러 세션에 걸쳐 돌면 컨텍스트 창이 먼저 한계에 부딪힙니다. 오래된 대화를 그대로 두면 창을 넘고, 무작정 잘라 내면 작업의 일관성이 깨집니다. 컨텍스트 압축은 오래된 부분을 요약해 압축 상태로 대체하되, 작업 연속성을 유지하는 기술입니다.
핵심 통찰은 압축이 단순한 임계값 문제가 아니라 결정 문제라는 점입니다. 언제 압축하느냐가 품질을 좌우합니다.
반응형과 능동형, 그리고 결정 기반
반응형 전략은 문제가 생긴 뒤 대응합니다. 창을 넘으면 가장 오래된 메시지를 버리는 슬라이딩 윈도우나 필요 시 요약이 여기 속합니다. 능동형 전략은 백그라운드에서 미리 요약을 준비해, 임계값에 도달하면 사전 계산된 요약을 즉시 사용해 멈춤 없이 진행합니다. 최근에는 모델이 언제 어떻게 압축할지 스스로 결정하는 결정 기반 압축이 더 적은 토큰으로 임계값 방식과 대등하거나 더 나은 결과를 보였습니다.
A4 분량 상세 가이드: 기획부터 운영까지
기획 단계에서는 압축 목표를 수치로 정의합니다. 예를 들어 압축 후 작업 연속성 유지율, 컨텍스트 초과로 인한 중단 0건, 압축 토큰 비용 상한을 지표로 둡니다. 결정 기반 압축은 압축 도구에 발화 규칙을 함께 줍니다. 하위 작업이 해결되었거나 궤적이 수렴할 때 압축하고, 유도 과정 중간이거나 막혀 있을 때는 압축을 보류합니다. 이렇게 시점을 판단하면 중요한 맥락을 잘라 버리는 실수를 줄입니다.
실패 패턴 중 흔한 것은 결정적 정보를 요약에서 잃는 것입니다. 요약이 결론만 남기고 근거나 미해결 항목을 버리면, 이후 단계가 같은 실수를 반복합니다. 이를 막으려면 계층적 요약을 써서 원문, 중간 요약, 상위 요약을 함께 유지하고, 미해결 과제와 결정 근거는 압축 대상에서 제외합니다. 복구 전략으로, 압축 후 작업이 이전 결정을 부정하거나 반복하면 상위 요약에서 원문으로 되짚어 복원합니다. 단기 메모리는 원시 이벤트를 동기로 저장하고, 장기 메모리는 백그라운드에서 비동기로 구조화 메모리를 만들어 대화를 막지 않게 합니다.
운영 체크리스트에는 압축 이력을 남깁니다. 무엇을 언제 왜 압축했는지, 어떤 항목을 보존했는지를 표준 필드로 기록합니다. 관측 항목으로는 압축 빈도, 압축 후 연속성 실패율, 요약 토큰 대비 원문 비율, 재확장(원문 복원) 횟수를 둡니다. 요약과 원문에 개인정보가 남지 않도록 마스킹 규칙도 유지합니다.
지속 개선 루프는 주간 단위로 압축 후 품질이 떨어진 사례를 분석합니다. 자주 잃는 정보 유형은 보존 규칙에 추가하고, 부적절한 압축 시점은 발화 규칙에 반영합니다. 압축 전략은 고정된 임계값이 아니라, 실제 실패를 흡수하며 계속 조정되는 결정 규칙이어야 합니다.
실행 요약
정리하면 장기 실행 에이전트의 병목은 컨텍스트이고, 압축은 임계값이 아니라 결정 문제입니다. 반응형·능동형을 넘어 결정 기반으로 발화 시점을 판단하고, 계층적 요약으로 근거와 미해결 과제를 보존하며, STM과 LTM을 분리해야 합니다. 압축 후 연속성 실패율을 관측하고 보존 규칙을 계속 보완하면 장기 작업의 일관성이 유지됩니다.