TencentDB Agent Memory: 장시간 실행되는 AI 에이전트를 더 싸고 안정적으로 만드는 메모리 구조

AI 에이전트가 장시간 작업을 수행할 때 가장 큰 기술적 제약 중 하나는 **컨텍스트 윈도(context window)**다. 웹 검색 결과, 코드 실행 로그, 문서 분석 결과, 중간 추론 과정 등이 계속 쌓이면 프롬프트가 빠르게 커지고 토큰 비용이 증가한다. 동시에 모델이 핵심 정보를 놓치기 쉬워져 작업 안정성도 떨어질 수 있다.

텐센트 클라우드는 이 문제를 해결하기 위해 TencentDB Agent Memory라는 메모리 시스템을 공개했다. 2026년 5월 오픈소스로 공개된 이 프로젝트는 레이어드(long‑term) 메모리 구조와 단기 컨텍스트 압축 기술을 결합해 장시간 실행되는 AI 에이전트를 더 효율적으로 만들도록 설계됐다. 텐센트의 내부 테스트에 따르면 이 방식은 토큰 사용량을 최대 61%까지 줄이면서 장기 작업 성공률을 높였다고 한다.

TencentDB Agent Memory란 무엇인가

TencentDB Agent Memory는 복잡하고 긴 워크플로를 수행하는 AI 에이전트를 위해 설계된 오픈소스 메모리 엔진이다. 프로젝트는 MIT 라이선스로 공개됐으며, 다음 두 가지 핵심 기능을 제공한다.

• 세션을 넘어 유지되는 장기 메모리
• 작업 중 프롬프트 크기를 줄이는 단기 컨텍스트 압축

이를 통해 에이전트는 단순히 대화를 이어가는 수준을 넘어 다음과 같은 능력을 갖게 된다.

• 사용자 선호와 과거 작업 방식 기억
• 긴 작업 흐름의 상태 유지
• 불필요한 로그와 데이터를 프롬프트에서 제거

핵심 아이디어는 간단하다. 모든 데이터를 모델에게 계속 보여주는 대신 구조화된 기억과 요약만 컨텍스트에 남기는 것이다.

4단계 장기 메모리 구조

TencentDB Agent Memory는 대화를 그대로 저장하는 대신, 정보를 단계적으로 정제하는 4단계 메모리 구조를 사용한다.

L0: Raw Dialogue Layer
에이전트와 사용자 간의 전체 대화와 작업 기록을 그대로 저장한다.

L1: Atomic Memory Layer
대화에서 추출한 사실, 사용자 선호, 제약 조건, 단계별 결론 같은 구조화된 정보를 저장한다.

L2: Scenario Summary Layer
특정 작업이나 시나리오와 관련된 기억을 묶어 요약한다.

L3: User Profile Layer
장기간 반복되는 행동 패턴과 선호를 분석해 사용자 프로필로 정리한다.

이 구조 덕분에 에이전트는 단순히 과거 로그를 읽는 것이 아니라 경험에서 추출된 지식을 재사용할 수 있게 된다.

핵심 기술: Context Offloading + Mermaid Task Canvas

이 시스템에서 가장 중요한 효율 개선은 단기 작업 메모리를 관리하는 방식에서 나온다.

Context Offloading

에이전트가 웹 페이지를 가져오거나 코드를 실행하면, 그 결과 전체를 프롬프트에 남겨두지 않는다.

대신:

• 전체 데이터는 외부 저장소에 저장
• 모델 컨텍스트에는 요약 정보나 참조만 유지

이 방식은 로그나 문서 같은 대용량 데이터를 계속 프롬프트에 넣어 두는 문제를 해결한다.

Mermaid Task Canvas

또 하나의 핵심 요소는 **Mermaid 기반의 작업 그래프(Task Canvas)**다.

Mermaid는 GitHub 문서 등에서 널리 사용되는 텍스트 기반 다이어그램 언어다. 에이전트의 작업 흐름을 그래프 형태로 표현할 수 있다.

이 캔버스에서는

• 노드: 작업 단계
• 엣지: 단계 간 의존 관계
• 각 노드: 상태와 요약 정보

즉, 긴 텍스트 기록 대신 작업의 구조 자체를 지도처럼 표현한다.

텐센트는 이를 이렇게 설명한다. “로그는 기록에는 좋지만, 탐색에는 지도가 더 낫다.” 이 Mermaid Task Canvas가 바로 에이전트에게 그런 지도 역할을 한다.

컨텍스트 ‘수위’ 기반 동적 압축

TencentDB Agent Memory는 프롬프트 사용량을 실시간으로 모니터링하며 컨텍스트가 차오르면 자동으로 압축 수준을 높인다.

대표적인 단계는 다음과 같다.

• L1 요약 압축: 도구 실행 직후 결과를 즉시 요약
• L2 작업 캔버스 업데이트: Mermaid 그래프로 작업 구조 유지
• L3 심층 압축: 컨텍스트 사용량이 약 80% 이상이면 오래된 메시지를 강하게 압축하거나 제거

사용량이 약 95% 수준에 가까워지면 긴급 압축을 실행해 컨텍스트를 다시 줄인다.

보고된 성능 결과

텐센트는 여러 벤치마크에서 Agent Memory 적용 전후 결과를 공개했다. 다만 이는 벤더 자체 실험 결과라는 점을 감안해야 한다.

WideSearch

• 통과율: 33% → 50%
• 토큰 사용: 221.31M → 85.64M (61.38% 감소)

SWE‑bench

• 성공률: 58.4% → 64.2%
• 토큰 사용: 3474.1M → 2375.4M (33.09% 감소)

AA‑LCR

• 성공률: 44.0% → 47.5%
• 토큰 사용: 112.0M → 77.3M (30.98% 감소)

PersonaMem

• 정확도: 약 48% → 약 76%

또한 코드 생성, 웹 검색, 문서 분석 등 1,540개 작업 테스트에서 전체 작업 완료율이 12%~35% 증가, 토큰 사용은 33%~64% 감소했다고 보고했다.

4월 출시와 5월 14일 오픈소스 공개의 차이

TencentDB Agent Memory는 2026년에 두 단계로 공개됐다.

4월 초기 출시

• 장기 메모리 기능 중심
• 4단계 메모리 구조 공개
• PersonaMem 벤치마크 성능 강조

5월 14일 오픈소스 공개

• 전체 스택을 MIT 라이선스로 공개
• 단기 메모리 압축 시스템 추가
• Context Offloading + Mermaid Task Canvas 기술 강조

즉 초기 버전은 지속적 기억, 오픈소스 버전은 장기 작업 컨텍스트 관리에 더 초점을 맞췄다.

지원되는 에이전트 프레임워크

텐센트에 따르면 Agent Memory는 이미 여러 에이전트 프레임워크와 통합할 수 있다.

예를 들어:

• OpenClaw: 메모리 확장 플러그인 형태로 사용 가능
• Hermes Gateway / Hermes Agent: Docker 기반 배포 지원

덕분에 개발자는 기존 에이전트 구조를 크게 바꾸지 않고 메모리 기능을 추가할 수 있다.

왜 중요한가: AI 에이전트 경쟁의 핵심 문제

AI 에이전트가 실제 제품으로 발전하면서 새로운 병목이 등장했다. 바로 컨텍스트 비용과 안정성 문제다.

에이전트가 긴 작업을 수행할수록

• 토큰 비용이 빠르게 증가하고
• 프롬프트가 복잡해지며
• 모델이 작업 흐름을 잃기 쉽다.

TencentDB Agent Memory는 이 문제를 두 방향에서 동시에 해결하려는 시도다.

• 비용 절감: 토큰 사용을 줄여 운영 비용을 낮춤
• 작업 안정성: 구조화된 작업 메모리로 긴 워크플로를 안정적으로 유지

이 접근 방식이 다양한 모델과 에이전트 프레임워크에서도 동일한 효과를 보인다면, 앞으로 자율 AI 에이전트 인프라의 중요한 구성 요소가 될 가능성이 있다.

다만 현재 성능 수치는 대부분 텐센트 자체 실험 결과이기 때문에, 실제 환경에서의 효과는 추가적인 독립 검증을 통해 확인될 필요가 있다.