체화형 AI 에이전트는 눈앞의 장면을 인식하는 것만으로는 충분하지 않습니다. 앞서 어디서 무엇을 봤는지, 행동 뒤에 환경이 어떻게 바뀌었는지 기억하고 다음 과제에 활용해야 합니다. 저장대(浙江大) OmniAI 팀이 제안한 EmbodiedMemory-Bench(EMem-Bench)는 시뮬레이션 환경에서 실제 행동을 수행하게 해 이런 장기 기억 능력을 평가하는 벤치마크입니다. 논문은 2026년 9월 23일 arXiv에 제출됐고, 연구팀은 네 종류의 과제에 걸쳐 상호작용 에피소드 2,554개를 구성했다고 밝혔습니다.
1
17
기억을 답변이 아닌 행동으로 평가
과거에 무슨 일이 있었는지 말로 답하는 기억 테스트와 달리, EMem-Bench는 먼저 시간 순서에 따라 정리된 멀티모달 상호작용 기록을 에이전트에 제공합니다. 이후 에이전트는 그 기록에서 필요한 내용을 기억하거나 갱신한 뒤, 환경 안에서 행동해 새로운 과제를 수행해야 합니다.
1
11
과제는 네 가지 기억 능력을 살펴봅니다.
11
16
- 이전 관찰 기억: 전에 본 물체의 위치 같은 시각 정보를 기억하는가.
- 상태 변화 추적: 물체가 이동하거나 상태가 달라졌을 때 기억을 최신 정보로 갱신하는가.
- 상호작용 결과 기억: 행동을 통해 알게 된 사실이나 제약을 기억하는가.
- 경험의 일반화: 이전에 배운 규칙이나 교정을 새로운 물체·장면에서도 적용하는가.
따라서 평가의 핵심은 정보를 저장했는지만 확인하는 데 있지 않습니다. 이후 과제에서 필요한 기억을 찾아 올바른 행동으로 이어 가는지가 중요합니다.
1
실패 사례에서 드러난 기억의 빈틈
연구팀은 EMem-Bench의 문제 설정을 설명하며 EmbodiedBench의 EB-ALF와 EB-Hab 과제에서 Gemini-3-Flash와 Qwen3-VL-32B가 실패한 궤적 100건을 분석했습니다. 보도된 분류에 따르면, 실패 원인 가운데 체화형 기억과 관련된 문제는 네 가지로 나뉩니다.
- 시각 정보를 놓침: 35%. 물체가 화면에 등장했지만 위치를 기억하지 못해 나중에 반복해서 찾았습니다.
- 환경의 변화를 반영하지 못함: 18%. 물체가 옮겨지거나 처리된 뒤에도 이전 상태를 기준으로 행동했습니다.
- 상호작용의 피드백을 기억하지 못함: 31%. 행동 결과로 드러난 상태나 제약을 이후에 활용하지 못했습니다.
- 경험을 새로운 대상에 적용하지 못함: 7%. 앞선 시범이나 교정으로 단서를 얻고도 다른 물체에서 같은 실수를 반복했습니다.
네 항목을 합하면 분석한 실패 궤적의 91%입니다. 이는 선별된 실패 사례 100건 안에서의 비중이며, 두 모델의 전체 실패율이나 무작위 표본의 결과를 뜻하지는 않습니다.
외부 기억 시스템 EMem의 성능
연구팀은 경험을 장면·공간·이벤트 기억으로 나누어 관리하는 외부 기억 시스템 Embodied-Memorizer(EMem)를 제안했습니다. 기억을 관리하고 활용하는 방법을 학습한 EMem-8B 모델도 함께 개발했습니다.
1
6
15 설계의 목표는 과거 정보를 보관하는 데 그치지 않고, 현재 과제에 필요한 기억을 찾아 행동으로 연결하는 것입니다.
6
GPT-5.4-mini를 공통 기반 모델로 사용한 비교에서 EMem을 적용하지 않았을 때 평균 성공률은 35.3%, 적용했을 때는 58.9%였습니다. 23.6%포인트 상승한 수치입니다. 같은 비교에서 TeleMem의 성공률은 37.8%였습니다.
6
이 결과는 해당 벤치마크와 설정에서의 성능을 보여 줍니다. 모든 모델이나 실제 환경의 과제에서도 같은 수준의 개선이 나타난다고 단정할 수는 없습니다.
공개 이후 관심과 평가의 한계
arXiv 기록에 따르면 논문은 2026년 9월 23일 제출됐습니다.
17 중국어 매체 보도는 10월 18일 나왔으며, 해당 보도는 공개 약 3주 뒤 EMem-Bench의 Hugging Face 다운로드 수가 3만 회에 가까웠다고 전했습니다.
6
13 이는 당시 보도에 담긴 수치로, 현재 다운로드 총계를 확인한 값은 아닙니다.
EMem-Bench는 시뮬레이션 환경에서 상호작용과 후속 행동을 평가합니다.
1
4 따라서 현재 결과만으로 센서 잡음이나 실행 오차가 있는 실제 로봇에서도 같은 성능을 낼지 판단하기는 어렵습니다. 실제 로봇에서의 신뢰성을 확인하려면 별도의 실물 검증이 필요합니다.