‘Vectorless RAG’가 주목받고 있는 것은 사실입니다. 다만 이를 “학계와 산업계가 벡터 데이터베이스를 전반적으로 버리는 중”이라고 요약하면 과장입니다. 2026년 연구에는 벡터 없이 문서 트리를 탐색하는 방식이 등장하는 한편, 벡터 검색과 트리 탐색을 결합하거나 여러 검색 방식을 함께 쓰는 접근도 있습니다.
4
5
6
11
특히 제공된 자료에는 Cursor나 Aider의 최신 제품 변경을 확인할 수 있는 공식 제품 문서가 포함돼 있지 않습니다. 따라서 두 제품이 최근 벡터 인덱스를 없앴다거나, 이를 업계 전반의 흐름으로 볼 수 있다고 단정할 수는 없습니다.
Vectorless RAG는 무엇이 다른가
일반적인 벡터 기반 RAG는 문서를 임베딩으로 바꾸고, 질문과 의미상 가까운 문서 조각을 찾아 답변에 활용합니다. Vectorless 방식은 이 과정을 반드시 벡터 검색으로 처리하지 않습니다. 대신 키워드 검색으로 대상을 찾거나, 문서의 목차와 계층 구조를 따라 필요한 부분을 찾아 읽는 방식을 사용할 수 있습니다.
예를 들어 한 연구에서는 에이전트가 문서 트리에서 browse, read, search 도구를 이용해 자료를 탐색하고, 진행 중에 지식 그래프를 갱신하는 방식을 다룹니다.
6 여기서 벡터 검색을 쓰지 않는다고 해서 검색 자체가 사라지는 것은 아닙니다. 검색과 원문 확인을 에이전트가 여러 단계에 걸쳐 수행하는 것입니다.
연구 결과가 말하는 것: 한 가지 방식만으로는 부족하다
연구 결과는 “벡터는 필요 없다”는 단순한 결론으로 모이지 않습니다. 금융·법률·의료 문서 등을 비교한 한 연구에서는 트리 추론이 전체 점수에서 가장 높았지만, 모든 유형의 질문에서 같은 방식이 앞서지는 않았습니다. 여러 문서를 종합하는 과제에서는 벡터 RAG가, 교차 참조 과제에서는 혼합 방식이 각각 강점을 보였습니다.
5
또 다른 연구에서는 벡터 검색과 키워드 검색 가운데 하나를 제거했을 때 다중 단계 검색 성능이 저하됐다고 보고했습니다.
4 벡터 검색과 문서 트리를 역할에 따라 결합한 프레임워크도 제안돼 있습니다.
11 따라서 현재 연구 흐름은 벡터 검색의 전면 폐기보다, 질문과 자료 구조에 따라 검색 방법을 고르는 쪽에 가깝습니다.
벡터 검색 대신 쓸 수 있는 방법
| 방식 |
어떻게 찾나 |
잘 맞을 수 있는 상황 |
| 키워드·텍스트 검색 |
단어, 구문, 식별자 등을 찾아 원문으로 이동 |
찾을 표현이나 이름이 분명한 경우 |
| 문서 트리 탐색 |
목차·장·절 같은 계층을 따라 관련 구간을 좁힘 |
문서의 구조가 뚜렷한 경우 6 |
| 에이전트의 단계적 검색 |
찾은 내용을 바탕으로 다시 검색하고 필요한 원문을 읽음 |
답을 위해 여러 자료를 이어서 확인해야 하는 경우 6 |
| 벡터·트리 혼합 |
벡터로 후보를 찾고 트리로 근거가 있는 위치를 좁힘 |
넓은 자료 집합에서 후보 탐색과 정밀 확인이 모두 필요한 경우 11 |
실제로는 이 방식들을 서로 배타적인 대안으로 볼 필요가 없습니다. 시스템이 질문을 먼저 분류하고, 명확한 키워드가 있으면 텍스트 검색을 쓰며, 긴 문서에서는 트리 구조를 따라가고, 표현이 크게 달라질 수 있는 질문에는 벡터 검색을 더하는 설계도 가능합니다. 다만 어떤 조합이 나은지는 자료의 성격과 질문 유형에 따라 달라집니다.
4
5
지금 벡터 데이터베이스를 없애야 할까?
유행만 보고 기존 벡터 검색을 제거하기보다는 실제 업무 질문으로 비교하는 편이 안전합니다. 기존 벡터 RAG, 비벡터 검색, 혼합 검색을 나란히 시험하고 근거를 얼마나 잘 찾아오는지, 답변이 정확한지, 검색과 원문 읽기에 드는 지연 시간과 비용이 어떤지 살펴보세요.
결론적으로 Vectorless RAG는 실재하는 연구 방향이지만, “벡터 검색의 시대가 끝났다”는 뜻은 아닙니다. 더 정확한 변화는 벡터 검색을 유일한 기본값으로 두지 않고, 텍스트 검색·문서 구조 탐색·원문 읽기와 필요에 따라 조합하려는 흐름입니다.
4
5
6
11