DeepSeek Harness와 Cordis: 통제 가능한 AI 자기개선의 기반

DeepSeek Harness(DSH)는 DeepSeek가 자율적 재귀적 자기개선 시스템을 구축했거나 AGI를 달성했다는 증거가 아니다. 현재 공개된 자료를 바탕으로 가장 설득력 있게 해석하면, DSH의 의미는 아키텍처에 있다. 도구, 모델 어댑터, 세션 관리 기능, 심지어 에이전트 루프까지 교체 가능한 구성 요소로 다룰 수 있는 런타임을 제공한다는 점이다. 이런 구조는 반복적인 실험을 더 안전하고 현실적으로 만든다. 제한적 자기개선에 필요한 기반에 가깝다는 뜻이다. 2526

모델보다 ‘하네스’를 개선한다는 발상

재귀적 자기개선(RSI·Recursive Self-Improvement)은 하나의 현상만 가리키지 않는다. AI가 특정 알고리즘 같은 결과물을 개선할 수도 있고, 연구자가 더 강력한 후속 모델을 만드는 일을 도울 수도 있다. 또는 에이전트가 작동하는 방식을 결정하는 재사용 가능한 ‘뼈대’, 즉 하네스 자체를 바꿀 수도 있다.

RSI 연구에서는 고정된 외부 평가 기준에 따라 시스템을 개선하는 제한적 자기개선과, 시스템뿐 아니라 개선에 사용되는 장치나 평가 기준까지 바꾸는 개방형 RSI를 구분한다. 전자는 비교적 수렴적이고 평가 가능하지만, 후자는 고정된 외부 기준 없이 개선의 기준과 메커니즘 자체를 수정할 수 있다. 1

DSH가 가장 분명하게 겨냥하는 층위는 모델의 가중치가 아니라 이 하네스 층위다. 프롬프트, 도구, 메모리, 정책, 오케스트레이션, 실행 루프 같은 모델 주변 구성 요소를 실험하고, 더 나은 구성 요소는 설치해 평가한 뒤 유지할 수 있다. 성능이 나쁘면 제거하면 된다.

이는 공학적 의미의 제한적 RSI로 향하는 중요한 단계다. 그러나 에이전트가 스스로 더 유능한 후속 모델을 설계하거나, 자체 목표를 결정하거나, 통제되지 않은 지능 폭발을 일으킨다는 의미는 아니다.

Cordis가 런타임 변경을 ‘되돌릴 수 있게’ 만드는 방식

DSH는 문서에서 ‘시공간적 조합성(spatiotemporal composability)’을 내세우는 플러그인 런타임 Cordis 위에 구축됐다. Cordis가 다루는 문제는 실행 중인 소프트웨어가 바뀔 때 발생하는 두 가지 상황이다. 시간의 흐름에 따라 구성 요소가 추가·제거될 때 무엇이 일어나는지, 그리고 현재 시스템 안에서 구성 요소들이 어떻게 상호작용하는지다. 1718

시간적 조합성: 관리 대상 변경을 되돌리기

플러그인은 공유 런타임에 리소스, 이벤트 리스너, 서비스, 상태 등 여러 요소를 등록하거나 변경할 수 있다. 일반적인 플러그인 시스템에서는 제거 시 개발자가 직접 작성한 정리 코드에 의존하는 경우가 많다. 이 과정에서 누수나 이른바 ‘유령 상태’가 남을 수 있다.

Cordis는 런타임 변경을 되돌릴 수 있는 효과(revertible effect)와 연결한다. 구성 요소가 제거되면 런타임이 해당 변경에 대응하는 역연산을 적절한 순서로 실행할 수 있도록 하는 방식이다. 목표는 플러그인을 단순히 거꾸로 실행하는 것이 아니다. 에이전트가 외부 세계에서 수행한 모든 행동을 취소하는 것도 아니다. 해당 런타임 구조를 유효한 이전 구성으로 복원하는 것이 핵심이다. 2024

이 차이는 매우 중요하다. 플러그인 등록을 되돌리는 기능이 이메일 발송, 파일 삭제, 오염된 데이터로 진행한 모델 학습, 물리적 세계에서 일어난 비가역적 행동까지 자동으로 취소해 주지는 않는다. Cordis의 가역성은 보편적인 안전 보장이 아니라, 범위가 제한된 소프트웨어 속성이다.

공간적 조합성: 의존성 관리

구성 요소들은 서로 의존하기도 한다. 도구는 레지스트리를 필요로 할 수 있고, 메모리 모듈은 세션 관리자를 요구할 수 있다. 에이전트 루프는 모델 어댑터와 도구 인터페이스에 의존할 수 있다.

공간적 조합성은 이런 관계를 구성 요소가 선언하도록 하고, 제공자나 의존성이 나타나거나 사라지거나 교체될 때 런타임이 활성화·비활성화·교체·복구를 조정하도록 한다. 모듈형 에이전트가 전체 시스템을 하나의 취약한 덩어리로 취급하지 않고 스스로 재구성할 수 있는 이유다. 1820

가역적 효과와 의존성 인식형 조합성이 결합되면 구성 요소 교체, 실패 복구, 안전한 시험, 트랜잭션 방식의 런타임 업데이트가 쉬워진다. 자기개선 관점에서는 ‘시도해 보고 실패하면 폐기하는’ 비용을 낮춰 준다는 점이 중요하다.

DSH가 보여주는 DeepSeek의 AGI 접근법

DSH의 설계는 점점 더 범용적인 에이전트를 만드는 한 가지 시스템 중심 경로를 시사한다. 에이전트가 작업을 수행하는 환경 자체를 충분히 유연하게 만들어, 에이전트가 작업 수행 메커니즘을 개선할 수 있도록 하는 방식이다.

이 접근법은 관심의 초점을 모델 하나에서 시스템 전체로 옮긴다. 고정된 모델이라도 더 나은 도구, 메모리, 계획, 평가, 복구 메커니즘을 제공받으면 실제 작업 능력이 향상될 수 있다. 에이전트가 이러한 메커니즘의 변경안을 제안하고, 외부 기준으로 시험한 뒤, 성공한 버전만 유지할 수 있다면 통제된 개선 루프가 만들어진다.

다만 아키텍처의 존재만으로 DSH가 자율적 RSI를 수행한다고 결론 내릴 수는 없다. 현재 공개된 근거가 보여주는 것은 오픈소스 하네스와 런타임이지, DSH가 스스로 더 유능한 버전을 생성·평가·선택·배포하는 종단 간 루프를 실제로 운영한다는 시연은 아니다. 2526

다른 RSI 관련 시도와의 차이

RSI 논의에 등장하는 시스템들은 개선 과정의 서로 다른 층위를 겨냥한다. 이들을 직접적인 대체재처럼 비교하면 기술적 차이가 흐려진다.

Google DeepMind의 AlphaEvolve: 평가기 기반 알고리즘 진화

AlphaEvolve는 DSH보다 직접적인 최적화 루프에 가깝다. Gemini 기반 에이전트가 코드 변경안을 제안하고, 자동화된 평가기가 결과를 점수화하며, 진화적 과정이 유망한 후보를 다음 세대로 올린다. Google은 수학 문제와 컴퓨팅 인프라를 포함한 알고리즘 발견·최적화에 AlphaEvolve를 활용했다고 설명한다. 2314

AlphaEvolve의 핵심 강점은 피드백이다. 후보 결과를 기계적으로 검증할 수 있는 목표가 있을 때, 반복 개선이 명확해진다. 반면 DSH는 구성 요소를 안전하게 조합하고 교체하기 위한 런타임 아키텍처에 가깝다. AlphaEvolve가 해법을 진화시키는 데 초점을 둔다면, Cordis는 실행 중인 시스템을 안전하게 재구성하는 데 초점을 둔다.

OpenAI의 RSI Index: 메커니즘이 아닌 측정

현재 제공된 공개 자료에서 RSI Index는 여러 AI 연구 평가를 합산한 지표로 설명된다. 그렇다면 이는 모델이나 런타임을 직접 수정하는 엔진이 아니라, 자기개선과 관련된 능력을 추적하는 측정 도구에 가깝다. 특정 평가에서 높은 점수가 나왔다고 해서 배포된 시스템이 자율적으로 자기개선을 수행한다는 뜻은 아니다. 3435

따라서 RSI Index는 DSH의 아키텍처 경쟁자라기보다 측정 계층으로 비교해야 한다. 제공된 공개 자료만으로는 해당 지표의 구성 방식이나 점수 변화가 무엇을 의미하는지 독립적으로 평가하기에 충분하지 않다.

Anthropic의 자동화된 약한-강한 연구: AI 연구 자동화

Anthropic의 자동화된 정렬 연구는 다른 병목을 겨냥한다. 상대적으로 약한 감독 신호만으로 더 강한 모델을 훈련하거나 이끌 수 있는 방법을 찾는 것이다. 이 시스템의 에이전트들은 아이디어를 제안하고, 실험을 수행하며, 약한 모델의 감독으로 강한 모델을 훈련하는 연구 문제를 반복적으로 탐구한다. 4958

이는 DSH의 런타임 수준 구성 요소 교체보다 AI 연구와 정렬 평가의 일부를 자동화하는 작업에 더 가깝다. 두 접근법은 장기적으로 결합될 수 있다. 연구 에이전트가 더 나은 구성 요소를 발견하고, 가역적 하네스가 이를 통제된 방식으로 시험하고 배포하는 그림이다.

Anthropic의 broader한 공개 논의도 중요한 단서를 제공한다. 회사는 아직 완전히 자율적인 RSI 단계에 도달하지 않았으며, RSI가 필연적인 것도 아니라고 밝혔다. 59

Tencent Hyra-1.0과 MiniMax M2.7: 비교하기에 부족한 근거

제공된 자료에는 Tencent의 Hyra-1.0이나 MiniMax의 M2.7에 관한 신뢰할 만하고 독립적으로 검증 가능한 기술 문서가 없다. 따라서 두 시스템에 특정 RSI 아키텍처를 부여하거나, DSH·AlphaEvolve·Anthropic의 공개 연구와 같은 수준의 근거를 가진 것처럼 비교하는 것은 부정확하다.

왜 경쟁의 최전선이 모델에서 환경과 피드백 루프로 이동하는가

앞으로의 핵심 경쟁력은 기반 모델 자체보다 모델을 둘러싼 시스템에 있을 가능성이 커지고 있다. 특히 다음 네 가지가 중요하다.

1. 실험 가능한 환경: 샌드박스, 저장소, 도구, 시뮬레이터, 데이터셋, 컴퓨팅 자원, 배포 후 텔레메트리가 에이전트가 실제로 무엇을 시도할 수 있는지 결정한다.
2. 자동화된 피드백: 테스트, 검증기, 벤치마크, 보상 함수, 운영 지표가 제안된 변경을 측정 가능한 실험으로 바꾼다. AlphaEvolve는 모델이 생성한 아이디어와 자동 평가기를 결합하는 방식의 가치를 보여준다. 26
3. 복구 가능성: 버전 관리, 격리, 출처 추적, 롤백, 승인 절차가 있으면 한 번의 실패가 시스템 전체를 영구적으로 손상시키지 않으면서 더 많은 실험을 수행할 수 있다. Cordis의 가역적 런타임 효과는 바로 이 층위를 겨냥한다. 1720
4. 누적되는 반복 속도: 각 사이클이 코딩, 평가, 실험, 인프라 중 하나라도 개선하면 다음 사이클은 더 빠르거나 저렴해질 수 있다. 다만 현재의 근거는 개방형·자기지속적 RSI보다는 제한적 자기개선을 더 분명하게 뒷받침한다. 1

이 때문에 벤치마크에서 조금 낮은 점수를 받은 모델이라도 더 나은 도구와 피드백, 복구 체계를 갖춘 환경에서 경쟁력을 가질 수 있다. 제품이 되는 것은 모델 체크포인트 하나가 아니라 개선 루프 전체다.

남아 있는 통제 문제

복구 가능성은 위험을 줄이지만 없애지는 않는다. 롤백 버튼이 있다고 해서 에이전트 행동의 모든 결과가 관찰 가능하거나 되돌릴 수 있는 것은 아니다. 변경은 데이터, 인증 정보, 외부 서비스, 보안 경계, 런타임 밖에서 이뤄지는 인간의 의사결정에 영향을 줄 수 있다.

반복 속도가 빨라지면 잘못된 목표, 명세 게임(specification gaming), 숨은 회귀 버그, 불투명한 의존성도 함께 증폭될 수 있다. 인간의 통제권은 기술적 롤백 하나만으로 확보되지 않는다. 시스템 전반의 변경이 관찰 가능하고, 독립적으로 평가되며, 권한에 따라 승인되고, 책임 소재가 추적되며, 실제로 되돌릴 수 있어야 한다.

가장 신중한 결론은 이렇다. DSH와 Cordis는 에이전트 인프라를 제한적이고 복구 가능한 자기수정에 맞게 설계하는 방법을 보여준다. AlphaEvolve는 평가기 기반 진화의 힘을, Anthropic의 연구는 AI가 연구 과정에 점점 더 참여할 수 있음을 보여준다. 그러나 이들 사례가 완전히 자율적이고 개방형인 RSI나 AGI로의 전환을 입증하는 것은 아니다. 14959