클로드가 스스로를 만든다: 앤트로픽, '재귀적 자기 개선' 임박 경고

이는 단순한 효율성 증대가 아닙니다. 개발 파이프라인의 구조적 변화를 의미합니다. 그 결과, 앤트로픽 엔지니어들은 2021~2025년 기준선과 비교하여 분기당 8배 더 많은 코드를 배포하고 있습니다 . 소프트웨어 개발의 병목 현상은 코드 작성과 테스트에서 상위 수준의 목표 설정, 아키텍처 설계, 그리고 판단으로 이동하고 있는 것입니다.

벤치마크 성능, 전례 없는 속도로 포화 상태에 도달

보고서는 엔지니어링 및 연구 역량을 측정하는 여러 표준 지표에서 숨 막히는 속도의 가속화 타임라인을 제시합니다 :

• SWE-bench (실제 소프트웨어 엔지니어링): 2023년 말 모델들의 점수는 약 2%에 불과했습니다. 하지만 보고서 시점에 클로드는 93.9%를 기록, 실제 GitHub 이슈에서 인간 수준의 버그 수정 능력을 테스트하도록 설계된 이 벤치마크를 사실상 포화시켰습니다 .
• CORE-Bench (출판된 연구 재현): AI 성공률은 2024년 약 20%에서 불과 15개월 만에 벤치마크를 포화 상태로 만들었습니다 .
• AI 훈련 코드 최적화: 모델에게 소규모 언어 모델을 훈련시키는 코드를 최적화하도록 요청하는 이 내부 벤치마크는 놀라운 도약을 보여줍니다. 2025년 5월 평균 속도 향상 폭은 2.9배였습니다. 2026년 4월, 아직 출시되지 않은 클로드 미토스 프리뷰(Claude Mythos Preview)는 52배를 기록했습니다 . 숙련된 인간이 혼자 작업하여 4배 향상을 이루려면 4~8시간이 필요합니다. 현재 세대의 클로드 모델은 50배를 초과하는 성능을 보여줍니다 .

자율성의 클럭 속도, 4개월마다 2배씩 증가

재귀적 자기 개선을 예측하는 데 가장 영향력 있는 지표는 아마도 자율 작업의 지속 시간일 것입니다. METR의 연구는 AI가 50%의 성공률로 독립적으로 작업할 수 있는 시간을 추적합니다. 이 작업 지평선은 2022년 약 30초에서 2026년 4월 클로드 오푸스 4.6(Claude Opus 4.6)으로 12시간까지 확장되어, 1,440배 증가했습니다 . 클로드 미토스 프리뷰는 최소 16시간 동안 작업할 수 있으며, 이는 현재 METR이 측정할 수 있는 상한선에 근접한 수치입니다 . 이 지평선이 두 배로 늘어나는 속도는 7개월에서 4개월로 가속화되었습니다 .

AI 지원 작업의 3분의 1은 이전에는 비현실적이었다

코드와 벤치마크에 대한 정량적 데이터는 인간 생산성에 대한 내부 설문조사 결과와 결합됩니다. 20만 건의 내부 클로드 대화 기록과 53건의 심층 인터뷰를 분석한 결과, AI 지원 작업의 27%는 직원들이 AI 없이는 시도하지 않았을 작업이었던 것으로 나타났습니다. 이전에는 작업에 드는 시간 비용 때문에 시도 자체가 비현실적이었기 때문입니다 . 이는 기존 작업의 자동화가 아니라, 과감히 시도할 수 있는 일의 범위 자체가 확장되고 있음을 의미합니다. 2025년 11월의 별도 내부 연구에서 직원들은 자신의 업무 중 60%에 클로드를 사용하고 있으며, 생산성이 50% 향상되었다고 보고했는데, 이는 전년도 20%에서 증가한 수치입니다 .

속도 조절이냐, 위험 봉쇄냐: 커지는 입장 차이

앤트로픽의 입장은 명확합니다. 회사는 "우리는 아직 거기에 도달하지 않았으며, 재귀적 자기 개선은 불가피한 것이 아닙니다. 하지만 대부분의 기관이 준비하는 것보다 더 빨리 찾아올 수 있습니다"라고 밝혔습니다 . 또한, AI 개발을 일시 중지하거나 속도를 늦출 수 있는 전 지구적인 능력은 "아마도 좋은 일이 될 것"이라고 말하며, 다른 연구소들도 이를 고려하도록 직접 촉구하고 있습니다 .

같은 주, 오픈AI의 행보는 대조적인 그림을 그렸습니다. 6월 3일, 오픈AI는 의무적인 모델 평가와 내부 고발자 보호를 포함하는 연방 차원의 프런티어 AI 안전 프레임워크를 요구하는 공공 정책 의제를 발표했습니다. 하지만 여기에는 중요한 조항이 포함되어 있었습니다. 바로 주(州) 차원의 안전 법률을 무효화하는 연방법 우선 적용입니다 . 또한 연방 AI 안전 연구소(CAISI)에 재귀적 자기 개선을 향한 진행 상황 모니터링을 최우선 과제로 삼을 것을 명시적으로 요청합니다 .

동시에 오픈AI는 이 정확한 위험에 대비해 인력을 보강하고 있습니다. 안전 팀 내에 '연구원, 재귀적 자기 개선 대비(Researcher, Recursive Self-Improvement Preparedness)' 직책을 신설하고 29만 5천 달러에서 44만 5천 달러의 보수를 제시하며 채용에 나섰습니다 . 이 직무는 통제력 상실이라는 봉쇄 문제로 규정되며, "미래에 존재할 수 있지만 지금은 존재하지 않을 수 있는" 위험을 완화하기 위한 "세련되고 전략적인" 노력입니다 .

두 연구소 모두 같은 파도가 밀려오는 것을 목격하고 있습니다. 하지만 앤트로픽은 함대의 속도를 늦추라고 촉구하는 반면, 오픈AI는 구조 요원을 고용하며 특정 주에서 수영 금지령을 내리는 것에 반대하고 있는 셈입니다.

스스로를 구축하는 AI로 가는 세 단계

블로그 게시물은 궁극적인 위험으로 향하는 3단계 궤적을 다음과 같이 설명합니다 :

1. 인간 주도 가속 (현재): AI가 인간 엔지니어를 보조하며 대부분의 코드를 작성하지만, 인간이 목표를 설정하고 판단력을 행사합니다.
2. 자율적 연구 및 엔지니어링: AI가 방법론에 대한 인간의 지도 없이도 잘 정의된 실험을 처음부터 끝까지 실행할 수 있습니다. 상위 수준의 목표 설정과 판단에는 여전히 격차가 존재합니다.
3. 완전한 재귀적 자기 개선 ('루프 폐쇄'): AI가 최소한의 인간 감독 또는 감독 없이 스스로 후속 모델을 자율적으로 설계, 구축, 훈련합니다.

앤트로픽 공동 창립자 잭 클라크는 이 '루프'가 2028년 말까지 폐쇄될 확률을 60%로 별도 추정한 바 있습니다 . 6월 4일 게시물의 내부 데이터는 이 추정치가 먼 미래의 가상 시나리오가 아니라, 이미 눈에 띄게 꺾여 올라가고 있는 곡선에서 도출된 예측인 이유에 대한 사실적 근거를 제공합니다.

[참고] 본 기사에 언급된 'CAISI'는 미국의 연방 프런티어 AI 안전 연구소를 의미하며, AI의 안전한 발전과 위험 평가를 담당하는 가상의 기관입니다. 오픈AI가 해당 기관의 설립 및 역할 강화를 주장하는 맥락에서 등장했습니다.