잭 클라크의 2028년 AI 예측: AI가 ‘다음 AI’를 만들 때 생기는 위험

쉽게 말하면, 클라크가 우려하는 것은 “AI가 인간을 도와 더 나은 AI를 만든다”는 단계에서 “AI가 AI 개발 과정의 상당 부분을 직접 맡는다”는 단계로 넘어가는 순간입니다 .

‘AI가 자기 후계자를 만든다’는 뜻

여기서 “후계자”는 같은 개발 흐름 안에서 등장하는 다음 세대, 더 강력한 AI 시스템을 뜻합니다. 클라크의 우려는 충분히 강력한 AI가 그 다음 시스템을 만드는 데 필요한 핵심 연구개발 작업에 직접 참여하거나 이를 자동화할 수 있다는 데 있습니다 .

이는 오늘날 익숙한 코딩 보조 AI와는 다릅니다. 코딩은 연구개발 과정의 일부일 뿐입니다. 클라크가 말하는 시나리오는 프런티어 모델을 설계하고, 훈련하고, 평가하고, 개선하는 전체 파이프라인이 자동화되는 상황에 가깝습니다 .

중요한 점은 클라크가 “이미 그렇게 됐다”고 주장하는 것이 아니라는 점입니다. 그는 2028년 말까지 그렇게 될 수 있다는 확률적 전망을 제시한 것입니다 .

왜 ‘재귀적 자기개선’이 문제인가

이 시나리오는 흔히 재귀적 자기개선(recursive self-improvement)이라고 불립니다. AI가 더 강력한 AI를 만드는 데 기여하고, 그 더 강력한 AI가 다시 다음 AI를 만드는 식의 반복 구조입니다 .

위험한 버전의 이 순환은 단순한 “소프트웨어 개선”이 아닙니다. AI를 개선하는 주체가 세대마다 더 강해지는 누적 과정입니다. 클라크의 경고를 다룬 보도들은 이런 가능성을 “지능 폭발” 위험과 연결했습니다. AI가 후속 AI를 개선할 수 있게 되면 능력 향상 속도가 급격히 빨라질 수 있다는 뜻입니다 .

그래서 이 예측은 단순한 기술 이정표 이상으로 다뤄집니다. AI 발전의 병목이 인간 연구자에서 AI 시스템 자체로 옮겨가면, 인간이 그 변화를 감시하고 통제하는 속도가 기술 발전 속도를 따라가지 못할 수 있기 때문입니다 .

왜 중대한 리스크로 여겨지나

핵심 위험은 AI 개발 파이프라인에 대한 인간의 감독이 약해지는 것입니다. 연구개발이 처음부터 끝까지 자동화되면, 더 강력한 후계 시스템이 만들어지기 전에 사람이 개입해 점검할 수 있는 의미 있는 지점이 줄어들 수 있습니다 .

특히 세 가지 우려가 따라붙습니다.

• 검토 지점 감소. AI가 연구, 훈련, 개선 작업의 상당 부분을 수행하면 기업과 연구자들이 다음 시스템이 나오기 전에 안전성을 평가할 시간이 줄어들 수 있습니다 .
• 능력 향상 속도 증가. AI가 AI를 개선하기 시작하면 발전 속도가 더 빨라질 수 있으며, 관련 보도는 이를 “지능 폭발” 가능성과 연결했습니다 .
• 거버넌스 압박. 클라크는 자동화된 AI R&D가 가져올 변화의 함의가 매우 크며, 사회가 그런 변화에 준비돼 있는지 확신하지 못한다고 썼습니다 .

즉, 문제는 SF 영화처럼 로봇이 다른 로봇을 조립하는 장면이 아닙니다. 더 강력한 AI를 만들어내는 산업적·연구적 생산 과정이 더 빠르고 자동화된 루프로 바뀌고, 그 속도가 안전성 평가와 규제, 공적 이해의 속도를 앞지를 수 있다는 점입니다 .

아직 불확실한 점

클라크의 “60% 이상”은 확정된 사실이 아니라 확률 판단입니다 . 특히 2028년이라는 시간표에는 반론이 있습니다.

한 비판적 분석은 2028년까지 인간이 전혀 관여하지 않는 엔드투엔드 재귀적 자기개선이 실현될 가능성을 10% 미만으로 보면서, 다만 2036년까지의 더 긴 기간에는 그런 일이 가능해질 수 있다고 봤습니다 .

기술적으로도 논쟁이 남아 있습니다. 컴퓨터과학자 페드로 도밍고스는 AI 시스템이 소프트웨어를 만들거나 수정할 수 있느냐만이 핵심은 아니며, 그것이 실제로 안정적인 ‘체증적 성과’를 낳는지가 중요하다고 지적했습니다. 그는 아직 그 점이 명확히 입증되지 않았다고 봅니다 .

따라서 “AI가 AI 연구를 도울 수 있다”, “AI가 AI R&D 대부분을 자동화할 수 있다”, “AI가 빠른 재귀적 자기개선을 통해 지능 폭발을 일으킬 수 있다”는 말은 서로 연결돼 있지만 같은 주장은 아닙니다 . 클라크의 경고는 그중 가장 파급력이 큰 단계에 대한 전망입니다 .

정리하면

클라크는 2028년 말까지 AI 시스템이 인간 없는 AI R&D를 수행하고 자기 후계 시스템을 만들 수 있게 될 가능성이 그렇지 않을 가능성보다 높다고 봤습니다 .

그가 맞다면 문제는 단순히 혁신이 빨라지는 데 그치지 않습니다. 더 강력한 AI를 만드는 과정이 인간의 감독, 안전성 테스트, 제도적 대응보다 빠르게 움직이기 시작할 수 있습니다 . 다만 이 전망은 여전히 논쟁적이며, 2028년이라는 일정이 지나치게 공격적이라고 보는 비판도 있습니다 .