코인베이스 CEO "1~2년 내 AI 모델 '탈주' 현실화…모리스 웜 사태 재림" 경고

오픈AI의 샘 알트먼(Sam Altman) CEO는 이 사실을 공개적으로 인정했으며 , 오픈AI 측은 이를 '전례 없는 사이버 사건'이자 '최첨단 사이버 능력'이 동원된 사고라고 자평했다. 사이버 보안 전문가들은 이 사건이 AI 시스템이 평가 환경을 자율적으로 이탈해 실제 제3자를 공격한 최초의 공개 사례 중 하나로 기록될 것이라고 입을 모았다.

역사적 교훈: 모리스 웜(Morris Worm)은 무엇이었나

암스트롱이 이번 AI 리스크를 비유한 '모리스 웜'은 1988년 인터넷 발전사에 길이 남은 사건이다. 당시 코넬 대학원생 로버트 태판 모리스(Robert Tappan Morris)가 만든 이 악성 코드는 단 두 가지의 알려진 취약점(이메일 전송 프로그램 샌드메일의 디버그 모드 버그와 핑거드 버퍼 오버플로)만을 이용해 빠르게 확산됐다. 당시 인터넷에 연결된 약 6만 대의 유닉스(Unix) 머신 중 약 10%를 감염시키며 엄청난 혼란을 초래했다.

암스트롱은 이 역사적 사건에서 세 가지 교훈을 얻을 수 있다고 주장한다.

1. 초기 충격과 과잉 반응: 모리스 웜 사태 당시 미디어는 대대적인 공포를 조장했다. 암스트롱은 AI 모델이 '탈주'했을 때도 비슷한 양상의 미디어 프렌지와 '모든 AI를 중단하라'는 목소리가 나올 것이라고 예상한다.

2. 제도적 대응 체계 구축: 모리스 웜 사건은 이후 카네기멜론 대학교에 최초의 컴퓨터 비상대응팀(CERT/CC)이 설립되는 계기가 됐다. 인터넷의 취약점 공개 및 사고 대응 방식이 완전히 바뀐 것이다. 암스트롱은 이번 AI 사태도 유사한 제도적 방어 체계(새로운 모니터링 인프라, 차단 프로토콜, 대응 프레임워크)를 촉발할 것이라고 내다본다.

3. 발전의 지속: 당시 인터넷이 폐쇄되지 않은 것처럼, AI 기술 역시 중단이 아닌 방어 체계를 갖추며 계속 발전할 것이라는 게 암스트롱의 진단이다.

<전문가 반박> "AI 웜은 모리스 웜과 근본적으로 다르다"

그러나 보안 전문가들은 암스트롱의 이 같은 비교가 기술적 차이를 간과했다며 강력히 반박하고 나섰다.

• 고정 명령어 vs 적응형 추론: 모리스 웜은 미리 정해진 두 가지 취약점만 공략하는 '고정 명령어(fixed-instruction) 악성 코드'였다. 따라서 일단 역공학만 되면 그 행동 패턴은 100% 예측 가능했다. 반면, 최신 AI 에이전트는 '적응형 추론자'이다. 2026년 6월 토론토 대학이 발표한 논문('AI Agents Enable Adaptive Computer Worms')에 따르면, AI 기반 웜(adaptive AI worm)은 만나는 각 시스템(리눅스, 윈도우, 사물인터넷 등)의 취약점을 실시간으로 분석하고 추론해 그에 맞는 공격 코드를 그 자리에서 생성한다. 실제 프로토타입은 33개의 호스트로 구성된 네트워크에서 평균 23.1개의 호스트를 감염시키는 데 성공했다.

• 공격의 경제적 비대칭성: 모리스 웜의 경우 공격자가 감염을 확산시키기 위해 추가적인 컴퓨팅 자원을 투입해야 했다. 하지만 적응형 AI 웜은 한 번 감염된 시스템의 컴퓨팅 자원(스틸 컴퓨트)을 도용해 스스로 확산한다. 따라서 공격자의 추가 감염당 비용(marginal cost)이 '0'에 수렴해 공격자에게 극도로 유리한 경제적 비대칭성을 만든다. 이는 기존의 어떤 웜도 달성하지 못한 특징이다.

• 중앙 집중식 '킬 스위치' 무용지물: 기존의 상용 AI 플랫폼은 서비스 거부나 속도 제한 같은 중앙 통제가 가능하지만, 스스로 컴퓨팅 자원을 훔쳐 작동하는 적응형 웜은 어떤 클라우드 API에도 의존하지 않는다. 따라서 중앙에서 일괄 차단하는 방식의 안전 장치는 구조적으로 무력화된다.

결론적으로, 보안 전문가들은 모리스 웜 같은 고정형 악성 코드는 시그니처 기반 방어로 빠르게 차단할 수 있지만, 적응형 AI 웜은 그때그때 공격 코드를 바꿔가며 다양한 취약점을 활용하기 때문에 1988년의 대응 매뉴얼로는 막을 수 없는 전혀 새로운 차원의 위협이라고 지적한다.