AI 감속론에 시장·정치권 충돌…오픈AI IPO는 2027년 이후로

앤트로픽 CEO 다리오 아모데이의 AI 개발 감속 제안은 단순한 안전 논의를 넘어섰다. 경쟁사 오픈AI의 샘 올트먼 CEO가 공개적으로 동조했고, 오픈AI의 기업공개(IPO)는 2026년 이후로 미뤄졌다. 반면 AI 관련 주식은 흔들렸고, 도널드 트럼프 미국 대통령은 이를 미국과 중국 간 기술 경쟁의 문제로 규정하며 일축했다. 1710

‘개발 중단’이 아니라 ‘속도 조절’

아모데이가 제안한 것은 AI 연구를 멈추자는 요구가 아니다. 핵심은 ‘프런티어의 속도 조절(pace the frontier)’, 즉 최첨단 모델의 성능을 끌어올리는 속도를 의도적으로 낮춰 안전 연구·감독·국제 공조가 따라잡을 시간을 만들자는 것이다.

그는 AI가 다음 세대 AI 개발을 실질적으로 돕는 수준으로 발전할수록, 인간이 시스템을 이해하고 통제하는 능력이 뒤처질 수 있다고 경고했다. 177

제안은 크게 세 갈래다.

1. 프런티어 AI 기업 내부의 독립적 외부 평가: 앤트로픽은 제3자 평가자에게 자사 시스템에 대한 상시적·직원 수준의 접근권을 제공하겠다고 밝혔다. 이들은 안전조치 준수 여부를 확인하고, 사고를 보고하며, 훈련 과정에서 모델의 정렬(alignment) 상태를 평가할 수 있다. 17
2. 프런티어 AI 기업 간 공조: 과도한 경쟁을 막기 위해 공통 안전 기준과 제한을 마련하자는 구상이다. 17
3. 국제 협력: 고도 AI의 위험을 관리하기 위해 각국 정부가 협력해야 한다는 제안이다. 17

특히 첫 번째 약속은 기업이 자체적으로 실시하는 안전 점검에만 의존하지 않겠다는 의미다. 일회성 외부 감사가 아니라 외부 평가자가 지속적으로 접근하고 검증하는 구조를 지향한다.

올트먼의 동의와 오픈AI IPO 연기

올트먼은 아모데이의 제안에 대해 오픈AI 역시 프런티어 AI의 속도를 조절할 필요가 있다고 공개적으로 밝혔다. 초거대 AI 개발 경쟁의 핵심 기업들이 공개적으로 같은 방향을 언급한 것은 이례적인 장면이었다. 1

그는 동시에 오픈AI가 2026년에는 상장하지 않겠다고 말했다. 현재 IPO는 “바람직하지 않은 시점(ill-advised)”이라며, 회사가 해결해야 할 안전 및 정렬 과제가 많다는 이유를 들었다. 로이터는 올트먼이 10년 말까지 AI로 인한 인류 멸종 가능성이 10%만 돼도 받아들일 수 없다는 입장이라고 보도했다.

이는 오픈AI가 대형 기술 IPO의 시점보다 안전 과제를 우선순위에 두겠다는 신호다. 다만 모델 성능 향상 속도를 구체적으로 어떤 기준과 일정으로 낮출지에 대한 공개 계획까지 제시된 것은 아니다.

내부 연구자들의 경고가 촉발한 논쟁

이번 제안에 앞서 오픈AI와 앤트로픽에서 사전학습(pretraining) 연구를 했다고 밝힌 연구자 제이컵 콕슨은 사임했다. 그는 두 회사가 자기개선 AI를 향한 경쟁에서 “우리의 삶을 걸고 도박하고 있다”고 비판했다. 18

앤트로픽의 정렬 과학 책임자 에번 허빙거의 발언도 논쟁을 키웠다. CNBC 보도에 따르면 허빙거는 AI가 이번 10년 안에 모든 인류를 죽일 가능성을 개인적으로 10% 이상으로 본다고 말했다. 이는 앤트로픽의 공식 확률 추정이나 검증된 예측이 아니라, 공개 토론에서 나온 개인적 위험 판단이다.

이런 경고는 오랫동안 추상적으로 이어져 온 ‘파국적 AI 위험’ 논의를 기업 경영진의 당면 과제로 끌어왔다. 안전장치가 완성되기 전에 모델 능력을 계속 최대화해도 되는가라는 질문이다.

AI 주식이 흔들린 이유

시장은 감속론을 AI 투자 논리의 핵심 전제에 대한 도전으로 받아들였다. 모델 능력이 계속 빠르게 개선되고, 이를 위해 막대한 연산 인프라 투자가 이어지며, 반도체와 주변 인프라 수요가 강하게 유지될 것이라는 기대가 흔들릴 수 있기 때문이다. 발표 뒤 아시아의 AI 관련주는 하락했고 미국 주가지수 선물도 약세를 보였다.

로이터에 따르면 오픈AI 주요 투자자인 일본 소프트뱅크 주가는 도쿄 증시에서 한때 13.2% 급락했다. 매도세는 아시아 전반의 AI 관련 종목으로 번졌다. 나스닥 선물은 장전 거래에서 약 1.5% 하락했고, 반도체주가 특히 압박을 받았다는 보도도 나왔다.

이 반응이 곧 AI 투자나 반도체 수요의 붕괴를 뜻하는 것은 아니다. 다만 투자자들은 프런티어 모델의 발전이 의도적으로 제한되거나 늦춰질 경우, 모델 개발사·컴퓨팅 인프라 공급사·AI 투자사의 예상 매출과 수익 실현 시점도 뒤로 밀릴 수 있다는 위험을 다시 가격에 반영한 것으로 볼 수 있다.

트럼프 “AI에서 이기는 쪽이 이긴다”

트럼프 대통령은 개발 속도를 늦추자는 요구를 받아들이지 않았다. 그는 AI를 중국과의 전략 경쟁으로 규정하며 “AI에서 이기는 쪽이 이긴다(Whoever wins AI wins)”고 말했고, 미국이 중국보다 앞서 있으며 그 우위를 지켜야 한다고 주장했다. 10

이 발언은 이번 논쟁의 정치적 핵심을 드러낸다. 안전론자들은 시험, 정렬 연구, 독립 감독에 더 많은 시간을 투입하면 심각한 피해 위험을 낮출 수 있다고 본다. 반대로 감속에 반대하는 쪽은 일부 국가나 기업만 속도를 늦출 경우, 같은 제약을 받지 않는 경쟁자에게 우위를 넘겨줄 수 있다고 우려한다. 1710

아모데이 역시 중국처럼 적대적 관계에 있는 국가가 공조하지 않을 경우를 감속 체제의 가장 어려운 문제로 꼽았다. 일부 프런티어 AI 기업에만 적용되는 정책이라면, 안전을 중시하는 기업만 상업적·지정학적 비용을 떠안고 기술 경쟁 자체는 계속될 수 있다.

아직 풀리지 않은 질문들

이번 사태는 AI 업계의 드문 합의와 큰 충돌을 동시에 보여줬다.

• 안전조치 강화의 필요성에는 공감대가 나타났다. 올트먼은 아모데이의 제안에 동의했고, 앤트로픽은 상시 외부 평가 체계를 도입하겠다고 약속했다.
• 실행 규칙은 아직 비어 있다. ‘속도 조절’에 대한 공개 지지만으로는 공통 임계치, 이행 강제 수단, 구속력 있는 국제 합의가 만들어지지 않는다. 17
• 오픈AI의 IPO 일정은 직접 영향을 받았다. 올트먼은 안전을 이유로 2026년 상장을 배제했다.
• 앤트로픽의 상장 일정 변화는 확인되지 않았다. 제공된 보도는 앤트로픽의 독립 평가자 도입과 정책 제안은 뒷받침하지만, 이번 논쟁을 이유로 앤트로픽이 IPO 일정을 공식 변경했다는 근거는 제시하지 않는다.

결국 쟁점은 AI가 발전해야 하느냐의 문제가 아니다. 누가 발전 속도를 정하는지, 모델을 더 강하게 만들기 전 어떤 독립적 증거가 필요한지, 그리고 안전 약속이 사업적·지정학적 압박 속에서도 유지될 수 있는지가 핵심이다. 1710