야코벤코의 ‘1조달러 시총에서 수익성’ 발언은 무엇을 뜻했나

아나톨리 야코벤코 솔라나 공동창업자가 남긴 짧은 답글, “Profitability at $1 trillion mcap”(‘시가총액 1조달러에서의 수익성’)은 프런티어 AI 개발을 늦추자는 요구의 인센티브를 의심하는 냉소적 일침으로 해석된다. 막대한 비용을 들여 모델을 개발하는 초대형 AI 기업들에는 안전을 이유로 한 감속이 수익성 확보와 시장 지위 방어에 유리할 수도 있다는 취지다.

다만 이는 야코벤코 발언의 해석일 뿐이다. 그는 특정 회사를 지목하지 않았고, 재무 자료를 제시하지도 않았으며, 솔라나나 SOL을 이 논쟁과 연결하지도 않았다. 앤스로픽·오픈AI 등 어느 기업이 그런 동기에서 움직였다는 증거도 제시되지 않았다. 3541

야코벤코가 겨눈 지점: 안전 규칙은 누가 정하나

여기서 ‘mcap’은 시가총액(market capitalization)을 뜻한다. 야코벤코의 발언은 업계 전체에 적용되는 감속 규칙이 등장할 경우, 자금력과 인프라를 갖춘 기존 선도 연구소는 부담을 흡수하기 쉽지만 후발 주자나 소규모 경쟁사는 더 큰 제약을 받을 수 있다는 비판과 맞닿아 있다.

그의 후속 비판 역시 소수 AI 업계 리더가 업계 전체의 발전 속도를 함께 정하는 모습 자체를 조롱한 것으로 보인다. 안전 프레임워크가 규칙의 수혜자인 기업들이 직접 규칙 설계에 관여할 때, 이는 안전 관리가 아니라 기존 강자의 이해에 맞춘 공조 또는 ‘규제 포획’으로 비칠 수 있다는 문제 제기다.

그러나 이것을 아모데이의 의도에 대한 입증된 설명으로 받아들여서는 안 된다. 현재 보도는 야코벤코가 제안의 동기를 의심했다는 점을 뒷받침할 뿐, 수익성·기업가치 관리·인프라 비용·상장 계획 등이 앤스로픽의 속도 조절 제안을 낳았다고 증명하지는 않는다. 3543

아모데이의 ‘프런티어 속도 조절’은 무엇인가

앤스로픽 CEO 다리오 아모데이는 9월 12일 공개한 에세이 We Must Pace the Frontier에서 AI 역량이 향상되는 속도를 조절해 안전성 연구, 정렬(alignment) 연구, 외부 평가가 따라갈 시간을 확보하자고 주장했다. 그는 이것이 기술 진보나 모델 훈련을 멈추자는 뜻은 아니라고 명시했다. 7

구상은 다음의 3단계로 넓어진다.

1. 상주형 제3자 평가자: 프런티어 AI 연구소가 독립 평가자에게 직원에 준하는 지속적 접근권을 부여해 안전장치 검토, 훈련 중 정렬 평가, 사고 보고를 맡긴다. 앤스로픽은 이 조치를 단독으로 이행하겠다고 밝혔다. 716
2. 민주주의 국가 간 협력: 민주주의 국가의 프런티어 연구소와 정부가 공통 안전 기준 및 속도 조절 한도를 마련한다. 7
3. 제한적 국제 합의: 검증과 상호 절제가 가능한 범위에서 중국과 권위주의 국가를 포함한 다른 국가들과 더 좁은 형태의 합의를 추진한다. 78

핵심 차이는 첫 단계만 현재의 구체적 기업 약속이라는 점이다. 두 번째와 세 번째 단계는 기업 및 정부 간 협력이 전제돼 있어, 이미 시행 중인 약속이 아니라 제안에 가깝다. 9

왜 ‘카르텔’ 비판이 나왔나

논쟁의 핵심은 기업이 모델을 더 엄격하게 시험해야 하느냐가 아니다. 누가 속도를 정하는지, 어떤 결과에서 지연이 발동되는지, 그리고 공동 기준이 경쟁사를 제약하는지에 있다.

미국 백악관 과학기술자문기구 공동의장인 데이비드 색스는 앤스로픽과 오픈AI가 시스템 위험을 심각하게 본다면, 누구의 허락 없이도 자체 개발 속도를 늦출 수 있다고 주장했다. 그가 반대한 것은 안전을 이유로 경쟁사까지 묶을 수 있는 광범위한 규제 또는 반독점 예외 체계를 요구하는 일이다. 색스는 이런 구조가 기존 강자인 두 기업의 ‘복점’을 보호할 위험이 있다고 봤다. 5052

이는 야코벤코 발언 뒤에 놓인 가장 강한 형태의 우려다. 자발적 안전 약속은 한 문제지만, 업계 전체를 아우르는 공동 제한은 안전 관행뿐 아니라 경쟁 구도까지 바꿀 수 있다.

올트먼과 머스크가 지지한 범위

샘 올트먼 오픈AI CEO는 프런티어의 속도를 조절할 필요가 있다는 데 동의하며, 독립 평가자에게 직원 수준의 접근권을 주는 것은 “훌륭한 아이디어”이고 오픈AI도 그렇게 하겠다고 밝혔다. 일론 머스크는 더 짧게 “다리오가 옳다”고 썼다. 1821

다만 이 반응만으로 국제 공조, 강제력 있는 속도 제한, 업계 공동 프레임워크 같은 더 어려운 쟁점에 대한 입장이 정리된 것은 아니다. 두 사람의 공개 지지는 가장 분명하게는 상주형 평가자 구상에 맞춰져 있었다. 1820

아직 비어 있는 실행 설계

상시 외부 감독은 운영 규칙이 구체화돼야 실질적 의미를 갖는다. 공개된 자료에서 다음 쟁점은 여전히 답이 나오지 않았다.

• 독립성: 평가자는 누가 선정하고 비용은 누가 부담하는가. 평가 대상 기업으로부터 독립됐다고 볼 기준은 무엇인가.
• 접근 범위: 평가자가 어떤 시스템, 훈련 과정, 사고 보고서, 모델 가중치, 데이터, 내부 도구를 볼 수 있는가.
• 공개 권한: 부정적 평가 결과를 회사 승인 없이 공개할 수 있는가.
• 판정 기준: 어떤 시험 결과나 위험 수준에서 훈련·배포·출시를 늦춰야 하는가.
• 집행: 기업이 평가 결과에 따른 조치를 실제로 따르도록 누가 보장하는가.
• 경쟁 및 보안: 영업상 민감한 정보를 교환하거나 반독점 문제를 만들지 않으면서 안전 기준을 어떻게 협력할 것인가.
• 국제 검증: 중국 등 다른 정부가 참여하는 협정의 신뢰성과 검증 가능성을 어떻게 확보할 것인가.

이 공백 때문에 비판자들은 모호한 규칙이 기존 기업에 의해 통제될 위험을 우려한다. 반대로 지지자들은 안전 주장을 일회성 선언이 아닌 지속적인 외부 감시로 바꾸려는 필요한 시도라고 본다. 1053

‘속도 조절’과 ‘전면 중단’ 사이의 정치적 간극

이번 논쟁은 안전 대응의 강도를 놓고도 시각차를 드러냈다. 버니 샌더스 미국 상원의원은 아모데이·올트먼·머스크의 공감대를 더 강한 개입의 근거로 해석하며 AI 일시 중단과 초지능 금지를 촉구했다. 48

하지만 아모데이의 제안은 전면 금지보다 좁다. 정렬과 검증을 위한 시간을 확보하는 ‘균형 잡힌 속도’를 주장한 것이다. 7 반면 색스는 위험을 우려하는 기업이라면 다른 기업에도 적용될 공동 체계를 요구하지 말고 자발적으로 속도를 늦추라고 했다. 52

정책적 선택지는 단순하지만 결코 쉽지 않다. 미국의 프런티어 AI 연구소가 속도를 늦추면 중국과의 경쟁력에 대한 우려가 커질 수 있다. 반대로 통제 없는 경쟁은 역량 향상 속도에 안전 평가와 감독이 뒤처지는 결과를 낳을 수 있다. 아모데이의 구상은 단계적 감독과 장기적 국제 공조로 두 압박을 함께 다루려 했지만, 가장 중요한 부분에는 아직 합의된 집행 장치가 없다. 74

결론

야코벤코의 한 줄은 재무 분석 결과가 아니라 인센티브를 겨냥한 도발이었다. 그는 AI 감속론이 높은 기업가치를 방어하고 수익성을 입증하려는 강력한 연구소들의 상업적 이해와도 양립할 수 있다고 암시했다. 그러나 제공된 공개 기록은 이 의혹을 뒷받침하지 않으며, 상장 계획이 제안의 원인이었다는 사실도 입증하지 않는다.

확인된 사실은 더 제한적이다. 앤스로픽은 상주형 제3자 평가자 도입을 약속했고, 오픈AI는 이 접근을 공개 지지했다. 반면 공동 안전 제한을 위한 더 넓은 계획은 여전히 논쟁 중이다. 결국 쟁점은 프런티어 AI를 더 엄격하게 평가해야 하느냐가 아니다. 최전선에 있는 기업들이 경쟁의 규칙을 좌우할 안전 규칙을 만드는 데 어디까지 관여해도 되는가다. 71850