AI 위험 경고는 안전을 위한 것일까, 시장을 지키기 위한 것일까

AI가 위험하다는 경고는 진심일 수 있다. 동시에 그 경고를 내놓는 기업에 유리한 규칙으로 이어질 수도 있다. 프랑스 미스트랄 AI의 최고경영자(CEO) 아르튀르 멘슈가 제기한 문제는 바로 이 두 가능성을 함께 보자는 것이다.

멘슈는 9월 24일 프랑스 일간지 르몽드 인터뷰에서 미국의 대형 AI 기업들이 기술에 대한 두려움을 이용한다고 비판하며 “AI는 소프트웨어다. 통제할 수 있다”고 말했다. 하지만 이 말만으로 AI 안전 문제가 해결되는 것은 아니다. 위험이 실제인지, 그리고 그 위험을 줄이겠다는 규칙이 누구에게 유리한지는 서로 다른 질문이다.29

안전 규칙은 누가 정하나

멘슈의 주장은 AI 개발의 ‘책임 있는 속도’를 누가 정하느냐에 초점을 맞춘다. 자금과 인력이 풍부한 선두 기업들이 자신들에게 맞추기 쉬운 안전 요건을 규칙으로 만든다면, 규모가 작은 경쟁사에는 더 큰 장벽이 될 수 있다. 이는 따져볼 만한 경쟁 문제이지, AI 위험이 허구라는 증거는 아니다.29

미스트랄도 AI를 아무 제약 없이 배포해도 된다고 주장하지는 않는다. 회사는 AI 모델에 자율적인 행동 범위와 도구 사용 권한을 주면 강력한 행위자가 될 수 있으며, 안전한 배포에는 주의가 필요하다고 경고했다. 따라서 멘슈의 “통제할 수 있다”는 말은 위험을 관리할 수 있다는 주장으로 읽어야 한다. 앞으로 등장할 모든 시스템의 통제 가능성이 입증됐다는 뜻은 아니다.72

파국적 경고는 어디까지 확인됐나

오픈AI에서도 일했던 전 앤트로픽 연구원 제이컵 콕슨은 9월 초 AI가 “이번 10년이 끝나기 전에 우리 모두를 죽일 수도 있다”고 경고했다. 이어 앤트로픽 CEO 다리오 아모데이는 9월 12일 최첨단 모델의 개발 속도를 자발적으로 늦추자고 촉구했다. 르몽드에 따르면 주요 미국 경쟁사들도 그의 제안에 지지를 표했다.18

이 발언들을 가볍게 넘길 수는 없다. 그렇다고 가능성에 대한 경고를 확정된 예측으로 받아들여서도 안 된다. 콕슨의 말은 특정 시점까지 인류가 멸망한다는 것이 입증됐다는 뜻이 아니다. 개발 속도를 늦추자는 제안 역시, 일률적인 감속이 구체적인 안전장치보다 위험을 더 잘 줄인다는 증거를 그 자체로 제시하지는 않는다.18

견해 차이는 유럽과 미국 사이에만 있는 것도 아니다. 제프리 힌턴은 안전장치 마련을 서둘러야 한다고 촉구해 왔고, 앤드루 응은 파국론을 뒷받침하는 근거에 의문을 제기하며 포괄적인 개발 중단 요구에 반대한다. 결국 실질적인 질문은 ‘안전이냐 발전이냐’가 아니다. 어떤 위험이 확인됐고, 어떤 조치가 그 위험을 줄일 수 있느냐다.

반독점 소송은 무엇을 다투나

AI 서비스 가입자들이 제기한 소송에서는 앤트로픽, 오픈AI, 스페이스XAI, 구글이 9월 12일 개발 속도 조절 제안 이후 경쟁적인 개발을 제한하기로 합의했다는 주장이 나왔다. 그러나 이는 소송 당사자의 주장이지, 기업들이 불법적인 합의를 했다는 판정이 아니다. 여러 경영자가 비슷한 안전 우려를 표명했다는 사실만으로 공모가 입증되지는 않는다.

멘슈의 비판과 소송은 맞닿아 있지만 같은 주장은 아니다. 멘슈는 안전 담론이 기존 선두 기업에 유리하게 작용할 수 있는지를 묻는다. 소송은 경쟁사들 사이에 개발을 늦추기로 한 실제 합의가 있었는지를 다툰다. 모든 위험 경고를 시장 전략으로 치부해서도, 모든 신중론을 담합의 증거로 여겨서도 안 되는 이유다.

판단 기준은 두 갈래여야 한다. 제안된 안전 조치가 독립적으로 검토할 수 있는 근거에 기반하는지 확인하고, 그 비용이 잠재적 경쟁자에게 과도하게 쏠리는지도 살펴야 한다. 같은 잣대는 개발을 계속해야 한다는 미스트랄의 주장에도 적용된다. 기업의 이해관계는 그 주장을 검증할 이유이지, 자동으로 기각할 이유는 아니다.789