AI 위험을 둘러싼 신경전, 자율규제 서약으로 끝나진 않았다

9월 29일 백악관 회의에서는 AI 위험 경고를 둘러싼 업계 내부의 이견과, 기업들이 안전 조치를 약속하는 공개적인 장면이 함께 나타났다. 보도에 따르면 기술기업 경영진은 앤스로픽 CEO 다리오 아모데이의 경고에 이의를 제기했다. 회의 뒤 아모데이는 AI가 “매우 현실적인 위험”을 안고 있지만, 이에 어떻게 대응할지는 여전히 논의 중이라고 말했다. 참석자들과 도널드 트럼프 대통령은 자발적 안전 서약도 발표했다. 그러나 이 공동 약속이 정부 규제를 둘러싼 의견 차이까지 해소한 것은 아니다. 2

회의에서 오간 논쟁

보도 내용을 요약한 자료에 따르면, 소규모 회의에서 경영진은 아모데이의 위험 경고를 두고 맞섰다. 다만 제공된 자료만으로는 구체적으로 어떤 말이 오갔는지, 누가 어떤 발언을 했는지 재구성하기 어렵다. 일자리 감소 문제가 이 논쟁에 직접 포함됐는지도 확인되지 않는다.

더 큰 쟁점은 정부의 역할이었다. 아모데이는 첨단 AI 시스템에 독립 감사를 의무화하는 규제를 주장해 왔다. 반면 트럼프는 새로운 연방 규제를 두기보다 기업이 스스로 감독하는 방식을 지지했다. 4 회의 뒤 아모데이는 위험이 실재한다는 입장을 되풀이하면서도, 대응 방안은 아직 논의 중이라고 밝혔다. 2

자발적 서약에 담긴 내용

‘초지능에 관한 백악관 협약(White House Accord on Superintelligence)’은 기업 내부 통제와 안전 검토를 약속하는 내용을 담았다. 기업들은 AI 시스템이 개발자의 의도대로 작동하는지 독립 감사기관과 함께 평가하고, 허가되지 않은 해킹이나 접근을 막기 위한 안전장치를 마련하기로 했다. 315

트럼프는 이 서약을 “도덕적으로 구속력 있는” 약속이라고 부르며 기업들이 스스로를 감독할 것이라고 말했다. 하지만 보도에서는 협약이 자발적이며 법적으로 강제할 수 없는 것으로 설명됐다. 즉, 새로운 연방 규제가 생긴 것이 아니라 업계가 자체적으로 한 약속이다. 411

이 차이는 중요하다. 협약은 감독을 위한 조치를 제시했지만, 외부 규칙으로 이를 의무화할지, 약속을 어떻게 집행할지, 향후 법제화할지를 결정하지는 않았다. 보도에 따르면 협약은 일부 조치를 시간이 지나면서 법이나 규정에 반영할 가능성을 열어뒀다.

아직 정해지지 않은 감독 방식

트럼프는 업계를 감독할 10명 규모의 위원회를 만들 가능성을 언급했다. 다만 확인된 보도에서 이는 검토 중인 구상이지, 이미 출범한 기구가 아니다. 210

별도의 업계 자율규제기구가 무산됐다는 주장도 제공된 자료로는 확인되지 않는다. 그런 구상이 협약과 어떤 관계였을지도 입증되지 않았다. 앤스로픽이 회의에 참석하고 더 넓은 규제 논의에 참여한 사실은 보도됐지만, 행정부와의 관계를 개선해 IPO를 준비하려 했다는 설명이나 IPO가 임박했다는 주장은 확인되지 않는다. 45

공동 서약 뒤에도 남은 질문

회의 참석자들은 안전장치에 관한 공통된 문구를 내놓았지만, 정부가 어떤 역할을 해야 하는지에 대해서는 합의하지 못했다. 규제를 통한 독립 감사가 필요하다는 아모데이의 주장과 기업 자율 감독을 선호하는 트럼프의 입장은 핵심 질문을 남긴다. AI 안전 기준은 누가 정하고, 누가 집행해야 할까? 4

따라서 이번 협약은 기업이 자발적으로 따르겠다고 밝힌 안전 프레임워크로 보는 것이 타당하다. 경영진이 AI 위험의 심각성이나 자율규제의 충분성에 뜻을 모았다는 증거는 아니다.