저커버그의 핵심 주장은 AI 업계 전체가 한꺼번에 속도를 늦출 필요는 없다는 것이다. 그는 경쟁, 법적 책임, 그리고 시스템을 이용자 의도에 맞게 정렬(alignment)해야 할 필요가 이미 각 AI 연구소에 안전하게 개발할 유인을 제공한다고 봤다. 연구소마다 안전한 학습에 필요한 속도를 스스로 정하고, 그 결정을 실행할 능력도 갖추고 있다는 논리다.
1
아모데이의 ‘공동 감속’과 다른 접근
이 입장은 앤트로픽의 다리오 아모데이 CEO가 제시한 방향과 대비된다. 아모데이는 안전 연구가 기술 역량 향상을 따라갈 수 있도록 최첨단 AI의 성능 개선 속도, 특히 AI가 후속 AI 개발에 기여하는 재귀적 자기개선의 속도를 늦추자고 촉구했다. 오픈AI의 샘 올트먼과 xAI의 일론 머스크도 조율된 속도 조절에 지지 의사를 밝혔다.
2
3
저커버그는 신뢰와 정렬이 앞으로 에이전트와 모델을 차별화하는 중요한 역량이 될 것이며, 정렬에 집중하지 않는 연구소는 경쟁에서 뒤처질 것이라는 취지로 설명했다. 즉 시장 경쟁 자체가 안전 투자에 압력을 가할 수 있다는 판단이다.
1
메타가 든 근거: Muse 출시 지연과 외부 평가
저커버그는 메타의 사례를 자율적 안전 조치의 증거로 제시했다.
- 메타는 보안과 안전성을 강화하기 위해 Muse AI 에이전트 출시를 수개월 연기했다고 밝혔다. 다른 기업들에도 먼저 감속하라고 요구하지 않고 자체 판단으로 내린 조치라는 설명이다.
1
- 메타는 컴퓨팅 자원의 상당한 대다수를 AI의 자기개선이 아니라 이용자의 즉각적인 수요를 충족하는 제품에 투입한다고 했다.
1
- 메타 슈퍼인텔리전스 랩스는 독립 평가자와 자문단을 활용한다. 저커버그는 이런 외부 평가와 조언을 업계 모범 사례로 제시했다.
1
공동 행동은 정치·법적으로도 난관
업계 차원의 감속 합의가 실제로 성사될지는 불확실하다. 도널드 트럼프 미국 대통령은 미국이 중국과 AI 경쟁을 벌여야 한다는 이유로 개발 감속이나 강한 신규 규제에 반대했다. 엔비디아의 젠슨 황 CEO 역시 전면적 중단보다는 개발 지속에 무게를 실었다.
4
법적 문제도 있다. 앤드루 퍼거슨 미국 연방거래위원회(FTC) 위원장은 AI 기업들이 안전을 이유로 반독점법 적용 예외를 얻으려는 시도에 경계심을 가져야 한다고 경고했다. 다만 로이터가 인용한 법률 전문가들은 재앙적 위험을 막기 위한 조율은 현행 반독점법 아래에서도 허용될 수 있다고 봤다.
5
‘유인이 있다’는 주장과 메타의 신뢰도 문제
저커버그의 논리는 기업이 안전을 지킬 동기를 갖고 있다는 주장이지, 시장과 법적 책임만으로 피해가 확실히 예방된다는 증명은 아니다.
이 때문에 메타의 과거 기록도 검증 대상이 된다. 메타는 페이스북과 인스타그램이 청소년을 계속 이용하게 하도록 설계됐다는 미국 주 정부들의 주장과 관련해, 최대 180억 달러를 지급하고 청소년 보호 조치를 강화하기로 합의했다. 메타는 합의하면서도 위법 행위는 인정하지 않았다.
6
결국 저커버그는 외부 평가, 경쟁 압력, 법적 책임을 바탕으로 한 기업별·분산형 안전 결정을 옹호한다. 반면 아모데이는 주요 기업들이 함께 개발 속도를 조절하는 공동 절제를 주장한다. 어느 방식이 충분한 안전장치를 제공할지는 아직 결론 나지 않았으며, 업계 전체의 의미 있는 공조는 정치적·법적 장벽도 안고 있다.