미국 연방거래위원회(FTC)의 앤드루 퍼거슨 위원장이 던진 경고의 핵심은 간단하다. AI 안전을 위한 기업 간 협력은 의미가 있을 수 있지만, 경쟁사들이 시장을 통제하기 위한 명분으로 이를 이용해선 안 된다는 것이다.
퍼거슨 위원장은 AI 기업들이 워싱턴에 새 규제를 요구하면서 반독점법 적용 예외까지 요청할 때는 “모두가 깊이 의심해야 한다”고 말했다. 로이터에 따르면 이는 개인 의견으로 밝힌 발언이다. 규제 요건과 선도 기업들의 공조 권한이 결합하면, 자금과 인력이 부족한 후발 기업의 진입·확장이 더 어려워질 수 있다는 우려다.
3
Anthropic이 좁은 범위의 예외를 요구한 이유
논쟁은 Anthropic의 다리오 아모데이 최고경영자(CEO)가 최첨단 AI 모델 개발을 영구 중단하는 것이 아니라, 발전 속도를 조절(pacing) 하자고 제안하면서 본격화됐다. 그가 내놓은 구상은 세 가지다.
- 회사의 안전 관행 이행 여부를 검증할 수 있도록 직원 수준의 접근 권한을 지닌 독립 평가자를 상주시킨다.
- 최첨단 AI 기업들이 안전 기준과 통제되지 않은 성능 개발의 한계를 논의하도록 공조한다.
- 관련 위험에 대응하기 위한 국제 협력을 추진한다.
2
아모데이는 경쟁사끼리 안전 문제를 논의하는 일부 상황에서는 정부의 중재나 범위를 좁힌 반독점법 예외가 필요할 수 있다고 봤다. 실질적인 공동 안전장치를 만드는 데 도움이 되는 소통이, 한편으로는 경쟁사 간 담합성 조율처럼 보일 수도 있다는 법적 긴장이 배경에 있다.
2
3
“6~12개월 안에 AI 에이전트 무리가 인터넷을 장악할 수도”
아모데이는 급속도로 향상되는 AI 역량에 비해 안전 대책이 뒤처질 수 있다고 주장했다. 그는 6~12개월 안에 다수의 AI 에이전트가 협력하는 ‘무리’가 인터넷을 장악할 잠재적 능력을 갖출 수 있다고 경고했다. 이는 현존 시스템에 관한 확정적 사실이 아니라, 미래 위험에 대한 전망이자 경고다.
1
2
로이터 보도에 따르면, 이 제안은 AI가 사이버 작전, 감시, 사기, 무기 관련 업무에 악용될 수 있다는 우려 속에서 나왔다.
2
퍼거슨의 문제 제기: 안전 정책이 진입장벽이 돼선 안 된다
퍼거슨 위원장은 연방 AI 정책은 FTC가 아니라 도널드 트럼프 대통령이 결정할 것이라고 말했다. 다만 그의 발언은 새 AI 규제를 선호하는 기업들이 주요 경쟁사들과 협력할 특별 허가까지 요구하는 방식에 회의적이라는 신호로 읽힌다.
3
경쟁 측면의 우려는 구조적이다. 규제 준수에는 고정비용이 들고, 규모와 자금력이 큰 기업일수록 이를 감당하기 쉽다. 여기에 이들 기업이 개발 속도나 개발 조건을 함께 정할 여지까지 얻는다면, 규칙과 실제 경쟁의 경계 모두에 영향력을 행사할 수 있다는 비판이 나온다.
Cohere 공동창업자 에이단 고메즈는 이를 실리콘밸리의 “카르텔”이 권력을 고착화하려는 시도라고 비판했다. 광범위한 공적 영향을 지닌 기술의 규칙을 상업적 이해관계가 맞닿은 소수 기업이 정해선 안 된다는 주장이다.
5
OpenAI와 Google은 어떤 입장인가
로이터에 따르면 OpenAI의 샘 올트먼 CEO는 직원 수준의 접근 권한을 가진 독립 평가자 도입 구상에 찬성했다. OpenAI 로비스트 크리스 리헤인은 OpenAI·Anthropic·Google이 이미 수주 동안 AI 안전 문제를 논의해 왔다고 밝혔으며, 그런 논의에 반독점법 예외가 필요하다고는 보지 않는다고 말했다.
2
3
로이터는 Google이 이 안전 논의에 참여했다고 보도했지만, 아모데이의 예외 요청에 대한 별도의 공개 입장이 Google에서 나왔는지는 전하지 않았다.
3
일부 전문가가 “예외는 필요 없다”고 보는 까닭
로이터가 인용한 전문가들은 재앙적 위험을 막기 위한 좁은 범위의 협력은 기존 반독점법 안에서도 가능하다고 평가했다. 과거 미국 반독점 당국이 기업들의 사이버보안 정보 공유를 허용하는 지침을 낸 사례도 근거로 들었다.
3
차이는 협력의 대상에 있다. 위협 정보, 시험 방법, 사고 대응 절차를 공유하는 일은 반드시 상업 행위를 통제하지 않고도 피해 방지에 초점을 맞출 수 있다. 반면 경쟁사들이 출시를 늦추거나, 공급을 제한하거나, 성능 상한을 함께 정한다면 경쟁을 직접 제한할 수 있어 훨씬 심각한 반독점 문제를 일으킬 수 있다.
결국 쟁점은 ‘안전이냐 경쟁이냐’가 아니다
논쟁은 AI 안전과 경쟁 중 하나를 택하는 문제가 아니다. 핵심은 안전 협력을 어떤 방식으로 설계하느냐다.
독립적 테스트와 사고 대응을 강화하는 데 초점을 맞춘 제한적 공조라면 통상적인 반독점 원칙 안에서 가능할 수 있다는 것이 전문가들의 견해다. 그러나 소수의 최첨단 AI 연구소가 산업 전체의 발전 속도를 공동으로 결정하게 하는 체계라면, 안전 거버넌스가 기존 강자들이 자신들에게 유리하게 시장을 설계하는 수단이 될 수 있다는 퍼거슨 위원장의 우려를 피하기 어렵다.
3