AI 위험 경고가 규제에 영향을 줄 수 있다는 조 론스데일

팔란티어 공동창업자이자 앤스로픽 투자자인 조 론스데일은 AI 안전이 중요한 문제라고 인정하면서도, 일부 선도 기업의 ‘AI 실존적 위험’ 경고가 공공정책을 움직이고 규제 논의를 좌우하는 데 쓰일 수 있다고 비판했다. 그러면서 앤스로픽 CEO 다리오 아모데이를 칭찬하고, 앤스로픽이 경쟁사보다 인재 면에서 앞선다고 평가했다. 2

규제 영향력을 둘러싼 우려

론스데일은 9월 25일 미국 텍사스주 오스틴에서 열린 로이터 모멘텀 AI 행사에서 일부 주요 AI 기업이 실존적 위험을 경고하는 것은 공공정책에 영향을 미치려는 위험한 시도라고 말했다. 또 앤스로픽과 오픈AI에 가까운 인사들이 더 강한 AI 규제를 주장하는 외부 단체를 지원하려 한다고 비판했다. 그의 주장은 이런 활동이 소수의 유력 AI 개발사에 업계 규칙을 정할 과도한 영향력을 줄 수 있다는 것이다. 2

이는 기업들의 동기와 규제 영향에 대한 론스데일의 주장이지, 별도로 입증된 사실은 아니다. 그가 밝힌 입장도 AI 안전을 무시하자는 뜻은 아니다. 그는 안전이 실질적인 우려라고 인정하면서, 공포에 기대어 규제를 추진하는 데 경계심을 나타냈다. 2

투자한 회사에 대한 비판과 칭찬

론스데일이 앤스로픽 투자자라는 점에서 그의 발언에는 눈길을 끄는 대목이 있다. 그는 앤스로픽과 오픈AI 주변 인사들의 규제 관련 행보를 비판하는 한편, 앤스로픽의 아모데이 CEO를 칭찬하고 회사의 인재 수준을 높게 평가했다. 2

그의 비판은 AI 위험 자체를 부정하기보다, 안전 우려가 정책 결정에 어떤 방식으로 반영되는지를 겨냥한 것으로 볼 수 있다. 한편 아모데이는 앞서 AI 기업들에 모델 개발 속도를 늦추자고 촉구하고, 위험을 관리할 시간을 벌기 위한 방안을 제안한 바 있다. 1

우크라이나 방산 기업 인수 전망

론스데일은 자신이 투자한 기업들이 우크라이나 방산 기업을 인수할 가능성이 있다고도 전망했다. 하지만 공개된 보도 내용에는 관련 기업이나 잠재적 인수 대상, 시점이 나오지 않는다. 구체적인 협력 계획이 있었는지도 확인할 수 없다. 2

확인되지 않은 사안

현재 제공된 보도 내용만으로는 자율무기 사용에 대한 책임을 론스데일이 어떻게 봤는지, 미 국방부 고위직을 맡을 가능성을 논의했는지 판단하기 어렵다. AI 규제나 방산 투자에 대한 그의 발언만으로 이 사안들에 관한 입장을 추정해서는 안 된다.