셰인 레그 “AI 역량 발전, 안전 통제보다 빨라져선 안 돼”

구글 딥마인드 공동창업자 셰인 레그의 메시지는 분명하다. AI의 성능 향상이 강력한 시스템을 감시하고 통제할 안전장치의 발전 속도를 앞질러서는 안 된다는 것이다. 그는 인공일반지능(AGI)의 배포와 파장을 논의하기 위한 새 플랫폼, 딥마인드 인스티튜트(DeepMind Institute·DMI) 출범과 함께 이 경고를 내놨다. 141

핵심은 ‘더 똑똑한 AI’ 자체가 아니다

레그가 제기한 쟁점은 단지 모델의 능력이 커지는 일이 아니다. 감독 체계, 모니터링, 거버넌스, 통제 수단이 그 속도를 따라가 시스템을 관리 가능한 상태로 유지할 수 있느냐는 문제다. 1

이 때문에 DMI의 범위는 기술 연구에만 머물지 않는다. DMI는 AGI 시대의 핵심 기술·사회 문제를 다룰 학제 간 연구, 협력, 토론을 촉진하겠다고 밝혔다. 여기에는 AGI 시스템과 앞으로 형성될 에이전트 공동체를 어떻게 안전하게 만들고 통치할지, 사회 제도와 정책은 무엇을 바꾸거나 새로 구상해야 하는지가 포함된다. 16

DMI는 무엇을 하는 곳인가

딥마인드 인스티튜트는 딥마인드의 기존 핵심 AI 연구 조직을 대체하는 기관이라기보다, 구글 딥마인드와 외부 연구자들이 고도화되는 AI를 어떻게 개발하고, 통치하고, 배포하며, 사용할지에 관한 글을 발표하고 토론하는 플랫폼이다. 3642

의제는 과학, 교육, 사회, 정책, 철학, 경제, 안전, 인간의 번영까지 폭넓다. 다시 말해 심각한 위험을 줄이는 방법뿐 아니라, AGI가 널리 배포될 경우 어떤 제도·정책·사회적 목표가 달라져야 할지를 함께 묻겠다는 구상이다. 1636

“최전선 모델 출시를 늦추자”는 제안에는

레그는 앤트로픽 최고경영자 다리오 아모데이가 제시한 ‘최전선 AI 모델의 공개를 중단하지는 않되 늦추자’는 제안을 두고, “방향성 측면에서 흥미롭고” “검토할 가치가 있다”고 평가했다. 2

이는 딥마인드의 공식 출시 정책 발표는 아니다. 다만 안전조치가 충분한 수준에 도달할 때까지 배포 속도를 더 신중하게 조절하는 방안을, 레그가 진지한 정책 선택지로 보고 있음을 보여준다. 2

AGI가 이미 왔다는 주장에는 선을 그었다

레그는 엔비디아와 오픈AI 경영진의 최근 발언에도 불구하고, 이미 AGI가 달성됐다고 선언하기에는 이르다고 말했다. 보도된 내용만으로는 그가 염두에 둔 모든 구체적 능력 격차를 단정할 수는 없지만, 현재 시스템이 딥마인드의 AGI 기준에는 아직 도달하지 않았다고 본다는 점은 분명하다. 4

구글 딥마인드는 AGI를 인간 뇌와 같은 인지 능력을 갖춘 시스템으로 설명한다. 일부 벤치마크나 개별 과제에서 뛰어난 성과를 내는 것보다 훨씬 넓은 기준이다. 13

그럼에도 레그는 2028년까지 ‘최소 AGI’가 실현될 확률을 50%로 본 기존 전망에 여전히 “편안함을 느낀다”고 밝혔다. 이는 확정된 시간표가 아니라 그의 예측이다. 210

출범 에세이가 다루는 세 가지 출발점

DMI의 첫 발간물은 안전만을 고립된 주제로 다루지 않는다. 초기 핵심 에세이는 다음과 같은 범위를 보여준다.

1. 추론 투명성 — 로힌 샤와 안카 드라간은 사람이 모델의 추론을 해석할 수 있어야 기만이나 은밀한 책략 가능성을 감시할 수 있다고 주장한다. 11
2. AGI를 위한 경제정책 — AI가 고도화되고 널리 퍼지면서 생길 수 있는 경제적 혼란에 대응하기 위해 11개 정책 대안을 평가한다. 평가 기준에는 복지, 회복력, 개인의 주체성, 경제 안정성 등이 포함된다. 39
3. 새로운 유토피아주의의 원칙 — AGI가 바꿀 사회에서 인간의 번영이 무엇을 뜻하는지 살피되, ‘유토피아’를 완벽함의 약속으로 받아들여서는 안 된다고 경고한다. 37

DMI는 이 밖에도 출범 글과 함께 데미스 허사비스의 **‘프런티어 AI와 새로운 시대의 여명을 위한 프레임워크’**를 초기 에세이 목록에 올렸다. 4138

정리: 성능 경쟁과 안전 경쟁은 함께 가야 한다

레그의 입장은 긴박감과 신중함을 동시에 담고 있다. 그는 AGI가 이미 도래했다고 보지는 않지만, 2028년까지 ‘최소 AGI’가 나올 가능성을 50%로 여전히 평가한다. 결론은 하나다. AI 역량이 가속할수록, 이를 이해하고 감독하며 배포 방향을 결정할 체계도 같은 속도 이상으로 발전해야 한다는 것이다. 1216