싱가포르·EU 등은 왜 ‘첨단 AI의 인간 통제’를 공동 선언했나

첨단 AI가 더 강력해지는 속도에 비해, 그 위험을 점검하고 사람이 통제할 수 있도록 하는 국제적 장치가 충분한가. 싱가포르와 유럽연합(EU)을 비롯한 참여국이 공동 선언에 나선 배경에는 이 우려가 있다. 핀란드와 노르웨이가 주도한 **‘첨단 AI 모델의 통제를 위한 호소’**는 2026년 9월 21일 뉴욕 유엔총회 기간에 발표됐다. 당시 참여 규모는 싱가포르를 포함한 20개국과 EU였다.346

가능성은 인정하되, 통제는 사람에게

싱가포르의 로런스 웡 총리는 AI의 커다란 가능성을 인정하면서도 기술이 언제나 인간의 통제와 감독 아래 있어야 한다는 입장을 밝혔다.10 선언 역시 AI 활용 자체를 부정하기보다, 첨단 모델의 발전에 걸맞은 안전장치를 국제적으로 마련하는 데 초점을 맞췄다. 한 나라의 조치만으로는 갈수록 강력해지는 시스템의 안전·보안 위험을 관리하기 어렵다는 문제의식도 제시됐다.12

참여국들이 제안한 방향은 공통 안전 기준, 검증 체계, 국제 협력 강화다. 기준을 정하고 이행을 감독할 국제 기구의 가능성도 거론됐다.35 다만 선언이 새로운 유엔 규제기관을 곧바로 설립한 것은 아니다.3

선언이 요구한 조치와 남은 한계

공개된 네덜란드 정부 자료에는 기업이 투명한 안전 절차를 마련하고, 모델 배포 전 시험과 독립적 평가를 실시하도록 촉구하는 내용이 담겨 있다.9 이는 첨단 AI의 안전성을 개발사의 자체 판단에만 맡기지 않겠다는 방향을 보여준다. 다만 이 선언만으로 구체적인 국제 집행 체계가 확정됐다고 볼 수는 없다.3

핀란드의 알렉산데르 스투브 대통령과 노르웨이의 요나스 가르 스퇴레 총리가 이 호소를 시작했다.19 미국과 중국은 당시 선언에 참여하지 않았지만, 제공된 자료는 그 이유를 확인해 주지 않는다.6 따라서 이번 선언의 의미는 AI 개발 중단에 합의했다는 데 있지 않다. AI의 혜택을 추구하면서도 인간의 통제를 유지할 안전 기준과 감독 방식을 국경을 넘어 함께 마련하자는 데 있다.3510