UN 경고: 아동을 실험용 쥐로 만드는 규제 없는 AI, 온라인 위기 키운다

핵심 경고: 노출된 세대

전 세계 15~24세 청소년의 82% 이상이 온라인에 접속해 있으며, 이들은 허위정보, 괴롭힘, 알고리즘 편향, AI의 악의적 사용에 불균형적으로 노출되어 있다 . 브리프는 행동을 위한 기회의 창이 빠르게 닫히고 있다고 경고한다. AI는 이를 위해 설계된 적이 없는 규제 체계를 앞지르며, 합성 콘텐츠부터 AI 기반 착취에 이르기까지 위험을 새로 만들어내고 악화시키고 있다 .

비즈니스 모델: 피해는 '사고'가 아니다

이 브리프는 날카로운 주장을 펼친다. 젊은이들이 온라인에서 겪는 피해는 우연이 아니다. 그것은 주의 집중과 개인 데이터를 수익화하는 비즈니스 모델과 참여와 지출을 극대화하도록 설계된 디자인 기능의 직접적인 결과라는 것이다 . 브리프는 특히 '다크 패턴(dark patterns)', 루트박스(loot boxes) 등 습관과 정체성이 아직 형성 중인 어린이들의 강박적 사용을 유도하는 전술을 지적한다 . 또한 온라인 지출을 부추기기 위해 어린이를 착취하는 점점 더 은밀해지는 광고 전술에 대해서도 경고한다 .

인공지능: 기존 위험을 증폭시키다

AI는 안전장치가 따라잡는 속도보다 빠르게 기존 위험을 증폭시키고 있다. 브리프는 AI 생성 콘텐츠부터 AI 기반 착취에 이르는 위험을 언급한다 . 안토니우 구테흐스 유엔 사무총장은 이렇게 직접 인용된다: "어떤 어린이도 규제되지 않은 AI의 실험용 쥐가 되어서는 안 됩니다... 어린이가 피해를 입었을 때, 답은 절대 '알고리즘이 그랬습니다'가 되어서는 안 됩니다" .

청년 참여: 피해자이면서 동시에 옹호자

이 브리프는 어린이와 청소년이 단순한 피해자가 아니라 창작자, 옹호자, 조직자라고 강조한다 . 그러나 그들의 관점은 정책이 수립되는 포럼과 그러한 정책에 정보를 제공하는 연구에서 여전히 과소 대표되고 있다 . 브리프는 단호하게 말한다: "그들을 보호하는 것과 포함시키는 것은 경쟁하는 목표가 아닙니다. 우리는 둘 다 해야 합니다" .

AI 거버넌스에 아동 권리를 포함시켜야 할 시급성

브리프는 아직 법률이 개발 중인 지금, 아동의 권리를 AI 거버넌스 프레임워크에 명시할 것을 촉구하며, *"오래 열려 있지 않을 기회의 창"*이 닫히고 있다고 경고한다 . 브리프는 국가, 기술 기업, 광고주, 미디어, 연구자들이 함께 행동할 것을 촉구한다. 또한 **'AI 시대 어린이 권리와 보호를 위한 연합(Coalition for Children's Rights and Protection in the Age of Artificial Intelligence)'**과 사무총장이 어린이가 접근할 수 있는 모든 시스템을 대상으로 하는 **'AI 아동 안전 서약(AI Child Safety Pledge)'**을 언급한다 .