ONU Alerta: Modelos de Negócio e IA Não Regulamentada Estão Alimentando uma Crise Online para Crianças

Principais alertas: uma geração exposta

Mais de 82% dos jovens entre 15 e 24 anos estão online, e eles são desproporcionalmente expostos a desinformação, assédio, vieses algorítmicos e ao uso malicioso da IA . O relatório adverte que a janela para ação está se fechando rapidamente: a IA está superando as estruturas regulatórias que nunca foram criadas para ela, introduzindo e agravando riscos que vão desde conteúdo sintético até exploração facilitada por IA .

Modelos de negócio: os danos não são acidentais

O documento faz um argumento contundente: os danos que os jovens enfrentam online não são acidentais. Eles são o produto direto de modelos de negócio que monetizam a atenção e os dados pessoais e de recursos de design construídos para maximizar o engajamento e os gastos . O relatório destaca especificamente os "padrões obscuros" (dark patterns), as caixas de surpresa (loot boxes) e outras táticas que incentivam o uso compulsivo entre crianças, cujos hábitos e identidades ainda estão em formação . O documento também alerta sobre táticas de publicidade cada vez mais ocultas que exploram as crianças para aumentar os gastos online .

Inteligência artificial: agravando riscos existentes

A IA está agravando os riscos existentes mais rápido do que as salvaguardas conseguem acompanhar. O relatório aponta riscos que vão desde conteúdo gerado por IA até exploração facilitada por IA . O Secretário-Geral António Guterres é citado diretamente: "Nenhuma criança deve ser cobaia de uma IA não regulamentada... Quando uma criança é prejudicada, a resposta nunca pode ser 'foi o algoritmo que fez isso'" .

Participação dos jovens: não apenas vítimas, mas defensores

O relatório insiste que crianças e jovens não são apenas vítimas — eles são criadores, defensores e organizadores . No entanto, suas perspectivas continuam sub-representadas nos fóruns onde as políticas são moldadas e nas pesquisas que informam essas políticas . O documento é enfático: "Protegê-los e incluí-los não são objetivos concorrentes. Temos que fazer ambos" .

A urgência de incorporar os direitos das crianças à governança da IA

O relatório pede que os direitos das crianças sejam inseridos nas estruturas de governança da IA agora, enquanto essas leis ainda estão sendo desenvolvidas — alertando que "uma janela que não ficará aberta por muito tempo" está se fechando . Ele insta estados, empresas de tecnologia, anunciantes, mídia e pesquisadores a agirem juntos. O documento faz referência à Coalizão para os Direitos e Proteção das Crianças na Era da Inteligência Artificial e ao apelo do Secretário-Geral por um Compromisso de Segurança Infantil em IA que cubra qualquer sistema que uma criança possa acessar .