La ONU advierte: los modelos de negocio y la IA sin regulación están alimentando una crisis online para la infancia

Alertas clave: una generación expuesta

Más del 82% de los jóvenes de 15 a 24 años están conectados a internet, y están expuestos de forma desproporcionada a la desinformación, el acoso, los sesgos algorítmicos y el uso malicioso de la IA . El informe advierte que la ventana para actuar se está cerrando rápidamente: la IA está superando unos marcos regulatorios que nunca fueron diseñados para ella, introduciendo y agravando riesgos que van desde el contenido sintético hasta la explotación facilitada por IA .

Modelos de negocio: los daños no son accidentales

El informe plantea un argumento clave: los daños que sufren los jóvenes en línea no son accidentales. Son el producto directo de modelos de negocio que mercantilizan la atención y los datos personales y de funciones de diseño creadas para maximizar el engagement y el gasto . Señala explícitamente los "patrones oscuros" (dark patterns), las cajas de botín (loot boxes) y otras tácticas que fomentan el uso compulsivo entre los niños, cuyos hábitos e identidades aún se están formando . El informe también advierte sobre las tácticas publicitarias cada vez más encubiertas que explotan a los niños para aumentar el gasto en línea .

Inteligencia artificial: agravando los riesgos existentes

La IA está agravando los riesgos existentes más rápido de lo que las salvaguardas pueden actualizarse. El informe menciona peligros que van desde el contenido generado por IA hasta la explotación facilitada por IA . El Secretario General, António Guterres, es citado directamente: "Ningún niño debería ser un conejillo de indias para una IA no regulada… Cuando un niño sufre daño, la respuesta nunca debe ser 'fue el algoritmo'" .

Participación juvenil: no solo víctimas, también defensores

El informe insiste en que los niños y jóvenes no son solo víctimas — son creadores, defensores y organizadores . Sin embargo, sus perspectivas siguen infrarrepresentadas en los foros donde se diseñan las políticas y en la investigación que las fundamenta . El informe es tajante: "Protegerlos e incluirlos no son objetivos enfrentados. Debemos hacer ambas cosas" .

La urgencia de incorporar los derechos de la infancia en la gobernanza de la IA

El informe pide que los derechos de la infancia se incluyan en los marcos de gobernanza de la IA ahora, mientras estas leyes aún se están desarrollando, advirtiendo que "una ventana que no permanecerá abierta por mucho tiempo" se está cerrando . Insta a los estados, las empresas tecnológicas, los anunciantes, los medios de comunicación y los investigadores a actuar conjuntamente. Hace referencia a la Coalición por los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial y al llamamiento del Secretario General para un Compromiso de Seguridad Infantil en IA que cubra cualquier sistema al que un niño pueda acceder .