L'ONU alerte : modèles économiques et IA non régulée exposent les enfants à une crise en ligne

Des avertissements clés : une génération exposée

Plus de 82 % des 15-24 ans sont en ligne, et ils sont exposés de manière disproportionnée à la désinformation, au harcèlement, aux biais algorithmiques et à l'utilisation malveillante de l'IA . Le rapport prévient que la fenêtre d'action se referme rapidement : l'IA dépasse les cadres réglementaires qui n'ont jamais été conçus pour elle, introduisant et aggravant les risques, des contenus synthétiques à l'exploitation facilitée par l'IA .

Des modèles économiques en accusation

Le rapport avance un argument cinglant : les préjudices subis par les jeunes en ligne ne sont pas accidentels. Ils sont le produit direct de modèles économiques qui monétisent l'attention et les données personnelles et de fonctionnalités conçues pour maximiser l'engagement et les dépenses . Il pointe spécifiquement les "";dark patterns""; (interfaces trompeuses), les loot boxes et autres tactiques qui poussent à une utilisation compulsive chez les enfants, dont les habitudes et l'identité sont encore en formation . Le rapport dénonce également des tactiques publicitaires de plus en plus cachées qui exploitent les enfants pour doper les dépenses en ligne .

Intelligence artificielle : des risques décuplés

L'IA amplifie les risques existants plus vite que les mesures de protection ne peuvent les contrer. Le rapport mentionne les risques allant des contenus générés par l'IA à l'exploitation facilitée par l'IA . Le Secrétaire général António Guterres est cité directement : "Aucun enfant ne devrait être un cobaye pour une IA non régulée… Lorsqu'un enfant est blessé, la réponse ne doit jamais être 'c'est l'algorithme qui a fait ça'" .

Participation des jeunes : bien plus que des victimes

Le rapport insiste sur le fait que les enfants et les jeunes ne sont pas seulement des victimes — ils sont des créateurs, des défenseurs et des organisateurs . Cependant, leurs points de vue restent sous-représentés dans les instances où les politiques sont élaborées et dans les recherches qui les sous-tendent . Le rapport est catégorique : "Les protéger et les inclure ne sont pas des objectifs concurrents. Nous devons faire les deux" .

L'urgence d'inscrire les droits de l'enfant dans la gouvernance de l'IA

Le rapport appelle à ce que les droits des enfants soient inscrits dans les cadres de gouvernance de l'IA dès maintenant, alors que ces lois sont encore en cours d'élaboration — avertissant que "une fenêtre qui ne restera pas ouverte longtemps" est en train de se fermer . Il exhorte les États, les entreprises technologiques, les annonceurs, les médias et les chercheurs à agir ensemble. Il fait référence à la Coalition pour les droits et la protection des enfants à l'ère de l'intelligence artificielle et à l'appel du Secrétaire général pour un Engagement pour la sécurité des enfants face à l'IA couvrant tout système qu'un enfant peut atteindre .