Principales recommandations : réguler la conception, pas seulement l'accès

La stratégie de l'ONU dépasse la question binaire de savoir si un enfant a l'âge d'utiliser une application et cible directement les mécanismes qui rendent ces applications dangereuses. Les recommandations s'articulent autour de quatre piliers :

Interdire la conception exploiteuse, pas seulement les enfants. L'ONU appelle à l'interdiction des pratiques abusives telles que les fonctionnalités de conception addictives, les systèmes de recommandation manipulateurs et les pratiques d'extraction de données qui ciblent les enfants . Ces éléments de conception, comme le défilement infini, la lecture automatique et les notifications push constantes, sont conçus pour maximiser l'engagement au détriment du bien-être des utilisateurs .

Faire de la sécurité et de la vie privée le paramètre par défaut. Au lieu de s'appuyer sur une modération de contenu réactive après que le mal a été fait, les directives imposent qu'une conception adaptée à l'âge, des protections de la vie privée et la sécurité soient intégrées dans les plateformes dès le départ . Ce principe de « sécurité dès la conception » oblige les entreprises à anticiper et à prévenir les risques avant même qu'un produit ne soit lancé .

Adopter une législation solide et coordonnée. L'ONU exhorte les États à promulguer et à appliquer des lois qui traitent de toutes les formes de violence en ligne et de crimes contre les enfants. Ces cadres juridiques doivent être intégrés aux systèmes existants de protection de l'enfance, d'éducation, de santé et de justice, afin que la sécurité numérique ne soit pas traitée comme un problème distinct et cloisonné .

Responsabiliser les entreprises technologiques. Un changement central dans les directives consiste à faire peser la principale charge de la sécurité sur les plateformes qui créent les risques. « Cela signifie interdire les pratiques abusives, réguler les fonctionnalités à risque [...] et exiger que la vie privée, la sécurité et une conception adaptée à l'âge soient la norme », précise le guide, rejetant l'idée que les familles doivent seules sécuriser un environnement dangereux .

Pourquoi Volker Türk s'est opposé aux interdictions générales

Alors que des pays comme l'Australie cherchaient à exclure les enfants de moins de 16 ans des principales plateformes, M. Türk a positionné les nouvelles directives de l'ONU comme un contrepoint direct à l'approche d'interdiction. Il n'a pas plaidé pour un internet sans foi ni loi pour les enfants, mais a expliqué pourquoi les restrictions d'accès, lorsqu'elles sont utilisées comme principal outil politique, représentent un échec de l'imagination et de la réglementation.

Le préjudice est un choix de conception. M. Türk a été explicite sur le fait que les abus en ligne et les impacts sur la santé mentale ne sont pas accidentels. Ils « résultent de choix de conception et de pratiques commerciales qui compromettent la sécurité, y compris des fonctionnalités addictives comme le défilement infini, la lecture automatique et les notifications persistantes des applications », a-t-il déclaré . Si le danger est fabriqué par le produit, a-t-il raisonné, le simple fait de retirer l'utilisateur ne corrige pas le produit. Cela ne fait que déplacer le risque.

Les interdictions peuvent être contre-productives. Les directives avertissent que les restrictions d'âge et les interdictions générales ne traitent pas les fonctionnalités dangereuses sous-jacentes et peuvent s'avérer contre-productives en poussant les enfants vers des espaces non réglementés et moins sûrs d'internet . L'UNICEF avait précédemment mis en garde contre le fait que « les interdictions des réseaux sociaux comportent leurs propres risques, et elles peuvent même se retourner contre nous », en coupant les jeunes de réseaux de soutien et d'information vitaux sans rendre plus sûrs les espaces non réglementés vers lesquels ils se tournent .

La charge doit être transférée à l'industrie. « La priorité devrait être de tenir les entreprises technologiques pour responsables, et non d'interdire le monde numérique aux enfants », stipule le guide de l'ONU . M. Türk a insisté sur le fait que les États doivent utiliser leur pouvoir de régulation pour obliger les géants de la technologie à intégrer la sécurité des enfants dans leurs plateformes par défaut, plutôt que de laisser les parents et les enfants se débrouiller dans un paysage numérique hostile . « Les interdictions générales des réseaux sociaux ne sont pas une panacée unique pour un problème à multiples facettes », a-t-il déclaré, exigeant une responsabilité systémique au lieu d'un blocage simpliste .

À quoi ressemble la "sécurité dès la conception" en pratique

Le modèle alternatif proposé par l'ONU exige des entreprises qu'elles réalisent des études d'impact sur les droits de l'enfant, établissent des mécanismes d'application efficaces et assurent un contrôle indépendant de leurs systèmes . Cela signifie que les algorithmes doivent être audités pour savoir comment ils diffusent du contenu aux mineurs, que les paramètres de confidentialité par défaut doivent être verrouillés à leur niveau le plus élevé, et que les boucles d'engagement rentables comme le défilement infini doivent être démantelées lorsqu'elles causent un préjudice démontrable. L'approche vise à protéger tous les enfants, sans exception, en modifiant fondamentalement l'architecture des plateformes qu'ils utilisent.

Principales recommandations : réguler la conception, pas seulement l'accès

La stratégie de l'ONU dépasse la question binaire de savoir si un enfant a l'âge d'utiliser une application et cible directement les mécanismes qui rendent ces applications dangereuses. Les recommandations s'articulent autour de quatre piliers :

Interdire la conception exploiteuse, pas seulement les enfants. L'ONU appelle à l'interdiction des pratiques abusives telles que les fonctionnalités de conception addictives, les systèmes de recommandation manipulateurs et les pratiques d'extraction de données qui ciblent les enfants . Ces éléments de conception, comme le défilement infini, la lecture automatique et les notifications push constantes, sont conçus pour maximiser l'engagement au détriment du bien-être des utilisateurs .

Faire de la sécurité et de la vie privée le paramètre par défaut. Au lieu de s'appuyer sur une modération de contenu réactive après que le mal a été fait, les directives imposent qu'une conception adaptée à l'âge, des protections de la vie privée et la sécurité soient intégrées dans les plateformes dès le départ . Ce principe de « sécurité dès la conception » oblige les entreprises à anticiper et à prévenir les risques avant même qu'un produit ne soit lancé .

Adopter une législation solide et coordonnée. L'ONU exhorte les États à promulguer et à appliquer des lois qui traitent de toutes les formes de violence en ligne et de crimes contre les enfants. Ces cadres juridiques doivent être intégrés aux systèmes existants de protection de l'enfance, d'éducation, de santé et de justice, afin que la sécurité numérique ne soit pas traitée comme un problème distinct et cloisonné .

Responsabiliser les entreprises technologiques. Un changement central dans les directives consiste à faire peser la principale charge de la sécurité sur les plateformes qui créent les risques. « Cela signifie interdire les pratiques abusives, réguler les fonctionnalités à risque [...] et exiger que la vie privée, la sécurité et une conception adaptée à l'âge soient la norme », précise le guide, rejetant l'idée que les familles doivent seules sécuriser un environnement dangereux .

Pourquoi Volker Türk s'est opposé aux interdictions générales

Alors que des pays comme l'Australie cherchaient à exclure les enfants de moins de 16 ans des principales plateformes, M. Türk a positionné les nouvelles directives de l'ONU comme un contrepoint direct à l'approche d'interdiction. Il n'a pas plaidé pour un internet sans foi ni loi pour les enfants, mais a expliqué pourquoi les restrictions d'accès, lorsqu'elles sont utilisées comme principal outil politique, représentent un échec de l'imagination et de la réglementation.

Le préjudice est un choix de conception. M. Türk a été explicite sur le fait que les abus en ligne et les impacts sur la santé mentale ne sont pas accidentels. Ils « résultent de choix de conception et de pratiques commerciales qui compromettent la sécurité, y compris des fonctionnalités addictives comme le défilement infini, la lecture automatique et les notifications persistantes des applications », a-t-il déclaré . Si le danger est fabriqué par le produit, a-t-il raisonné, le simple fait de retirer l'utilisateur ne corrige pas le produit. Cela ne fait que déplacer le risque.

Les interdictions peuvent être contre-productives. Les directives avertissent que les restrictions d'âge et les interdictions générales ne traitent pas les fonctionnalités dangereuses sous-jacentes et peuvent s'avérer contre-productives en poussant les enfants vers des espaces non réglementés et moins sûrs d'internet . L'UNICEF avait précédemment mis en garde contre le fait que « les interdictions des réseaux sociaux comportent leurs propres risques, et elles peuvent même se retourner contre nous », en coupant les jeunes de réseaux de soutien et d'information vitaux sans rendre plus sûrs les espaces non réglementés vers lesquels ils se tournent .

La charge doit être transférée à l'industrie. « La priorité devrait être de tenir les entreprises technologiques pour responsables, et non d'interdire le monde numérique aux enfants », stipule le guide de l'ONU . M. Türk a insisté sur le fait que les États doivent utiliser leur pouvoir de régulation pour obliger les géants de la technologie à intégrer la sécurité des enfants dans leurs plateformes par défaut, plutôt que de laisser les parents et les enfants se débrouiller dans un paysage numérique hostile . « Les interdictions générales des réseaux sociaux ne sont pas une panacée unique pour un problème à multiples facettes », a-t-il déclaré, exigeant une responsabilité systémique au lieu d'un blocage simpliste .

À quoi ressemble la "sécurité dès la conception" en pratique

Le modèle alternatif proposé par l'ONU exige des entreprises qu'elles réalisent des études d'impact sur les droits de l'enfant, établissent des mécanismes d'application efficaces et assurent un contrôle indépendant de leurs systèmes . Cela signifie que les algorithmes doivent être audités pour savoir comment ils diffusent du contenu aux mineurs, que les paramètres de confidentialité par défaut doivent être verrouillés à leur niveau le plus élevé, et que les boucles d'engagement rentables comme le défilement infini doivent être démantelées lorsqu'elles causent un préjudice démontrable. L'approche vise à protéger tous les enfants, sans exception, en modifiant fondamentalement l'architecture des plateformes qu'ils utilisent.