Amnesty International : l’IA générative est « illégale par conception »

L’accusation d’ « illégalité par conception »

Le cœur de l’argumentaire d’Amnesty est que les pipelines de données qui alimentent ces IA s’apparentent à un système de surveillance de masse. Le rapport explique comment les entreprises technologiques utilisent des outils automatisés pour « extraire d’immenses quantités de données en ligne — y compris des images, des activités sur les réseaux sociaux et d’autres informations personnelles — sans le consentement explicite des individus » .

Cette collecte illicite n’étant pas un accident, mais la méthode même de création de l’IA, le rapport qualifie ces systèmes d'« illégaux par conception » . Amnesty va jusqu’à comparer cette technique d’aspiration automatique des données, ou web scraping, aux dispositifs de surveillance massive utilisés par certains États, affirmant qu’elle viole le droit à la vie privée dès la première étape du développement . Les modèles nommément cités incluent GPT-3, Gemini, Llama, DeepSeek, Midjourney et Stable Diffusion .

Trois catégories de préjudices

Pour appuyer sa demande d’interdiction, Amnesty ne se contente pas d’une vague accusation. Le rapport détaille trois préjudices majeurs, distincts mais interconnectés.

1. Invasion massive de la vie privée par conception

Le premier préjudice est la violation même de l’intimité numérique. Le rapport détaille la façon dont des ensembles de données, constitués de milliards de publications publiques, de photos et de conversations, sont compilés sans autorisation. Ce n’est pas une fuite ou un piratage ; c’est la méthode de fabrication intentionnelle de l’IA. Amnesty soutient que cet « abus du droit à la vie privée » est le point de départ qui rend l’ensemble du processus de développement illégal au regard des droits humains .

2. Perpétuation des stéréotypes, biais et discriminations

Le deuxième préjudice découle directement de ces données. Puisque la matière première est aspirée sans filtre sur le web, elle est « polluée par les biais du monde réel ». Amnesty prévient que ces biais ne sont pas neutralisés par l’IA ; au contraire, ils sont « amplifiés dans les résultats des modèles selon des critères raciaux, de genre et culturels » . L’ONG se dit particulièrement inquiète pour les communautés historiquement marginalisées, qui subissent de plein fouet cette discrimination systémique lorsque des stéréotypes toxiques et des associations préjudiciables sont automatisés et diffusés à grande échelle .

3. Impact environnemental désastreux

Le dernier préjudice nous fait passer du numérique au physique. Le rapport documente le coût écologique considérable de la construction et du fonctionnement de ces systèmes, pointant du doigt « les énormes centres de données et la consommation d’énergie nécessaires » . Cet impact environnemental, soutient Amnesty, est une conséquence supplémentaire, et souvent négligée, de cette course à l’IA sur les droits humains.

Un appel à l’interdiction, pas seulement à la régulation

La conclusion d’Amnesty International est sans appel. Elle juge que les systèmes d’IA générative autonomes, dépendant de ces pipelines illégaux de collecte de données, sont « incompatibles avec le droit international des droits humains » .

L’organisation balaie d’un revers de main les modèles de régulation existants, comme l’approche par les risques de la législation européenne sur l’IA (AI Act), les jugeant insuffisants . À la place, elle exhorte les gouvernements à intervenir en prononçant une « interdiction totale » des systèmes fondés sur ces méthodes. Pour Amnesty, il ne s’agit pas d’un problème à gérer, mais d’une crise des droits humains qui ne peut être simplement régulée : elle doit être stoppée .