Amnesty International заявляет, что ведущие ИИ-системы «незаконны по своей сути»

Суть аргумента Amnesty в том, что потоки данных, питающие ИИ-модели, представляют собой форму массовой слежки. В отчёте описывается, как технологические компании используют автоматизированные инструменты для «извлечения огромных массивов онлайн-данных — включая изображения, активность в соцсетях и другую личную информацию — без явно выраженного согласия людей» . Поскольку этот несогласованный сбор данных заложен в фундаментальную архитектуру систем, авторы клеймят их как «незаконные по своей сути» .

Amnesty приравнивает эту автоматизированную добычу данных к государственным системам массовой слежки, доказывая, что она нарушает право на частную жизнь уже на самом первом этапе разработки . В исследовании упоминается ряд основных общедоступных моделей и инструментов, включая GPT-3, Gemini, Llama, а также другие, например, DeepSeek, Midjourney и Stable Diffusion .

Три категории вреда

Чтобы обосновать призыв именно к запрету, а не к риск-ориентированному регулированию (как, например, в европейском Законе об ИИ), в докладе выделяются три различные, но взаимосвязанные категории вреда.

1. Массовые вторжения в частную жизнь по дизайну

Первый и основополагающий вред — это само нарушение приватности. В отчёте подробно описывается, как массивы данных из миллиардов публичных постов, фотографий и переписок собираются без разрешения. Это не утечка и не взлом; это намеренный, структурный метод создания ИИ. Amnesty утверждает, что это «злоупотребление правом на неприкосновенность частной жизни» является отправной точкой, делающей весь процесс разработки незаконным в соответствии со стандартами прав человека .

2. Увековечивание стереотипов, предвзятости и дискриминации

Вторая категория вреда напрямую проистекает из данных. Поскольку учебный материал без разбора собирается из открытого интернета, он «загрязнён реальными предрассудками». Amnesty предупреждает, что ИИ не нейтрализует эти предрассудки, а, наоборот, «усиливает их в выдаваемых результатах по расовым, гендерным и культурным признакам» . В докладе выражается особая обеспокоенность за исторически маргинализированные сообщества, которые принимают на себя главный удар этой системной дискриминации, когда токсичные стереотипы и предвзятые ассоциации автоматизируются и масштабируются .

3. Негативное воздействие на окружающую среду

Последняя категория вреда переносит фокус с цифрового мира на физический. В докладе документируется значительная экологическая цена создания и эксплуатации этих систем, указывается на «огромные центры обработки данных и требуемое для них энергопотребление» . Это воздействие на окружающую среду, утверждается в отчёте, является дополнительным и часто упускаемым из виду последствием безудержной гонки ИИ для прав человека.

Призыв к запрету, а не просто к регулированию

Вывод Amnesty International однозначен. Организация считает, что автономные генеративные ИИ-системы, зависящие от незаконных методов веб-скрейпинга, «несовместимы с МППЧ» . Правозащитники доказывают, что существующие модели регулирования, такие как риск-ориентированная система европейского Закона об ИИ (AI Act), недостаточны . Вместо этого они призывают правительства вмешаться и ввести «полный запрет» на системы, построенные такими методами, называя всю эту практику кризисом в области прав человека, который нельзя просто «урегулировать» или «смягчить» .