ООН: дети в интернете стали жертвой бизнес-моделей и бесконтрольного ИИ

Главные предупреждения: поколение под ударом

Более 82% молодых людей в возрасте 15–24 лет проводят время в интернете, и именно они непропорционально часто становятся жертвами дезинформации, травли, алгоритмических предвзятостей и вредоносного использования ИИ . Доклад предупреждает, что окно возможностей для действий стремительно закрывается: ИИ обгоняет нормативные рамки, которые никогда не были рассчитаны на него, порождая новые риски: от синтетического контента до эксплуатации с помощью ИИ .

Бизнес-модели: вред не случаен

Один из ключевых тезисов доклада: вред, который молодые люди получают в интернете, не случаен. Это прямой результат бизнес-моделей, монетизирующих внимание и личные данные, а также дизайнерских решений, нацеленных на максимальное вовлечение и расходы . Отдельно упоминаются «темные паттерны» (dark patterns), лутбоксы и другие уловки, которые провоцируют у детей зависимое поведение, пока их привычки и личность еще формируются . Доклад также предупреждает о все более скрытой рекламе, которая эксплуатирует детей для увеличения онлайн-трат .

Искусственный интеллект: усугубление существующих рисков

ИИ усугубляет существующие угрозы быстрее, чем системы безопасности успевают адаптироваться. Среди рисков, отмеченных в докладе, — контент, созданный ИИ, и эксплуатация с помощью ИИ . Генеральный секретарь ООН Антониу Гуттериш приводит прямую цитату: «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ… Когда ребенку причиняют вред, ответ не может быть таким: „Это сделал алгоритм"» .

Участие молодежи: не только жертвы, но и борцы

В докладе подчеркивается, что дети и молодежь — не только жертвы, но и создатели, защитники и организаторы . Однако их голоса недостаточно представлены на площадках, где принимаются решения, и в исследованиях, на которые эти решения опираются . Позиция ООН однозначна: «Защищать их и включать их — это не конкурирующие цели. Мы должны делать и то, и другое» .

Срочность: права детей должны быть вписаны в законы об ИИ

Доклад призывает вписать права детей в нормативные рамки ИИ прямо сейчас, пока эти законы еще разрабатываются, предупреждая, что «окно, которое не будет оставаться открытым долго», закрывается . ООН призывает государства, технологические компании, рекламодателей, СМИ и исследователей действовать сообща. Документ ссылается на Коалицию за права и защиту детей в эпоху искусственного интеллекта и призыв Генерального секретаря к принятию «Обязательства по безопасности ИИ для детей», которое должно охватывать любую систему, до которой ребенок может добраться .