ООН: бізнес-моделі та неконтрольований ШІ створюють кризу для дітей в інтернеті

Основні попередження: покоління під загрозою

Понад 82% молодих людей віком від 15 до 24 років користуються інтернетом, і вони непропорційно часто піддаються дезінформації, домаганням, алгоритмічній упередженості та зловмисному використанню ШІ . Бюлетень попереджає, що вікно для дій швидко зачиняється: ШІ випереджає регуляторні рамки, які ніколи не були для нього розроблені, створюючи та посилюючи ризики — від синтетичного контенту до експлуатації за допомогою ШІ .

Бізнес-моделі: шкода не є випадковою

Бюлетень наводить аргументований доказ: шкода, якої зазнають діти в інтернеті, не є випадковою. Вона є прямим продуктом бізнес-моделей, які монетизують увагу та персональні дані, а також функцій дизайну, створених для максимізації залученості та витрат . Документ особливо наголошує на «темних патернах», лутбоксах та інших тактиках, що спонукають до компульсивного використання серед дітей, чиї звички та ідентичність ще формуються . Бюлетень також попереджає про дедалі прихованіші рекламні тактики, які експлуатують дітей для збільшення онлайн-витрат .

Штучний інтелект: посилення наявних ризиків

ШІ посилює наявні ризики швидше, ніж захисні механізми встигають за ними. Бюлетень зазначає ризики, починаючи від контенту, згенерованого ШІ, до експлуатації за допомогою ШІ . Генеральний секретар ООН Антоніу Гутерріш цитується прямо: «Жодна дитина не має бути піддослідним кроликом для нерегульованого ШІ… Коли дитині завдано шкоди, відповідь ніколи не може бути «це зробив алгоритм»» .

Участь молоді: не лише жертви, але й адвокати

Бюлетень наполягає, що діти та молодь — не лише жертви — вони є творцями, адвокатами та організаторами . Однак їхні погляди залишаються недопредставленими на форумах, де формуються політики, та в дослідженнях, які інформують ці політики . Бюлетень наголошує: «Захищати їх і включати їх — це не конкуруючі цілі. Ми маємо робити і те, і інше» .

Нагальність впровадження прав дітей у регулювання ШІ

Бюлетень закликає вписати права дітей у рамки регулювання ШІ вже зараз, поки ці закони ще розробляються — попереджаючи, що «вікно, яке не буде відкритим довго», зачиняється . Він закликає держави, технологічні компанії, рекламодавців, медіа та дослідників діяти спільно. У документі згадується Коаліція за права дітей та їхній захист в епоху штучного інтелекту та заклик Генерального секретаря до Обіцянки безпеки ШІ для дітей, яка має охоплювати будь-яку систему, до якої дитина має доступ .