Перша доповідь ООН про безпеку ШІ: 5 критичних ризиків та чому глобальне врядування не встигає

Оманлива поведінка ШІ. Науково-консультативна рада ООН визначає обман з боку ШІ як введення в оману людей або інших систем щодо того, що він знає, має намір зробити або на що здатен — на відміну від звичайних помилок чи галюцинацій . Докази такої поведінки вже виявлені в широко використовуваних системах ШІ, і очікується, що ризик зростатиме в міру того, як ШІ ставатиме потужнішим, автономнішим і більш інтегрованим у повсякденне прийняття рішень .

Ерозія інформаційної цілісності. У доповіді створення та маніпулювання аудіо- та відеоматеріалами за допомогою ШІ визначено прямою загрозою інформаційній цілісності, що підживлює поляризацію та підриває довіру до публічного дискурсу .

Шкода психічному здоров'ю та благополуччю. Кілька видів шкоди від ШІ загального призначення вже добре відомі. До них належать шахрайство, неконсенсуальні інтимні зображення та матеріали сексуального насильства над дітьми — все це безпосередньо шкодить психічному здоров'ю .

Ризики кібербезпеки та шахрайства. Стандартизовані підходи до оцінки загроз кібербезпеці та запобігання шахрайству, пов'язаних із ШІ, залишаються обмеженими, що створює критичну прогалину в оборонних спроможностях .

Прогалина в глобальному управлінні

Доповідь підкреслює фундаментальну структурну проблему: ШІ розвивається швидше, ніж наука та регулювання, і наразі не існує авторитетних міжнародних інституціоналізованих функцій для незалежної оцінки ризиків ШІ . Більшість країн взагалі не мають можливості оцінювати передові моделі ШІ, що поглиблює розрив між жменькою держав і компаній, які володіють можливостями ШІ, та рештою світу .

Ця прогалина не є гіпотетичною. У доповіді зазначається, що політики стикаються з дедалі більшою дилемою: їм потрібні наукові докази для управління ШІ, але його можливості випереджають саму науку .

Як працює панель: «МГЕЗК для ШІ»

Панель створена за зразком Міжурядової групи експертів зі зміни клімату (МГЕЗК, IPCC) та Міжурядової науково-політичної платформи з біорізноманіття та екосистемних послуг (IPBES) . Ця науково-політична модель означає, що уряди допомагають визначати питання, які розглядає панель, але науковці несуть повну відповідальність за оцінку доказів, написання звітів та збереження цілісності наукових висновків .

Ключові структурні деталі:

• Мандат: Панель уповноважена готувати щорічний науковий звіт про можливості, ризики та вплив ШІ, що базується на фактичних даних. Вона також може готувати тематичні огляди з актуальних питань .
• Обмеження: Панель оцінює та узагальнює науку — вона не встановлює правил, не створює обов'язкових нормативних актів та не забезпечує виконання політики .
• Склад: 40 провідних науковців та експертів з різних сфер, які діють в особистій якості .
• Початок роботи: Панель провела свій перший очний саміт і розпочала роботу над першим звітом до дедлайну в липні 2026 року .

Чим займатиметься Глобальний діалог з управління ШІ

Перший щорічний звіт буде офіційно представлено на інавгураційному Глобальному діалозі з управління ШІ в Женеві 6-7 липня 2026 року . Глобальний діалог був заснований разом із панеллю резолюцією Генеральної Асамблеї ООН A/RES/79/325 як платформа за участю урядів та всіх відповідних зацікавлених сторін для обговорення питань управління ШІ . Його мандат включає подолання розриву в сфері ШІ, нарощування потенціалу та перехід від фрагментованої політики до більш узгоджених міжнародних рамок .

Чому це важливо

Звіт навмисно не є директивним: він не рекомендує конкретних політик чи нормативних актів . Його сила полягає у створенні надійної, незалежної та міжнародно визнаної доказової бази, яку уряди, регулятори та громадськість можуть використовувати для прийняття обґрунтованих рішень щодо ризиків ШІ . Як заявив Генеральний секретар ООН Антоніу Гутерріш, світ гостро потребує «спільного, глобального розуміння штучного інтелекту, заснованого не на ідеології, а на науці; не на фейкових новинах, а на знаннях» .