Волкер Тюрк: добровільних обіцянок безпеки ШІ «далеко недостатньо»

Перегони зі створення дедалі потужніших систем штучного інтелекту не можна залишати на розсуд самих компаній. Таку позицію висловив Верховний комісар ООН з прав людини Волкер Тюрк у відкритому листі. Він закликав до термінових багатосторонніх дій, заснованих на міжнародному праві прав людини, наголосивши: добровільне саморегулювання є «далеко недостатнім». 7

Чого Тюрк вимагає від урядів і компаній

Звернення адресоване і державам, і розробникам так званого передового ШІ — систем, що перебувають на найвищому рівні сучасних можливостей. Головна думка Тюрка: рішення про те, які ризики має приймати суспільство, не повинна одноосібно ухвалювати вузька група технологічних компаній. 7

Серед ключових кроків, на яких наголошується у повідомленнях про лист:

• Обов’язкове регулювання, засноване на правах людини. Державам слід посилювати правила замість того, щоб покладатися на добровільні корпоративні зобов’язання, а також співпрацювати між собою, щоб уникати прогалин між національними підходами. 7
• Постійна належна перевірка щодо прав людини. Розробники мають виявляти й усувати фактичний та потенційний вплив на права людини протягом усього життєвого циклу системи ШІ, а не обмежуватися одноразовою формальною оцінкою. У рекомендаціях ООН це безперервний процес: виявлення ризиків, дії у відповідь, відстеження результативності та інформування.
• Незалежне технічне оцінювання і верифікація. Тюрк закликав до запобіжників, які можна перевірити зовнішньо й незалежно, а не приймати на віру лише на підставі заяв компаній. 7
• Термінові багатосторонні дії. Регулювання передового ШІ є міжнародною проблемою, тому правила та гарантії безпеки мають формуватися скоординовано — між країнами та інституціями. 79

Чому це попередження пролунало саме тепер

Заява Тюрка з’явилася на тлі помітного загострення суперечок у ШІ-галузі про те, наскільки швидко провідні лабораторії мають рухатися до автономніших систем, здатних потенційно до самовдосконалення.

Джейкоб Коксон, дослідник, який працював і в OpenAI, і в Anthropic, у вересні 2026 року звільнився з Anthropic. Він заявив, що компанії змагаються за створення самовдосконалюваного надінтелекту та «грають нашими життями». 68 Також Коксон сказав, що дехто з тих, хто створює ШІ, вважає, ніби ця технологія може «вбити нас усіх» до кінця десятиліття. Це застереження, яке приписують Коксону та іншим занепокоєним розробникам, а не встановлений прогноз. 6

Водночас працівнича ініціатива Pacing the Frontier закликала уряд США підтримати міжнародну роботу зі створення технічних і управлінських інструментів, що дозволять свідомо сповільнювати розвиток передового ШІ, якщо він випереджатиме здатність людства безпечно його контролювати. На сайті ініціативи вказано 1 386 підписантів із компаній, що займаються передовим ШІ. 15

Така підтримка ідеї «контрольованого темпу» важлива, але вона не розв’язує питання відповідальності. На думку Тюрка, добровільні зобов’язання — навіть якщо їх підтримують працівники чи керівники індустрії — не можуть замінити обов’язкові суспільні гарантії. 7

Вже наявна шкода і довгострокові ризики — в одній системі правил

Тюрк не звів проблему лише до віддаленого сценарію зникнення людства. Він зазначив, що добровільного саморегулювання недостатньо і для реагування на вже наявну шкоду, і для запобігання тому, щоб просунуті автономні моделі обходили людські запобіжники. 7

Наявні повідомлення не містять вичерпного переліку конкретних видів поточної шкоди, названих у листі. Тому було б некоректно приписувати Тюрку певні категорії наслідків понад це загальне попередження. Водночас його критерій для регулювання чіткий: права людини мають бути в центрі проєктування, впровадження, оцінювання та управління системами ШІ. 7

Яку прогалину бачить ООН

Між частиною голосів у ШІ-індустрії та застереженням ООН є певний збіг: обидві сторони визнають, що розвиток можливостей систем може потребувати свідомого уповільнення та незалежного оцінювання. 715

Але невирішеною лишається політична проблема. Заяви, підтримані представниками індустрії, можуть заохочувати координацію, проте самі по собі не встановлюють спільних порогів ризику, не зобов’язують розкривати інформацію, не вимагають незалежних перевірок і не створюють механізмів відшкодування та відповідальності у разі шкоди.

Саме цю прогалину Тюрк пропонує закрити терміновим багатостороннім регулюванням у межах міжнародного права прав людини. 79

Практичний висновок для політиків і тих, хто купує або впроваджує ШІ-системи: заяви про безпеку мають підкріплюватися доказами постійної оцінки ризиків для прав людини, зовнішнім контролем і чіткою відповідальністю — а не лише добровільними обіцянками компаній-розробників.