Гінтон назвав 10-відсотковий ризик вимирання через ШІ за десятиліття «не нерозумною оцінкою»

Джеффрі Гінтон, нобелівський лауреат і один із найвідоміших дослідників сучасного ШІ, заявив, що 10-відсоткова ймовірність того, що штучний інтелект знищить людство протягом наступних десяти років, «не видається нерозумною оцінкою». Водночас він одразу зробив ключове застереження: «ніхто насправді не знає», як дати такій імовірності осмислену оцінку. 91012

Це не пророцтво і не твердження, що нинішні чат-боти вже становлять екзистенційну загрозу. Йдеться про сценарій, за якого майбутні системи ШІ стануть набагато здібнішими за людей, а механізмів надійно їх контролювати так і не буде створено.

Що саме Гінтон мав на увазі, говорячи про 10%

В інтерв’ю BBC Newsnight Гінтон погодився, що 10% — не безглузда оцінка ризику пов’язаного зі ШІ вимирання людства протягом десятиліття. Його аргумент ґрунтується передусім на невизначеності: людство ще ніколи не співіснувало з істотами або системами, які потенційно можуть стати інтелектуально сильнішими за нього. 910

Раніше Гінтон висловлював схожі побоювання, але на довшій часовій дистанції. Наприкінці 2024 року він оцінював імовірність того, що ШІ призведе до вимирання людей упродовж трьох десятиліть, у 10–20%. У 2025-му він уточнював, що це радше інтуїтивне судження, а не результат точного розрахунку. 1415

Важлива різниця тут — між оцінкою ризику і твердженням про неминучість. На думку Гінтона, величезна потенційна ціна помилки означає, що невизначеність має спонукати до обережності, а не заспокоювати.

Чому його тривожить можливий надлюдський ШІ

Обговорюваний сценарій не обов’язково схожий на кіношне «повстання машин». Побоювання Гінтона полягає в тому, що система, яка значно перевершує людей у стратегічному мисленні й технічних навичках, може створювати хаос або досягати цілей, несумісних з інтересами людства.

Серед можливих шляхів шкоди називають маніпулювання людьми, створення біологічних чи комп’ютерних вірусів, кібератаки та сприяння порушенню роботи критичної інфраструктури. Це гіпотетичні механізми шкоди від майбутніх високоздібних систем, а не доведені можливості сучасних інструментів ШІ. 1011

Ця різниця принципова. Еван Губінгер, який очолює напрям досліджень вирівнювання ШІ в Anthropic, прямо заявив, що вважає ризик від наявних моделей низьким. Його, як і Гінтона, непокоїть імовірність того, що системи в майбутньому різко наростять можливості або почнуть удосконалювати себе швидше, ніж дослідники зможуть гарантувати безпеку. 11624

Відставка Джейкоба Коксона і позиція Anthropic

Дискусія загострилася після того, як дослідник Джейкоб Коксон залишив Anthropic і сферу ШІ. Він звинуватив Anthropic та OpenAI в тому, що вони надто швидко змагаються за створення самовдосконалюваного надінтелекту, фактично ризикуючи людськими життями. 317

Коксон не передбачав із конкретною точністю, що людська цивілізація зникне до 2030 року. Його вужче, але не менш тривожне твердження полягало в іншому: люди, які створюють передові системи ШІ, щиро вважають можливим, що ця технологія здатна знищити всіх людей до кінця десятиліття. 57

Губінгер публічно підтримав серйозність цього попередження. Він написав, що особисто оцінює шанс загибелі всього людства через ШІ в найближчі десять років як вищий за 10%, і водночас зазначив, що Anthropic намагається діяти якнайкраще. Однак, за його словами, компанія досі не має плану розв’язання проблеми вирівнювання надінтелекту і не очевидно, що рухається до такого рішення. 16

Що таке «вирівнювання» ШІ

Вирівнюванням називають проблему створення систем ШІ, які стабільно діятимуть відповідно до намірів і цілей людей та залишатимуться контрольованими — зокрема й у непередбачених для розробників ситуаціях.

Для дослідників безпеки це значно ширше, ніж уміння моделі відмовитися від шкідливого запиту. Питання в тому, чи можна безпечно спрямовувати систему з широкою автономією, доступом до інструментів і можливостями, які її оператори можуть не до кінця розуміти.

Коментарі Губінгера не доводять, що вирівнювання неможливе. Але вони свідчать про його оцінку: наразі немає продемонстрованого рішення, яке гарантувало б безпечне вирівнювання надінтелектуальних систем до їхньої можливої появи. 16

У чому погоджуються й розходяться інші експерти

Єдиної думки щодо саме 10-відсоткової цифри Гінтона немає.

Дослідник і критик сучасних підходів до ШІ Гарі Маркус підтримав головну обережну тезу Гінтона: було б нерозумно створювати надінтелект за відсутності наукового консенсусу, що його можна зробити безпечним і контрольованим. Водночас у повідомленнях зазначається, що Маркус не вбачає реалістичного близького шляху до вимирання людства. Це показує головну лінію розбіжностей: погоджуватися з потребою в запобіжниках не означає погоджуватися з конкретною ймовірністю чи термінами катастрофи. 1141

Тому числові оцінки варто читати не як виміряний факт, а як експертні судження в умовах дуже великої невизначеності.

Головне питання для суспільства

Найбільший спільний знаменник у цій дискусії — не твердження, що вимирання через ШІ гарантоване. Він полягає в іншому: навіть ненульова й потенційно значна ймовірність втрати контролю над системами, здібнішими за їхніх операторів, потребує суспільної уваги до того, як розвиток технологій випереджає безпекові дослідження.

Заява Гінтона, відставка Коксона та попередження Губінгера зводяться до одного відкритого питання: які докази безпеки суспільство має вимагати, перш ніж упроваджувати або далі масштабувати системи, здатні стати стратегічно надлюдськими?

Для читача корисно не змішувати три різні твердження:

• сучасні моделі ШІ вже становлять загрозу вимирання;
• майбутні системи можуть набути можливостей, що створять таку загрозу;
• імовірність цього результату можна точно обчислити.

Наведені джерела підтримують друге твердження як серйозне занепокоєння відомих дослідників. Водночас Губінгер називає ризик від нинішніх моделей низьким, а Гінтон визнає, що надійно обрахувати ймовірність такого сценарію неможливо. 11016