AnswersPublished13 sources
Ексдослідник DeepMind Білал Чуґтаї: ШІ може «вбити нас усіх»
Білал Чуґтаї, який залишив Google DeepMind, заявив, що ШІ потенційно здатен «вбити нас усіх» і що часу на запобігання цьому може залишатися дедалі менше. Його позиція перегукується із застереженнями колишнього дослідника Anthropic Джейкоба Коксона та оцінкою Евана Губінґера, який особисто вважає ризик вимирання людс...
ОпублікувавВідредаговано за допомогою GPT-5.6 TerraЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Білал Чуґтаї, який залишив Google DeepMind, заявив, що ШІ потенційно здатен «вбити нас усіх» і що часу на запобігання цьому може залишатися дедалі менше.
- Його позиція перегукується із застереженнями колишнього дослідника Anthropic Джейкоба Коксона та оцінкою Евана Губінґера, який особисто вважає ризик вимирання людства протягом десятиліття вищим за 10%.
- Суперечка точиться навколо темпу розвитку: прихильники обережності вимагають тестувань, незалежних перевірок і державного нагляду, а критики побоюються втрати технологічної переваги США.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Заява Білала Чуґтаї — це різке попередження про екзистенційний ризик, а не прогноз, що штучний інтелект неминуче знищить людство. Після відходу з Google DeepMind, де він, за його словами, працював над безпекою та узгодженням цілей AGI — загального штучного інтелекту, — Чуґтаї написав, що ШІ має потенціал «вбити нас усіх» і що часу, аби не допустити такого сценарію, може бракувати.
У чому полягає його застереження
Чуґтаї непокоїть те, що можливості дедалі потужніших систем ШІ можуть зростати швидше, ніж людство навчиться надійно їх контролювати. У центрі його критики — поточна траєкторія галузі: конкурентні перегони за продуктивнішими моделями, які випереджають запровадження запобіжників, дослідження узгодження цілей ШІ з людськими інтересами та суспільний нагляд.
Водночас його рецепт — не одностороння відмова від технології. Він закликав до координації між компаніями, щоб припинити «маніакальні перегони» та розвивати ШІ в темпі, з яким суспільство здатне впоратися, усуваючи нові ризики до того, як вони переростуть у крайню шкоду.
Чому ці слова привернули увагу
Вихід Чуґтаї з DeepMind стався на тлі низки відвертих заяв дослідників і керівників ШІ-компаній про катастрофічні ризики передових систем.
Колишній дослідник Anthropic Джейкоб Коксон пояснив своє звільнення тим, що, на його думку, провідні лабораторії безвідповідально рухаються до самовдосконалюваного надінтелекту. За словами Коксона, люди, які створюють ШІ, щиро допускають, що ця технологія може знищити людство до кінця десятиліття.
Еван Губінґер, дослідник узгодження в Anthropic, публічно підтримав основне занепокоєння. Його особиста оцінка ймовірності того, що ШІ спричинить вимирання людей у найближчі десять років, перевищує 10%. Водночас він окремо наголосив: нинішні моделі, на його думку, становлять низький ризик.
Це оцінки окремих фахівців, а не емпірично встановлена ймовірність чи науковий консенсус. Проте вони показують важливу річ: дехто з людей, які працюють найближче до розробки передових моделей, вважає можливу шкоду настільки тяжкою, що запобіжні заходи варто посилювати вже зараз.
Як це пов’язано із закликами сповільнити передовий ШІ
Пропозиція Чуґтаї близька до позиції генерального директора Anthropic Даріо Амодеї: темп розвитку найпотужніших систем слід стримувати, доки не посиляться механізми безпеки та зовнішнього контролю. Повідомлялося, що ідею загальногалузевого уповільнення підтримали керівник OpenAI Сем Альтман та Ілон Маск.
На практиці така політика не обов’язково означає постійну заборону ШІ. У своїй Advanced AI Framework компанія Anthropic пропонує вимоги для розробників найпотужніших моделей, зокрема:
- тестувати системи на катастрофічні ризики;
- залучати незалежних зовнішніх оцінювачів;
- регулярно розкривати результати оцінок, ризики та інциденти, пов’язані з безпекою;
- запровадити підзвітність розробників державі, зокрема можливість стримувати або блокувати небезпечні розгортання моделей.
1
Політика відповідального масштабування Anthropic побудована за принципом «якщо — то»: якщо модель демонструє визначені небезпечні можливості, її не слід розгортати або навчати потужнішу систему, доки не буде належних запобіжників. 8
Заперечення: регулювання може послабити позиції США
Розбіжності тут не лише технічні, а й геополітичні. Критики уповільнення вважають, що жорсткі обмеження можуть віддати перевагу державам-конкурентам або менш обережним компаніям.
Президент США Дональд Трамп визнав, що для ШІ можуть знадобитися певні обмеження, але применшив найтривожніші сценарії та висловив побоювання, що Сполучені Штати поступляться лідерством Китаю. Саме в цьому й полягає головна напруга дискусії: чи є уповільнення передового ШІ необхідним управлінням ризиком, чи стратегічною поступкою, яку США не можуть собі дозволити.
Що «думеризм щодо ШІ» пояснює — і що не доводить
Термін AI doomerism («думеризм щодо ШІ») зазвичай використовують для поглядів, за якими передовий ШІ може створити загрозу рівня вимирання. Але ярлик часто затуляє суттєве політичне питання: які саме ознаки небезпечних можливостей мають запускати додаткові перевірки, обмеження на розгортання чи державне втручання?
Аргумент Чуґтаї не доводить, що катастрофа через ШІ неминуча або близька. Він стверджує інше: ціна помилки у сфері безпеки може бути незворотною, а конкурентна логіка ринку не гарантує належної обережності. Звідси й запропонована відповідь — скоординоване управління: за потреби повільніше впровадження, суворіші оцінки та чіткіша відповідальність ще до того, як системи стане складніше контролювати. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Ексдослідник DeepMind Білал Чуґтаї: ШІ може «вбити нас усіх»"?
Білал Чуґтаї, який залишив Google DeepMind, заявив, що ШІ потенційно здатен «вбити нас усіх» і що часу на запобігання цьому може залишатися дедалі менше.
What are the key points to validate first?
Білал Чуґтаї, який залишив Google DeepMind, заявив, що ШІ потенційно здатен «вбити нас усіх» і що часу на запобігання цьому може залишатися дедалі менше. Його позиція перегукується із застереженнями колишнього дослідника Anthropic Джейкоба Коксона та оцінкою Евана Губінґера, який особисто вважає ризик вимирання людства протягом десятиліття вищим за 10%.
What should I do next in practice?
Суперечка точиться навколо темпу розвитку: прихильники обережності вимагають тестувань, незалежних перевірок і державного нагляду, а критики побоюються втрати технологічної переваги США.