ОтветыОпубликовано13 источники
Бывший исследователь DeepMind предупредил, что ИИ может «убить нас всех»
Билал Чугтаи, ушедший из Google DeepMind в июле 2026 года, заявил, что ИИ способен «убить нас всех» и что времени для предотвращения такого исхода может оставаться всё меньше. Его предупреждение прозвучало вслед за заявлениями бывшего сотрудника Anthropic Джейкоба Коксона и исследователя Evan Hubinger; оценка Hubing...
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Билал Чугтаи, ушедший из Google DeepMind в июле 2026 года, заявил, что ИИ способен «убить нас всех» и что времени для предотвращения такого исхода может оставаться всё меньше.
- Его предупреждение прозвучало вслед за заявлениями бывшего сотрудника Anthropic Джейкоба Коксона и исследователя Evan Hubinger; оценка Hubinger выше 10% была его личным суждением, а не научным консенсусом.
- Спор идёт о темпах и правилах развития передового ИИ: сторонники предлагают обязательные тесты, независимую оценку и возможность вмешательства властей, оппоненты опасаются ослабления позиций США в конкуренции с Китаем.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Заявление Билала Чугтаи — это жёсткое предупреждение об экзистенциальном риске, а не утверждение, что гибель человечества от ИИ неизбежна. После ухода из Google DeepMind, где он, по его словам, занимался безопасностью и согласованием целей общего искусственного интеллекта (AGI), Чугтаи написал, что ИИ способен «убить нас всех» и что времени, чтобы избежать такого сценария, может оставаться всё меньше.
В чём состоит его тревога
Чугтаи беспокоит то, что возможности всё более мощных систем ИИ могут расти быстрее, чем люди учатся делать их надёжно безопасными и управляемыми. Речь идёт о «траектории по умолчанию»: компании соревнуются в создании всё более сильных моделей, тогда как защитные механизмы, исследования согласования целей ИИ с человеческими интересами и общественный надзор не поспевают за этой гонкой.
Его рецепт — не односторонний отказ одной компании от разработок, а координация между участниками рынка и государствами. По словам Чугтаи, развитие ИИ следует вести в темпе, который общество способно контролировать, устраняя новые риски до того, как они приведут к крайне тяжёлому ущербу. Он призвал компании прекратить «маниакальную гонку» и договориться между собой.
Почему это заявление получило резонанс
Уход Чугтаи совпал с серией необычно откровенных высказываний исследователей и руководителей ИИ-компаний о катастрофических рисках передовых систем.
Бывший исследователь Anthropic Джейкоб Коксон объяснил своё увольнение тем, что, по его мнению, ведущие лаборатории безответственно движутся к самоулучшающемуся сверхинтеллекту. Коксон говорил, что люди, создающие ИИ, искренне допускают его способность уничтожить человечество уже к концу десятилетия.
Исследователь согласования ИИ из Anthropic Эван Хубингер публично поддержал основную тревогу и оценил личную вероятность вымирания человечества из-за ИИ в ближайшие десять лет выше чем в 10%. При этом он отдельно подчёркивал, что существующие сегодня модели, по его мнению, несут низкий риск.
Это мнения отдельных специалистов, а не эмпирически установленный прогноз и не научный консенсус. Но их общий довод уже влияет на дискуссию: люди, работающие с передовыми моделями, считают потенциальный ущерб достаточно серьёзным, чтобы усиливать предосторожности до дальнейшего скачка возможностей.
Какой «тормоз» предлагают для передового ИИ
Подход Чугтаи близок к позиции гендиректора Anthropic Дарио Амодеи: наиболее мощные ИИ-системы следует развивать с контролируемым темпом, параллельно укрепляя безопасность и независимый надзор. Как сообщалось, идею общеотраслевого замедления поддержали глава OpenAI Сэм Альтман и Илон Маск.
На практике речь не обязательно идёт о постоянном запрете ИИ. В документе Anthropic Advanced AI Framework предлагаются требования к разработчикам наиболее мощных моделей:
- тестировать системы на катастрофические риски;
- привлекать независимых внешних оценщиков;
- постоянно раскрывать результаты оценок, риски и сведения об инцидентах безопасности;
- обеспечить подотчётность разработчиков государству, включая полномочия сдерживать или блокировать опасные развёртывания.
1
Политика ответственного масштабирования Anthropic строится по принципу «если — то»: если у модели появляются заранее определённые опасные возможности, её не следует внедрять или обучать более мощную систему, пока не будут введены надлежащие защитные меры. 8
Возражение: регулирование может ослабить США
Этот спор не только технический, но и геополитический. Критики замедления считают, что жёсткие ограничения могут дать преимущество государствам-конкурентам или компаниям, которые будут действовать менее осторожно.
Президент США Дональд Трамп признавал, что для ИИ могут понадобиться некоторые ограничения, но преуменьшал наиболее тревожные сценарии и говорил, что опасается утраты американского лидерства в пользу Китая. В этом и состоит центральное противоречие: является ли замедление передового ИИ необходимым управлением риском или стратегической уступкой, на которую США не могут пойти.
Что в «думеризме ИИ» важно не упустить
Термин «AI doomerism» — «думеризм ИИ» — обычно используют для взглядов, согласно которым продвинутый ИИ способен создать угрозу уровня вымирания. Сам ярлык может заслонять конкретный вопрос политики: какие признаки опасных возможностей должны стать основанием для дополнительных проверок, ограничений на внедрение или вмешательства регуляторов?
Аргумент Чугтаи не доказывает, что ИИ-катастрофа близка. Он утверждает другое: цена ошибки в вопросе безопасности может оказаться необратимой, а конкурентная логика сама по себе не гарантирует необходимой осторожности. Предлагаемый ответ — скоординированное управление: при необходимости замедлять внедрение, проводить более строгие оценки и устанавливать понятную ответственность до того, как системы станет сложнее контролировать. 1
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Бывший исследователь DeepMind предупредил, что ИИ может «убить нас всех»»?
Билал Чугтаи, ушедший из Google DeepMind в июле 2026 года, заявил, что ИИ способен «убить нас всех» и что времени для предотвращения такого исхода может оставаться всё меньше.
Какие ключевые моменты необходимо проверить в первую очередь?
Билал Чугтаи, ушедший из Google DeepMind в июле 2026 года, заявил, что ИИ способен «убить нас всех» и что времени для предотвращения такого исхода может оставаться всё меньше. Его предупреждение прозвучало вслед за заявлениями бывшего сотрудника Anthropic Джейкоба Коксона и исследователя Evan Hubinger; оценка Hubinger выше 10% была его личным суждением, а не научным консенсусом.
Что мне делать дальше на практике?
Спор идёт о темпах и правилах развития передового ИИ: сторонники предлагают обязательные тесты, независимую оценку и возможность вмешательства властей, оппоненты опасаются ослабления позиций США в конкуренции с Китаем.