ОтветыОпубликовано22 источники
Эндрю Ын: риск вымирания из-за ИИ — «скорее научная фантастика, чем наука»
Эндрю Ын заявил, что опасения по поводу вымирания человечества из за ИИ — «скорее научная фантастика, чем наука». По его мнению, непредсказуемость ИИ — инженерная задача, которую следует решать тестированием, ограничителями и постепенным улучшением систем.
ОпубликовалИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Эндрю Ын заявил, что опасения по поводу вымирания человечества из за ИИ — «скорее научная фантастика, чем наука».
- По его мнению, непредсказуемость ИИ — инженерная задача, которую следует решать тестированием, ограничителями и постепенным улучшением систем.
- Ын предупредил, что апокалиптическая риторика способна отвлекать от практической пользы ИИ, приносить публичность и влиять на правила регулирования.
- Вместо общего замедления он предлагает уделять приоритетное внимание кибербезопасности и другим наблюдаемым, конкретным видам вреда.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Эндрю Ын, один из пионеров современного ИИ, не согласился с утверждением, что искусственный интеллект с высокой вероятностью приведёт к вымиранию человечества. В интервью Bloomberg TV 17 сентября он назвал такие опасения «гораздо скорее научной фантастикой, чем наукой». 10
Его ключевой аргумент: ИИ никогда не будет полностью предсказуемым, но это не повод останавливать развитие технологии в целом. Непредсказуемость следует рассматривать как инженерную проблему — снижать риски через испытания, защитные механизмы и последовательную доработку систем. 10
Почему Ын критически относится к «апокалиптической» риторике
По словам Ына, разговоры об экзистенциальной угрозе могут отвлекать общество от потенциальной пользы ИИ. Он также отметил, что технологическая индустрия уже раздувала страхи вокруг катастрофических последствий ИИ — по-видимому, ради внимания и влияния на будущие правила игры. 8
Его логика подразумевает и рыночный риск: если регулирование будет построено прежде всего вокруг самых крупных «фронтирных» моделей, соблюдение сложных требований окажется проще для богатых, уже доминирующих лабораторий. Это способно укрепить позиции действующих лидеров рынка, а не обязательно сделать технологию безопаснее. 8
10
При этом Ын не призывает игнорировать безопасность. Он выступает за строгие проверки, встроенные ограничения и инженерные практики против конкретных сбоев — особенно в сфере кибербезопасности и других предсказуемых видов ущерба. Более того, по его мнению, широкое замедление разработки ИИ может затормозить и сам прогресс в области безопасности. 10
Чем его подход отличается от лагеря сторонников замедления
Часть исследователей и руководителей ведущих ИИ-компаний считает, что развитие передовых моделей нужно намеренно притормозить, чтобы меры контроля успевали за ростом возможностей систем.
- Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, ушёл из Anthropic и предупредил, что быстрый и недостаточно контролируемый прогресс, особенно в направлении самосовершенствующихся систем, может привести к катастрофе. Он призвал снизить темп.
2
14
- Дарио Амодеи, гендиректор Anthropic, предложил замедлить наращивание возможностей передовых моделей. Его план включает трёхступенчатый подход и более сильную независимую оценку продвинутых систем. Амодеи не предлагает прекращать исследования, но считает, что развитие возможностей опережает меры безопасности и управление рисками.
3
- Сэм Альтман, глава OpenAI, поддержал основную идею замедления и дополнительных предосторожностей на фоне тревоги, что отрасль может приблизиться к системам, которые люди не смогут контролировать.
1
9
- Джеффри Хинтон также считает существенной вероятность того, что ИИ выйдет из-под человеческого контроля. Он поддерживает более медленное развитие и такие меры, как тестирование до выпуска продуктов, указывая, что правительства действуют слишком медленно.
16
Главное расхождение — в оценке вероятности и выборе приоритетов. Коксон, Амодеи, Альтман и Хинтон считают сценарий потери контроля достаточно правдоподобным, чтобы намеренно сдерживать развитие передовых возможностей. Ын считает утверждения о вымирании спекулятивными и предлагает решать близкие, наблюдаемые риски обычными методами инженерной безопасности. 3
10
16
Кто тоже не поддерживает общий «стоп-сигнал» — и почему это не то же самое
С выводом Ына против всеобщего замедления совпадают и другие влиятельные фигуры, однако их аргументы отличаются.
- Дженсен Хуанг, глава Nvidia, выступил против новых специальных законов для ИИ и не поддержал широкое замедление отрасли.
5
- Марк Цукерберг, глава Meta, возразил против общеотраслевой паузы, заявляя, что рыночные стимулы и конкуренция будут побуждать компании делать модели безопасными.
- Президент США Дональд Трамп отверг призывы замедлить разработку, назвал разговоры об опасности ИИ «мистификацией» и заявил, что у США уже есть инструменты для регулирования отрасли и преследования нарушителей. Его акцент был на сохранении конкурентоспособности США, особенно в соперничестве с Китаем.
- Представитель МИД Китая также выступил против призывов замедлить развитие фронтирного ИИ, отвергая идею навязанной извне глобальной паузы.
Таким образом, Ын ближе к этому лагерю лишь в неприятии общеотраслевого торможения. Но его позиция технократична: фокусироваться на измеримых сбоях и эффективных инженерных средствах защиты. Хуанг, Цукерберг, Трамп и китайские власти в большей степени подчёркивают инновации, конкуренцию и скептически относятся к новым ограничениям. 5
7
10
11
В доступных материалах недостаточно оснований, чтобы без риска неверной атрибуции подробно охарактеризовать позиции Айдана Гомеса и Стива Айсмана по каждому из этих вопросов: общеотраслевому замедлению, исследованиям безопасности, регулированию и международному управлению ИИ.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Эндрю Ын: риск вымирания из-за ИИ — «скорее научная фантастика, чем наука»»?
Эндрю Ын заявил, что опасения по поводу вымирания человечества из за ИИ — «скорее научная фантастика, чем наука».
Какие ключевые моменты необходимо проверить в первую очередь?
Эндрю Ын заявил, что опасения по поводу вымирания человечества из за ИИ — «скорее научная фантастика, чем наука». По его мнению, непредсказуемость ИИ — инженерная задача, которую следует решать тестированием, ограничителями и постепенным улучшением систем.
Что мне делать дальше на практике?
Ын предупредил, что апокалиптическая риторика способна отвлекать от практической пользы ИИ, приносить публичность и влиять на правила регулирования.
Источники