AnswersPublished22 sources
Ендрю Нґ: ризики ШІ треба розв’язувати інженерно, а не зупиняти розвиток технології
Ендрю Нґ назвав твердження про ймовірне вимирання людства через ШІ «набагато більше науковою фантастикою, ніж наукою». На його думку, непередбачуваність моделей — це інженерна проблема, яку слід зменшувати тестуванням, запобіжниками та поступовим удосконаленням систем.
ОпублікувавЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Ендрю Нґ назвав твердження про ймовірне вимирання людства через ШІ «набагато більше науковою фантастикою, ніж наукою».
- На його думку, непередбачуваність моделей — це інженерна проблема, яку слід зменшувати тестуванням, запобіжниками та поступовим удосконаленням систем.
- Нґ застеріг, що апокаліптична риторика може відволікати від суспільної користі ШІ, створювати публічний резонанс і впливати на правила регулювання.
- Він не пропонує нехтувати безпекою: пріоритетом мають бути кібербезпека та інші конкретні, передбачувані способи завдання шкоди.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Ендрю Нґ відкинув тезу, що штучний інтелект із великою ймовірністю спричинить вимирання людства. В інтерв’ю Bloomberg TV 17 вересня він назвав такі побоювання «набагато більше науковою фантастикою, ніж наукою». На його думку, те, що поведінку ШІ неможливо передбачити ідеально, не є підставою загалом призупиняти розвиток технології: це інженерна проблема, яку треба системно зменшувати. 10
Чому Нґ критикує апокаліптичну риторику
Нґ вважає, що попередження про «екзистенційний ризик» можуть відвертати увагу від потенційної користі ШІ для суспільства. Він також нагадав, що технологічна галузь уже роздмухувала страхи перед катастрофічними наслідками ШІ — очевидно, щоб привернути увагу та вплинути на регуляторний порядок денний. 8
Його застереження стосується і того, як можуть бути побудовані правила: регулювання, зосереджене лише на найбільших так званих frontier-моделях — найпотужніших передових системах, — потенційно легше виконувати великим і добре фінансованим лабораторіям. Сам Нґ не закликає ігнорувати безпеку, але заперечує, що гіпотетичний сценарій вимирання має бути головним обґрунтуванням широкої паузи в розвитку ШІ. 8
10
Що він пропонує натомість
Нґ закликає зосередитися на ризиках, які можна спостерігати й перевіряти на практиці: зокрема, на кібербезпеці та інших передбачуваних формах шкоди. Його рецепт — ретельне тестування, захисні механізми, оцінювання моделей і послідовне інженерне вдосконалення. 10
За цією логікою, системи ШІ ніколи не стануть абсолютно передбачуваними. Проте їх можна зробити достатньо надійними для конкретних завдань — так само, як це роблять в інших складних технічних сферах. Нґ також попередив: надто широке гальмування розвитку ШІ може водночас сповільнити й прогрес у самій безпеці технології. 10
Де проходить лінія розбіжностей у дискусії про сповільнення ШІ
Нґ помітно відрізняється від прихильників обережнішого темпу розвитку передових моделей:
- Джейкоб Коксон, колишній дослідник OpenAI та Anthropic, пішов з Anthropic і заявив, що стрімкий, недостатньо контрольований рух до систем, здатних до самовдосконалення, може обернутися катастрофою. Він закликав сповільнити темп.
2
14
- Даріо Амодеї, генеральний директор Anthropic, запропонував сповільнювати зростання можливостей передових моделей, аби виграти час для управління ризиками. Його підхід передбачає незалежне оцінювання таких систем і сильніші механізми контролю.
3
- Сем Альтман, керівник OpenAI, підтримав базову ідею сповільнення та додаткових запобіжників на тлі побоювань щодо систем, які люди можуть не зуміти контролювати.
1
9
- Джеффрі Гінтон також говорить про значний ризик втрати людського контролю над ШІ та підтримує повільніший розвиток, зокрема перевірки перед випуском нових моделей.
16
Отже, головна відмінність — у тому, як вони оцінюють імовірність та пріоритетність ризику. Коксон, Амодеї, Альтман і Гінтон вважають сценарії втрати контролю достатньо правдоподібними, щоб свідомо стримувати розвиток найпотужніших моделей. Нґ розглядає твердження про вимирання як спекулятивні й ставить на перше місце роботу з ближчими та вимірюваними загрозами за допомогою звичайної інженерної дисципліни. 3
10
16
Хто теж не підтримує загальну паузу — але з інших причин
Позиція Нґ частково перетинається з поглядами противників загального уповільнення, хоча їхні мотиви не тотожні:
- Дженсен Хуанг, очільник Nvidia, виступив проти нових спеціальних законів для ШІ та не підтримав ідею широкого сповільнення.
5
- Марк Цукерберг, керівник Meta, заперечив проти загальногалузевої паузи, наголошуючи на ролі конкуренції та ринкових стимулів у підвищенні безпеки моделей.
- Президент Дональд Трамп відкинув заклики до сповільнення, назвав твердження про небезпеку ШІ «обманом» і заявив, що США вже мають інструменти для нагляду за компаніями та переслідування порушень. Він також акцентував на конкурентоспроможності США, передусім у змаганні з Китаєм.
- Представник МЗС Китаю також заперечив проти закликів сповільнити розвиток передового ШІ.
Для Нґ ключовим аргументом є не конкуренція чи відмова від додаткових обмежень як така, а концентрація на реальних збоях і перевірюваних засобах захисту. Хуанг, Цукерберг, Трамп і китайська сторона натомість більше наголошують на інноваціях, конкуренції та скепсисі щодо нових обмежень. 5
7
10
11
У доступних матеріалах недостатньо надійних даних, щоб без перебільшень описати позиції Айдана Гомеса та Стіва Айсмана щодо загальногалузевого сповільнення, досліджень безпеки, регулювання та міжнародного управління ШІ.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Ендрю Нґ: ризики ШІ треба розв’язувати інженерно, а не зупиняти розвиток технології"?
Ендрю Нґ назвав твердження про ймовірне вимирання людства через ШІ «набагато більше науковою фантастикою, ніж наукою».
What are the key points to validate first?
Ендрю Нґ назвав твердження про ймовірне вимирання людства через ШІ «набагато більше науковою фантастикою, ніж наукою». На його думку, непередбачуваність моделей — це інженерна проблема, яку слід зменшувати тестуванням, запобіжниками та поступовим удосконаленням систем.
What should I do next in practice?
Нґ застеріг, що апокаліптична риторика може відволікати від суспільної користі ШІ, створювати публічний резонанс і впливати на правила регулювання.
Sources