Трамп проти уповільнення ШІ: що пропонує Дарио Амодеї і чому суперечка впирається в Китай

Дональд Трамп розглядає дискусію про найпотужніші системи штучного інтелекту насамперед крізь призму конкуренції з Китаєм. У публічних заявах він наполягав, що США мають лишатися лідером галузі, адже «хто перемагає у ШІ — той перемагає». Згодом він назвав твердження про те, що ШІ може захопити світ або знищити людство, «обманом», а протидію розвитку ШІ та дата-центрів — «хворою змовою», вигідною Китаю. 1719

Чому Трамп атакував Дарио Амодеї

Реакція Трампа пролунала після заклику гендиректора Anthropic Дарио Амодеї свідомо знизити темп, з яким зростають можливості найсильніших моделей ШІ. В основі цих позицій — різні пріоритети: Трамп говорить про збереження технологічного лідерства США, тоді як Амодеї вважає, що можливості моделей можуть розвиватися швидше, ніж практики безпеки та механізми нагляду. 17

Трамп також заявив, що влада вже має значні кримінально-правові та регуляторні повноваження щодо таких компаній, а запобіжником має бути сильний президент. Тому його критика Амодеї поєднала недовіру до попереджень про екзистенційні ризики з побоюванням, що формальні обмеження послаблять американські компанії у змаганні з китайськими. 1921

Що передбачає план «We Must Pace the Frontier»

Амодеї не пропонує припиняти дослідження ШІ. Його план із трьох пунктів передбачає сповільнити неконтрольоване нарощування можливостей достатньо, щоб дослідження безпеки, тестування та врядування встигали за технологією.

1. Постійні незалежні оцінювачі всередині лабораторій, що розробляють передові моделі. Anthropic заявила, що надасть стороннім оцінювачам постійний доступ до своїх систем на рівні працівників компанії. Вони мають перевіряти виконання практик безпеки, повідомляти про інциденти й оцінювати узгодженість моделей із заданими цілями під час навчання. 16
2. Координація між провідними компаніями у сфері ШІ. План закликає найбільші лабораторії погодити спільні стандарти безпеки та межі неконтрольованої розробки, а не змагатися лише за дедалі швидше нарощування можливостей моделей.
3. Міжнародна співпраця. На думку Амодеї, управління найсерйознішими ризиками ШІ зрештою потребуватиме співпраці за межами однієї держави чи блоку держав.

Перший пункт — це вже одностороннє зобов’язання Anthropic, а не лише пропозиція до урядів чи конкурентів. 16

Як відреагували інші лідери ШІ-галузі

Гендиректор OpenAI Сем Альтман заявив, що погоджується з потребою «задати темп» розвитку передових моделей, і повідомив, що OpenAI також надасть доступ зовнішнім оцінювачам. Ілон Маск, який очолює xAI, теж підтримав Амодеї.

Гендиректор Microsoft Сатья Наделла схвально відгукнувся про обережний темп розвитку та про ідею вбудованих незалежних оцінювачів. Водночас він висунув важливу умову: нагляд не повинен перебувати під контролем лише кількох компаній. За його словами, будь-яка гонитва за надінтелектом має приносити користь людству й залишатися під людським контролем.

Ці реакції не означають, що вже сформовано спільний режим регулювання. Однак вони свідчать про підтримку з боку кількох керівників галузі більш формального та постійного контролю за найпросунутішими системами.

Проблема координації: Китай і одностороннє стримування

Колишній дослідник Anthropic та OpenAI Джейкоб Коксон сказав, що люди, які створюють такі системи, «щиро налякані» за майбутнє людства. Він підтримав ідею сповільнення, але наголосив: її треба координувати з Китаєм. 1

Саме тут і лежить центральна суперечність. Компанія або країна, яка сповільниться самостійно, може боятися втратити позиції перед конкурентами, що цього не зроблять. МЗС Китаю відкинуло заклики Амодеї до обмежень, які зачіпають можливості китайського ШІ, розцінивши їх як американську спробу стримувати Китай, а не як нейтральні правила безпеки. 4

У результаті виникає проблема довіри: прихильники правил бачать у взаємних зобов’язаннях спосіб зменшити ризики, а противники можуть вважати ті самі правила механізмом закріплення технологічної переваги іншої сторони.

Критика: безпека може захищати чинних лідерів ринку

Інвестор Майкл Беррі назвав кампанію за уповільнення «корисливою». Його аргумент: повільніший розвиток і суворіші вимоги до дотримання правил можуть допомогти вже усталеним ШІ-компаніям, ускладнивши конкуренцію для нових гравців. Він також заперечив думку, що сучасні великі мовні моделі рухаються до загального штучного інтелекту — ШІ людського рівня в широкому спектрі завдань.

Така критика не спростовує самих побоювань щодо безпеки ШІ. Вона вказує на практичний ризик політики: правила, покликані зробити розробку передового ШІ безпечнішою, можуть одночасно посилити ринкову владу компаній, яким найлегше їх виконати. Переконлива система мала б враховувати і безпеку, і концентрацію впливу.

Чому мала значення запланована зустріч Трампа і Сі Цзіньпіна

Очікувалося, що Трамп і лідер Китаю Сі Цзіньпін обговорять врядування у сфері ШІ на запланованій на 24 вересня зустрічі. 4 Її значення полягало в тому, що найскладніше у стратегії безпеки передового ШІ — не написати правило для однієї лабораторії, а створити домовленості, які суперники вважатимуть взаємними та такими, що підлягають перевірці.

Риторика Трампа, зосереджена на суперництві з Китаєм, і заперечення Пекіна проти обмежень його розвитку ШІ показали, наскільки складним буде це завдання. Тож дискусія не зводиться до простого вибору між паузою та прискоренням: ідеться про те, чи можливо керувати гонитвою за ШІ так, щоб політика безпеки не стала ще одним фронтом геополітичного суперництва. 174