Керівники ШІ поставили під сумнів застереження Амодеї, але підтримали добровільну угоду

Зустріч у Білому домі 29 вересня звела в одній кімнаті приватну суперечку про ризики штучного інтелекту й публічну демонстрацію згоди. За повідомленнями, технологічні керівники заперечували очільнику Anthropic Даріо Амодеї, який попереджав про небезпеки ШІ. Після зустрічі він заявив, що технологія несе «дуже реальні ризики», але спосіб реагування на них ще обговорюють. Учасники зустрічі та президент Дональд Трамп також представили добровільну угоду про безпеку. Спільна заява не усунула розбіжностей щодо державного регулювання. 2

Що відбулося на зустрічі

За одним із повідомлень, керівники компаній поставили під сумнів застереження Амодеї під час окремої розмови в Білому домі. Однак доступні матеріали не дають змоги докладно відтворити цю дискусію або точно встановити, хто й що сказав. Так само вони не підтверджують, що саме в тій суперечці йшлося про втрату робочих місць.

Ширша розбіжність була зрозумілішою. Амодеї закликав запровадити правила, які вимагали б незалежного аудиту найпотужніших моделей ШІ. Трамп натомість виступав за самоконтроль компаній, а не нові федеральні обмеження. 4 Після зустрічі Амодеї повторив, що ризики реальні, а належний спосіб реагування ще обговорюють. 2

Що передбачає добровільна угода

Білий дім представив документ під назвою «Угода про суперінтелект» — White House Accord on Superintelligence. Компанії взяли на себе зобов’язання щодо внутрішніх перевірок і запобіжників. Також вони погодилися співпрацювати з незалежними аудиторами, аби оцінювати, чи поводяться системи ШІ так, як задумали розробники, та працювати над захистом від несанкціонованого зламу чи доступу. 315

Трамп назвав угоду «морально зобов’язувальною» і сказав, що компанії наглядатимуть за собою самі. Водночас новинні повідомлення характеризували документ як добровільний і юридично не обов’язковий. Тобто це домовленість галузі, а не нове федеральне регулювання. 411

Ця різниця принципова: угода перелічує заходи нагляду, але не визначає, чи мають зовнішні правила зобов’язувати компанії їх запроваджувати, як забезпечувати виконання домовленостей і чи стануть вони згодом законом. За повідомленнями, документ залишає відкритою можливість із часом закріпити окремі заходи законодавчо.

Питання нагляду залишилися відкритими

Трамп озвучив ідею створити комітет із десяти осіб для нагляду за галуззю. Однак доступні повідомлення описують це як пропозицію на розгляді, а не як уже сформований орган. 210

Джерела також не підтверджують, що окремий галузевий саморегулятор скасували, і не пояснюють, як такий план співвідносився б із підписаною угодою. Хоча участь Anthropic вписується в ширшу дискусію про регулювання, доступні матеріали не доводять, що компанія підписала документ, аби поліпшити відносини з адміністрацією напередодні IPO — або що вихід на біржу був близьким. 45

Спільна заява — не кінець суперечки

Зустріч дала змогу узгодити спільні формулювання про запобіжники, але не позицію щодо ролі держави. Амодеї виступає за незалежний аудит, закріплений правилами, тоді як Трамп віддає перевагу добровільному нагляду самих компаній. Головне нерозв’язане питання — хто має встановлювати й забезпечувати дотримання вимог безпеки ШІ. 4

Тож угоду найточніше розглядати як добровільну рамку для дій компаній, а не як доказ того, що керівники однаково оцінюють ризики ШІ чи вважають саморегулювання достатнім.