Алтман і Амодеї виступлять у Раді Безпеки ООН: де межа між безпекою ШІ та змовою конкурентів

Рада Безпеки ООН має розглянути передовий штучний інтелект як питання міжнародної безпеки: можливе використання систем зловмисниками, ризик втрати розробниками дієвого контролю над дедалі потужнішими моделями та необхідність спільних стандартів безпеки й транскордонних запобіжників. Водночас точний зміст виступів заздалегідь не оприлюднювали. Франція скликала засідання 23 вересня в межах порядку денного «Підтримання міжнародного миру і безпеки». 10

Який меседж можуть озвучити спікери

Очікується, що Сем Альтман, Даріо Амодеї, Йошуа Бенжіо та генеральний директор Hugging Face Клеман Деланг наполягатимуть на міжнародній координації, а не на підході, за якого безпека передових моделей лишається справою окремих компаній чи держав. Це може означати спільні оцінювання ризиків, обмін інформацією про небезпечні можливості моделей та інциденти, незалежне тестування, а також механізми протидії перетворенню ШІ на інструмент створення зброї чи іншого зловмисного застосування. Заявлена тема зустрічі прямо стосується ризиків ШІ для міжнародної безпеки. 10

Взаємне тестування: корисна перевірка чи ризик для конкуренції

OpenAI та Anthropic уже повідомляли про спільний експеримент: кожна компанія застосувала власні методики перевірки безпеки та узгодженості поведінки до публічно випущених моделей іншої сторони, а результати оприлюднили. Такий обмежений формат взаємної перевірки має допомогти виявити проблеми, які лабораторія може не помітити, тестуючи лише власні системи. 15

Але саме тут починається складна межа. Конкуренти повинні отримати достатньо доступу й технічної інформації, аби перевірка була змістовною. Водночас вони не мають обмінюватися даними, що можуть узгоджувати комерційні плани: дорожні карти продуктів, строки релізів, ціни або темпи нарощування можливостей моделей.

Чому в дискусії з'явилося антимонопольне право

Запропонований колективний позов споживачів стверджує, що Anthropic, OpenAI, SpaceXAI та Google незаконно домовилися сповільнити розробку ШІ. Це лише твердження позивачів, а не встановлений судом факт. 1

Сам позов добре ілюструє структурну суперечність. Прихильники безпеки можуть вважати спільні пороги для випуску моделей або паузи в розробці обережним управлінням ризиками. Натомість позивачі здатні подати ті самі дії як обмеження пропозиції з боку найбільших конкурентів. Взаємні технічні оцінювання із чітко окресленою та відкритою метою безпеки легше обґрунтувати, ніж колективні рішення про те, коли й наскільки швидко поліпшувати та випускати продукти.

Контраст із позицією Трампа в ООН

Французька ініціатива виходить із того, що ризики передового ШІ є проблемою колективних дій і потребують міжнародних запобіжників. У виступі перед Генеральною Асамблеєю ООН Дональд Трамп зайняв протилежну політичну позицію: відкинув міжнародний контроль над ШІ, назвав застереження щодо безпеки містифікацією, наголосив на перевазі США в технологічних перегонах і заявив, що федеральний уряд вживатиме термін «суперінтелект» замість «штучного інтелекту». 3 Також повідомлялося, що перейменування стосуватиметься офіційних комунікацій уряду США. 2

Отже, ініціатива Франції спрямована на спільні правила, які не дадуть конкуренції перетворитися на перегони зі зниженням вимог до безпеки. Підхід Трампа, навпаки, подає стримування як загрозу технологічній конкурентоспроможності США. Відкрите питання полягає в іншому: як дозволити вузьку, прозору й підзвітну співпрацю з безпеки, не перетворивши її на фактичну координацію дій ринкових суперників.