Конкуренти у сфері ШІ нібито шукають спільний підхід до безпеки

OpenAI, Anthropic та Google DeepMind, підрозділ Alphabet, нібито обговорюють співпрацю, покликану поставити безпеку штучного інтелекту в пріоритет. Водночас ідеться саме про переговори, а не про вже укладену угоду.

Reuters, посилаючись на матеріал Bloomberg News, повідомило, що три компанії ведуть такі обговорення. Агентство наголосило: воно не змогло незалежно підтвердити цю інформацію, а OpenAI, Alphabet і Anthropic не надали негайних коментарів у відповідь на запити. 4

Що відомо про переговори

За словами керівника глобальної політики OpenAI Кріса Лехейна, компанія розмовляє з Anthropic і Google DeepMind уже кілька тижнів. Він вважає, що конкурентам варто намагатися працювати разом, аби надавати пріоритет безпеці. 4

Публічно доступна інформація не свідчить про остаточну домовленість, конкретний спільний стандарт чи обов’язкову програму безпеки. Тож наразі коректніше говорити про повідомлення щодо обговорень, а не про запроваджений міжкорпоративний механізм. 4

Чому посилилася тривога щодо ризиків ШІ

Переговори відбуваються після того, як керівники провідних американських лабораторій ШІ публічно закликали призупинити подальший розвиток цієї технології. Це посилило увагу до так званих екзистенційних ризиків — потенційних загроз від дедалі потужніших систем ШІ. 4

Тема перейшла і в політичну площину. Reuters повідомляло, що дедалі більше американських законодавців закликають запровадити правила для ШІ після застережень дослідників Anthropic: швидкий прогрес у цій сфері може створювати ризики катастрофічного масштабу. 3

Раніше Anthropic закликала великі лабораторії розглянути скоординовану й перевірювану паузу в розробці, якщо ризики зростатимуть. Компанія аргументувала це тим, що системи ШІ потенційно можуть почати вдосконалювати себе швидше, ніж суспільство зможе контролювати наслідки. 15

Це оцінки можливих майбутніх сценаріїв, а не твердження про їхню неминучість. Проте вони пояснюють, чому одночасно обговорюються добровільні запобіжники від компаній, спільні стандарти та нагляд, який можна буде реально забезпечити.

Антимонопольне питання: де межа координації

Співпраця прямих конкурентів неминуче привертає увагу антимонопольних органів. Особливо коли йдеться про компанії, які одночасно змагаються за лідерство у створенні та впровадженні передових моделей ШІ.

Лехейн заявив, що OpenAI, Anthropic і Google DeepMind, на його думку, не потребують антимонопольного винятку для координації роботи з безпеки. 4 У ширшій політичній дискусії цю позицію оскаржують: голова Федеральної торгової комісії США Ендрю Фергюсон сказав, що до прохань ШІ-компаній про антимонопольні винятки слід ставитися «вкрай підозріло». Водночас експерти, яких цитувало Reuters, вважають, що чинне антимонопольне право вже може дозволяти координацію задля відвернення катастрофічних ризиків. 2

Різниця тут принципова. Спільні підходи до тестування безпеки або управління ризиками можуть бути спрямовані на запобігання шкоді. Натомість домовленість про уповільнення розробки, яка фактично обмежує конкуренцію, порушила б складніші юридичні та політичні питання.

Законодавча перспектива у США

Лехейн також заявив, що OpenAI підтримає двопартійний законопроєкт у США, спрямований на зменшення катастрофічних ризиків ШІ. 4

Американські сенатори паралельно обговорюють можливий обов’язок належної обачності для розробників ШІ. Така норма могла б зобов’язати компанії показувати, що вони вживають розумних запобіжних заходів проти шкоди. Міністерство торгівлі США потенційно могло б запитувати докази цих заходів і направляти аудиторів для тестування продуктів. 8

OpenAI окремо закликала запровадити обов’язкові загальнонаціональні вимоги до безпеки ШІ у США та заявляла, що стандарти мають поширюватися за межі країни. 6

Що буде ключовим далі

Найважливіше відкрите питання — чи перетворяться ці переговори на публічне формальне зобов’язання з чіткими запобіжниками, незалежним оцінюванням і механізмами підзвітності.

Поки що факти дозволяють зробити вужчий висновок: OpenAI, Anthropic і Google DeepMind, за повідомленнями, обговорювали безпеку ШІ на тлі зростання занепокоєння щодо ризиків потужних моделей та тиску на компанії з вимогою спільних стандартів і федеральних правил у США. 4

Будь-яку майбутню співпрацю оцінюватимуть за двома критеріями: чи дає вона відчутний захист, і чи не стає прикриттям для обмеження конкуренції під гаслом безпеки.