Amazon: моделі ШІ слід випускати лише після ретельного тестування — але розробку не варто гальмувати

Amazon окреслила проміжну позицію в суперечці про безпеку штучного інтелекту: потужні моделі слід випускати лише тоді, коли вони ретельно протестовані та безпечні для використання. Компанія також наголосила на потребі спільних дій індустрії та держави. Водночас Amazon не підтримала ідею загального, скоординованого уповільнення розробки ШІ. 6

Іншими словами, компанія не бачить вибору між технологічним прогресом і безпекою. Її підхід — зробити безпеку умовою випуску продукту, а не автоматичною підставою сповільнювати саме нарощування можливостей моделей.

Що саме пропонує Amazon

У коментарі Reuters представник Amazon заявив, що моделі мають виходити тоді, коли вони «готові та безпечні для використання», а цього можна досягти завдяки суворому тестуванню й сильним механізмам захисту. 6

Це важливе розмежування. Amazon не закликає зупиняти навчання моделей або вводити загальні обмеження на їхнє вдосконалення. Поріг, який вона пропонує, прив’язаний до релізу: систему треба перевірити, застосувати захисти й не розгортати, доки вона не стане достатньо безпечною для користування.

Однак такий підхід залишає відкритими принципові питання: хто визначатиме стандарти тестування, які докази вважатимуться достатніми для висновку про безпечність і чи можна покладатися лише на перевірки, організовані самими розробниками.

Чим це відрізняється від пропозиції Anthropic

Генеральний директор Anthropic Даріо Амодеї закликав компанії, що створюють передові моделі ШІ, сповільнити темп поліпшення їхніх можливостей, аби заходи безпеки встигали за технологією. Його план передбачає незалежних оцінювачів із глибоким доступом до компаній, спільні стандарти для галузі та міжнародну координацію. 12

Отже, позиція Амодеї жорсткіша. Він пропонує вважати безпеку не тільки фільтром перед запуском моделі, а й чинником, що має впливати на швидкість самої розробки, коли захисти відстають від зростання можливостей ШІ. Його застереження про можливі майбутні сценарії зловживань і втрати контролю є аргументами на користь обережності, а не доказом того, що автономне захоплення контролю ШІ вже відбулося. 111

Коротко різницю можна сформулювати так:

• Amazon: продовжувати розвиток, але не випускати моделі без ретельних перевірок і надійних захистів. 6
• Anthropic: безпека має визначати також темп розвитку передових можливостей, а контроль слід підкріпити незалежним наглядом і узгодженими стандартами. 12

Позиції інших технологічних компаній

Керівники OpenAI, Google DeepMind і xAI публічно підтримали загальний напрям пропозиції Амодеї. Генеральний директор OpenAI Сем Альтман заявив, що готовий запровадити зовнішню оцінку практик безпеки з доступом оцінювачів на рівні працівників компанії. 4

Та підтримка мети безпечнішого ШІ не означає, що всі деталі погоджено. Для реального скоординованого уповільнення знадобилися б спільне визначення небезпечних можливостей моделей, надійні способи перевірки та домовленість конкурентів, які діють під комерційним і геополітичним тиском. За даними Reuters, серед великих гравців галузі зберігаються розбіжності і щодо масштабу ризиків, і щодо належної відповіді на них.

Генеральний директор Meta Марк Цукерберг, зі свого боку, віддає перевагу ринковим механізмам безпеки, а не скоординованому уповільненню.

Головна політична суперечка: добровільні перевірки чи обов’язковий нагляд?

Підхід Amazon природно поєднується з такими інструментами, як оцінювання перед релізом, red teaming — контрольовані спроби виявити вразливості системи, — заходи кіберзахисту та звітування про ризики. У Міжнародному звіті з безпеки ШІ за 2026 рік до релевантних практик віднесено моделювання загроз, оцінювання можливостей моделей, розкриття інформації та повідомлення про інциденти.

Невирішеним лишається питання, чи мають ці заходи бути добровільними. У Сенаті США обговорювали законодавчу ініціативу, яка вимагала б від розробників ШІ продемонструвати «розумні запобіжні заходи» проти шкоди. За повідомленнями, міністр торгівлі США міг би вимагати докази таких заходів і залучати державних аудиторів для тестування продуктів компаній. 20

Такий режим обов’язку дбати про безпеку переніс би дискусію за межі корпоративних обіцянок. Він не обов’язково означав би загальну паузу в розробці, але створив би зовнішній механізм, здатний перевірити або поставити під сумнів твердження компанії, що модель готова до розгортання.

Координація: проблема конкуренції та захоплення регулювання

Спільні правила безпеки могли б уніфікувати тестування й звітність, проте одразу виникає питання: хто писатиме ці правила. Голова Федеральної торгової комісії США Ендрю Фергюсон заявив, що слід «глибоко підозріло» ставитися до компаній ШІ, які одночасно просять винятків з антимонопольних правил і лобіюють нове регулювання. Водночас експерти, опитані Reuters, вважають, що чинне антимонопольне право може дозволяти координацію для відвернення катастрофічних ризиків. 17

Генеральний директор Cohere Айдан Гомес також попередив, що домовленість про безпеку, контрольована вузьким колом найбільших лабораторій, може закріпити їхню ринкову перевагу. Він виступає за незалежно перевірювані захисти, прозорість і ширшу участь у формуванні правил, а не за право лідерів ринку одноосібно визначати стандарти.

Ці застереження не спростовують потреби в координації заради безпеки. Вони вказують на окрему вимогу: нагляд має бути і переконливим, і захищеним від ситуації, коли регуляторні правила починають працювати насамперед на інтереси найсильніших компаній.

Складний політичний контекст у США

Американське політичне середовище може ускладнити реалізацію формули Amazon про співпрацю індустрії та держави. Адміністрація Трампа закликала до невтручального міжнародного підходу до регулювання ШІ, а президент Дональд Трамп заявляв, що наявних запобіжників достатньо. Адміністрація також повідомила розробникам ШІ, що не піддаватиме моделі з відкритими вагами добровільному тестуванню безпеки.

Тим часом Білл Гейтс наголосив, що уряди не готові до суспільних змін, які може принести ШІ, та мають міжнародно співпрацювати щодо ризиків для зайнятості, залежності й кібератак. 18

Висновок

Внесок Amazon у дискусію — не заклик натиснути на гальма в розвитку ШІ. Це вимога підвищити поріг для запуску: жодного релізу, доки модель не пройшла ретельного тестування і не отримала надійних захистів. 6

Такий підхід менш обмежувальний, ніж пропозиція Anthropic сповільнювати приріст передових можливостей, коли безпека не встигає за ним. Але він загострює практичне питання з великими наслідками: чи можуть компанії переконливо самі контролювати рішення про реліз, чи незалежні оцінювачі та державні органи повинні мати змогу перевіряти, оскаржувати або блокувати такі рішення. 120