17 вересня король Чарльз III зібрав у маєтку Дамфріс-хаус в Ейрширі керівників і представників провідних компаній у сфері штучного інтелекту та британського уряду. На приватній зустрічі були представлені Nvidia, Google DeepMind, OpenAI й Anthropic, а також міністр Великої Британії з питань ШІ Канішка Нараян. Йшлося про спільні принципи розвитку ШІ, а не про укладення обов’язкової регуляторної угоди.
1
9
12
До чого закликав король Чарльз
Король представив ШІ водночас як технологію з великим потенціалом і джерело тривоги. Він закликав учасників забезпечити, щоб технологія служила людям, громадам і планеті. Водночас Чарльз попередив про «екзистенційні небезпеки», якщо потужні системи потраплять не в ті руки та будуть використані катастрофічним чином. Його головний акцент: запобіжники слід створити до того, як стане запізно.
9
11
13
Таке формулювання прямо стосується ключової дискусії про передові моделі ШІ: чи не випередить їхній стрімкий розвиток державні інституції, практики безпеки та суспільні норми, покликані ними керувати. Метою саміту було обговорити, як ШІ може підтримувати людську гідність і суспільне благо, водночас обмежуючи ризики.
1
9
Позиція Дженсена Хуанга: регулювати не ШІ загалом, а його застосування
Генеральний директор Nvidia Дженсен Хуанг не заперечує необхідності безпеки ШІ. На його думку, компанії мають ретельно тестувати системи й не випускати продукти, у безпечності яких вони не впевнені. Він називає це базовою інженерною відповідальністю.
18
23
30
Розбіжність полягає в тому, що саме потрібно регулювати. Хуанг вважає ШІ базовою технологією, а не єдиним споживчим продуктом на кшталт соціальної мережі. Тож, на його погляд, правила мають стосуватися продуктів і сервісів, створених із застосуванням ШІ. Регулятори повинні стежити за невдалими чи небезпечними впровадженнями й доповнювати чинне законодавство там, де виявлено прогалини. Він зазначив, що охорона здоров’я, транспорт і індустрія розваг уже мають власні регуляторні рамки.
26
28
Це продуктовий і галузевий підхід:
- оцінювати ризик у конкретному сценарії — наприклад, у медичному чи транспортному продукті;
- застосовувати або розширювати відповідні чинні правила, коли використання ШІ створює проблему;
- вимагати обережного, контрольованого тестування до виходу продукту на ринок.
23
28
Такий підхід менше покладається на всеохопний закон про ШІ або примусову паузу в розробці моделей.
Чому це контрастувало з обережним тоном саміту
Попередження Чарльза стосувалося тяжких зловживань і ризиків, які можуть виникнути ще до того, як шкідливий продукт можна буде чітко визначити. Це більш превентивне бачення управління: запобіжники та міжнародна координація мають з’явитися досить рано, щоб не допустити катастрофічних наслідків.
1
11
Генеральний директор Anthropic Даріо Амодеї окремо закликав уповільнити темп розвитку передових моделей, аби заходи безпеки встигали за їхніми можливостями. Хуанг заперечив потребу в нових законах чи спеціальних механізмах для координації такого уповільнення, наголошуючи натомість на інженерії, тестуванні та наявних правових інструментах.
8
30
Практична розбіжність, отже, стосується місця й часу втручання:
| Підхід |
Головний фокус |
Бажаний момент дії |
| Підхід Хуанга |
Продукти з ШІ та конкретні випадки їх використання |
Тестувати до випуску; застосовувати галузеві правила, коли ризик проявився або стала очевидною правова прогалина |
| Превентивний підхід, озвучений на саміті |
Системні й потенційно катастрофічні ризики дедалі потужніших систем |
Установити сильніші запобіжники до того, як ризики або можливості систем випередять механізми контролю |
Обидві позиції підтримують безпеку й людський нагляд. Однак вони по-різному розподіляють відповідальність. Хуанг більшою мірою покладається на дисципліну розробників під час випуску продуктів, інженерні стандарти та регуляторів окремих сфер. Виступ Чарльза — і ширша ініціатива щодо спільних принципів — виходить із того, що частина ризиків ШІ може вимагати узгоджених бар’єрів ще до провалу в конкретному секторі.
9
23
28
Головний висновок
Саміт у Дамфріс-хаусі не поставив крапку в суперечці про правила для ШІ. Але він чітко окреслив лінію поділу: чи достатньо керувати ШІ переважно через чинні закони про продукти та ретельне тестування, чи передові системи створюють міжгалузеві ризики, для яких потрібна нова превентивна координація.
Спільна мета учасників була зрозумілою: ШІ має служити людству й не виходити з-під людського контролю. Проте шлях до цієї мети залишається предметом гострої дискусії.
9
12
28