Заклики сповільнити розвиток передового штучного інтелекту в Пекіні сприйняли не лише як розмову про безпеку, а й як можливий спосіб обмежити технологічне зростання Китаю. Водночас у вересні Пекін оприлюднив оновлену рамку безпеки ШІ, яка визнає низку ризиків передових систем. Це залишало простір для діалогу, але не означало згоди на обмеження, спрямовані саме проти китайських розробників.
1
2
6
7
Чому Пекін відкинув заклик
Генеральний директор Anthropic Даріо Амодеї закликав сповільнити темп розвитку найпотужніших моделей ШІ, щоб мати більше часу на роботу з ризиками. Його позицію підтримали генеральний директор OpenAI Сем Альтман і підприємець Ілон Маск.
1
3
У редакційній статті China Daily цю ініціативу назвали «корисливою»: на думку видання, вона допомогла б зберегти перевагу США. Global Times охарактеризувала заклик як «тактику холодної війни».
1
2
Представник МЗС Китаю Ґо Цзякунь також застеріг від «наративів загрози», конфронтації та конкуренції, які, за його словами, шкодять глобальному управлінню ШІ. Пекін натомість закликав до відкритого й інклюзивного розвитку технології.
15
Чому China Daily назвало пропозицію «корисливою»
Видання пов’язало заклик зі змаганням США й Китаю за технологічну перевагу. У його інтерпретації, після американських обмежень на постачання чипів і обладнання китайські компанії все одно створювали конкурентні моделі. Тому нові заклики обмежити темп розвитку ШІ могли виглядати як перехід від контролю над апаратним забезпеченням до обмежень у програмній сфері.
2
11
Це аргумент редакції China Daily, а не доведений опис мотивів Амодеї, Альтмана чи Маска. Сам Амодеї пов’язував сповільнення з потребою дати системам безпеки й нагляду змогу наздогнати можливості моделей; водночас він також закликав США посилити обмеження на експорт чипів до Китаю.
1
5
10
Що визнає китайська рамка безпеки
14 вересня Китай оприлюднив оновлену рамку управління безпекою ШІ. У ній порушено питання нових ризиків, зокрема автономних ШІ-агентів, кіберзагроз і рекурсивного самовдосконалення — ситуації, коли ШІ допомагає вдосконалювати наступні системи.
11
17
Отже, визнання ризиків не дорівнювало підтримці загального мораторію чи обмежень для китайських розробників. Пекін говорив про управління безпекою, тоді як прихильники сповільнення наполягали, що швидкість розвитку передових моделей має дати змогу ефективніше вивчати й контролювати їхні можливості.
6
7
11
Що це означало для переговорів США й Китаю
На тлі запланованої зустрічі Дональда Трампа й Сі Цзіньпіна сторони могли обговорювати спільні ризики та технічну взаємодію. Але суперечка ускладнювала будь-яку домовленість про сповільнення: китайська сторона бачила в обмеженнях для своїх розробників спробу стримування, а Трамп також виступав проти паузи в американському змаганні за розвиток ШІ.
4
6
14
Тож визнання небезпек передового ШІ саме по собі не усувало головної розбіжності: як відрізнити спільні правила безпеки від заходів, які одна зі сторін вважає інструментом технологічної конкуренції. Наведені повідомлення не підтверджують, що на той момент США й Китай уклали двосторонню угоду з безпеки ШІ.
4
6