Чень Їсінь назвав ШІ ризиком для політичної безпеки Китаю

Чень Їсінь, міністр державної безпеки КНР, представив швидкий розвиток штучного інтелекту насамперед як проблему національної та режимної безпеки. У статті для офіційного журналу China Cyberspace він попередив: зловмисне використання ШІ «ворожими силами» здатне безпосередньо загрожувати політичній, інституційній та ідеологічній безпеці Китаю, а також критичній інформаційній інфраструктурі. 57

Які загрози назвав китайський посадовець

Чень описав шість категорій ризиків, пов’язаних зі ШІ. Зокрема, він вказав, що дипфейки з аудіо й відео, згенеровані тексти та зображення, а також автоматизовані акаунти в соцмережах можуть використовуватися для масового фабрикування політичних чуток, поширення шкідливого контенту, загострення соціальних суперечностей і ведення інформаційно-когнітивної боротьби. 57

Окремо міністр застеріг, що ШІ знижує вартість і технічний поріг для кібервторгнень та створення шкідливого програмного забезпечення. Технологія, за його словами, може полегшувати пошук вразливостей у системах, збір розвідувальних даних і масштабні витоки державних секретів, комерційно чутливої інформації та персональних даних. Це, на думку Ченя, створює ризики і для критичної інфраструктури, і для систем державного та суспільного управління. 31113

ШІ як питання технологічного суверенітету

У викладі Ченя міжнародна конкуренція в галузі ШІ — це не лише суперництво продуктів чи дослідницьких лабораторій. Він пов’язує безпеку ШІ з технологічною залежністю, контролем ланцюгів постачання, доступом до критичних технологій та можливим зовнішнім втручанням.

За цією логікою, провідні держави можуть посилатися на міркування національної безпеки, щоб вводити технологічні обмеження, формувати або монополізувати стандарти та розбудовувати закриті екосистеми. 57

Чим цей підхід відрізняється від позиції Anthropic

Попередження Ченя пролунало на тлі заклику генерального директора Anthropic Даріо Амодея сповільнити нарощування можливостей передових моделей. У есеї We Must Pace the Frontier Амодей не пропонував припинити технічний прогрес. Натомість він закликав дати більше часу на узгодження моделей із людськими цілями, захист від зловживань і незалежне тестування. Серед його пропозицій — постійний доступ незалежних оцінювачів до лабораторій на рівні співробітників, спільні безпекові зобов’язання компаній і міжнародна координація. 122

Сем Альтман заявив, що OpenAI підтримає ідею незалежних оцінювачів із доступом, подібним до доступу працівників компанії. Ілон Маск також публічно погодився із закликом Амодея до стриманішого темпу розвитку моделей. 101

Водночас акценти істотно різняться:

• Пекінський підхід зосереджений на політичній стабільності, владі Комуністичної партії, ідеологічному контролі, суверенітеті даних, захисті інфраструктури та протидії зовнішньому технологічному тиску. 57
• Підхід лабораторій передового ШІ у США більше фокусується на тому, що надто потужні або недостатньо захищені моделі можуть сприяти масштабним кібератакам, небезпечному науковому застосуванню, автономній шкідливій діяльності чи втраті змістовного людського контролю. 122

Ці позиції частково перетинаються: обидві сторони визнають небезпеку кібератак, шпигунства, дезінформації та воєнного застосування ШІ. Проте вони по-різному відповідають на ключове питання: хто має встановлювати стандарти безпеки і чи не перетворяться такі правила на інструмент технологічного стримування конкурентів.

Що це означає для діалогу США та Китаю

За даними Reuters, на середину вересня планувався перший за другого президентського терміну Дональда Трампа офіційний двосторонній діалог США та Китаю, присвячений саме безпеці ШІ. 4

Стаття Ченя вказує, що китайська сторона, ймовірно, розглядатиме на таких переговорах не тільки питання узгодження передових моделей або катастрофічних ризиків. Для Пекіна важливими будуть також іноземне втручання, захист даних та інфраструктури, рівна участь у формуванні стандартів і заперечення технологічної ізоляції. 37

Тому практичні домовленості щодо конкретних загроз — наприклад, використання ШІ в кібератаках, шахрайство із синтетичними медіа, повідомлення про інциденти або комунікація щодо військових ризиків — можуть бути досяжнішими, ніж спільні універсальні обмеження на можливості моделей чи зовнішні перевірки.