Чень Їсінь: ШІ може стати інструментом тиску на політичну систему Китаю

Чень Їсінь, міністр державної безпеки КНР, представив штучний інтелект передусім як загрозу політичній стійкості держави та її технологічному суверенітету. У його трактуванні проблема не зводиться до абстрактних ризиків від надпотужних моделей: ворожі сили, на його думку, можуть використати ШІ для дестабілізації Китаю, проникнення в дані та інфраструктуру й посилення залежності країни від контрольованих ззовні технологій. 2

Дипфейки, боти та «когнітивна війна»

Чень заявив, що дипфейки, створені ШІ тексти та зображення, а також автоматизовані облікові записи в соцмережах можуть фабрикувати політичні чутки, поширювати шкідливу інформацію й підсилювати суспільні розбіжності. Він пов’язав ці інструменти з «війнами громадської думки» та «когнітивною війною» — тобто спробами впливати на сприйняття подій, настрої та рішення аудиторії.

На його думку, таке використання ШІ може безпосередньо загрожувати політичній, інституційній та ідеологічній безпеці Китаю. 2

Шпигунство, дані й критична інфраструктура

Окрема частина застережень стосується даних. ШІ може швидко збирати, зіставляти та аналізувати величезні масиви інформації, формуючи докладні профілі людей, організацій або систем. Чень попередив, що це здатне допомогти іноземним розвідкам отримувати державні секрети, комерційну чи торговельну інформацію та персональні дані. 23

Він також звернув увагу на здатність передових систем виявляти слабкі місця в цифрових системах і створювати шкідливе програмне забезпечення для їх експлуатації. Це, за його словами, створює небезпеку для критичної інформаційної інфраструктури. 23

Безпека ШІ як питання технологічної незалежності

Для Пекіна ШІ є ареною стратегічного суперництва. Чень описав ситуацію, за якої провідні держави можуть посилатися на національну безпеку, щоб обмежувати доступ до технологій, впливати на стандарти та вибудовувати закриті технологічні екосистеми. 2

Звідси випливає китайський підхід: розвивати власні можливості, зберігати державний контроль над даними, алгоритмами й ключовою інфраструктурою та зменшувати зовнішню технологічну залежність. 2

Чим ця позиція відрізняється від підходу Амодеї, Альтмана і Маска

Генеральний директор Anthropic Даріо Амодеї закликав пригальмувати нарощування можливостей передових моделей, аби заходи безпеки встигали за їхнім розвитком. Його план передбачає незалежних оцінювачів із доступом, наближеним до рівня працівників компаній, спільні стандарти для провідних розробників і міжнародну координацію. 1

Сем Альтман з OpenAI заявив, що підтримує потребу «задати темп» розвитку передових систем і схвалив ідею незалежного оцінювання. Ілон Маск відреагував коротко: «Даріо має рацію». 1

Підхід Ченя інший за вихідною логікою. Якщо Амодеї та його однодумці наголошують на контролі над можливостями моделей і зниженні масштабних ризиків для всіх, то китайський міністр акцентує на захисті політичного порядку, протидії іноземному впливу, захисті даних і технологічній автономії КНР. 12

Певна точка дотику все ж є: Китай також визнавав, що в перспективі дедалі автономніші системи можуть вийти з-під людського контролю. Це залишає вузький простір для діалогу США та Китаю щодо безпеки ШІ. Водночас суперечки про доступ до чипів, моделей, стандартів і право встановлювати правила глобального регулювання значно ширші. 3

Офіційна та державна медійна реакція Китаю показує цю розбіжність: західні заклики сповільнити розвиток ШІ там подаються як продиктовані страхом, шкідливі для конкуренції або такі, що можуть стримувати технологічний прогрес КНР, а не як нейтральна політика безпеки. 2