Чэнь Исинь: ИИ может стать инструментом давления на политическую и технологическую безопасность Китая

Чэнь Исинь, министр государственной безопасности КНР, представил ИИ прежде всего как угрозу политической устойчивости страны и её технологическому суверенитету. Речь, по сути, идёт не только об универсальных рисках мощных моделей, а о том, как их могут использовать внешние противники — для влияния на общественное мнение, сбора данных, проникновения в инфраструктуру и сохранения технологического превосходства над Китаем. 2

Дипфейки, боты и «когнитивная война»

Главная тревога Пекина — возможность использовать ИИ для информационного воздействия. Чэнь предупредил, что дипфейки, сгенерированные тексты и изображения, а также автоматизированные аккаунты в соцсетях могут фабриковать политические слухи, распространять вредоносную информацию и усиливать социальные разногласия. Он связал это с «войнами общественного мнения» и когнитивными операциями, которые, по его словам, способны непосредственно угрожать политической, институциональной и идеологической безопасности Китая. 2

Шпионаж, данные и атаки на инфраструктуру

Отдельный блок рисков связан с данными. ИИ позволяет быстро объединять, анализировать и профилировать огромные массивы информации, что может расширить возможности иностранной разведки по получению государственных секретов, коммерческой информации и персональных данных. 23

Чэнь также указал, что всё более развитые системы способны находить уязвимости и создавать вредоносное ПО для их эксплуатации. Это повышает риски для критической информационной инфраструктуры — цифровых систем, от которых зависит работа государства и ключевых отраслей. 2

Технологический суверенитет как вопрос безопасности

В этой логике ИИ — ещё и поле стратегического соперничества. Чэнь считает, что лидирующие страны могут ссылаться на национальную безопасность, чтобы вводить технологические ограничения, закреплять влияние на стандарты и выстраивать закрытые экосистемы. 2

Практический вывод для Китая — развивать собственные технологические возможности, усиливать государственный контроль над данными, алгоритмами и инфраструктурой и снижать зависимость от внешних поставщиков ключевых технологий. 2

Чем эта позиция отличается от Амодеи, Альтмана и Маска

Дарио Амодеи, руководитель Anthropic, призвал замедлить наращивание возможностей передовых моделей, чтобы меры безопасности успевали за прогрессом. Его план включает независимых оценщиков с широким доступом к системам, общие стандарты для компаний и координацию между государствами. 1

Сэм Альтман из OpenAI поддержал идею «сдерживать темп на переднем крае» и независимую оценку безопасности; Илон Маск ответил кратко: «Дарио прав». 1 Их публичный акцент — на контроле возможностей моделей и предотвращении масштабного вреда.

У Чэня рамка иная: безопасность ИИ неотделима от защиты политического порядка, контроля над информацией, недопущения утечки данных и технологической автономии страны. 2

Точка соприкосновения всё же есть. Китай также указывал на возможную будущую опасность утраты человеком контроля над всё более автономными системами. Однако даже при ограниченном диалоге о безопасности сохраняется более широкий спор — о доступе к чипам и моделям, технологических стандартах и о том, кто будет устанавливать правила управления ИИ. 3

Официальная и государственно-медийная реакция КНР показывает эту разницу: западные призывы замедлить ИИ в Китае нередко трактуют как продиктованные страхом, вредные для конкуренции или направленные на сдерживание китайского технологического развития, а не как нейтральную политику безопасности. 2