Чэнь Исинь: ИИ может угрожать политической, институциональной и идеологической безопасности Китая

Чэнь Исинь представил ИИ не просто как новую технологию, а как проблему национальной и политической безопасности. По его оценке, быстрое развитие ИИ и его злоупотребление противниками Китая могут подорвать политическую стабильность, безопасность государственных институтов и идеологический контроль, а также создать риски для данных и критической инфраструктуры. 57

Какие угрозы он выделил

В статье для официального журнала China Cyberspace Чэнь перечислил шесть связанных с ИИ рисков. В частности, он заявил, что «враждебные силы» способны использовать дипфейк-аудио и видео, сгенерированные тексты и изображения, а также автоматизированные аккаунты в соцсетях для массового фабрикования политических слухов, распространения вредоносного контента и разжигания общественных противоречий. Такие инструменты, по его мнению, могут применяться в информационных и когнитивных операциях и прямо угрожать политической, институциональной и идеологической безопасности КНР. 57

Отдельно министр предупредил о киберрисках. ИИ, по его словам, снижает стоимость и технический порог для поиска уязвимостей, разработки вредоносного ПО и проведения кибервторжений. Он также может облегчить разведывательный сбор и масштабные утечки государственных секретов, коммерчески чувствительных торговых данных и персональной информации. Под угрозой, как считает Чэнь, может оказаться критическая информационная инфраструктура и системы социального управления. 31113

Безопасность ИИ как вопрос технологического суверенитета

Чэнь описал международную конкуренцию в сфере ИИ как борьбу, в которой ведущие государства ссылаются на национальную безопасность для введения технологических ограничений, влияния на стандарты или их монополизации, а также создания закрытых экосистем. В такой логике безопасность ИИ связана не только с вредоносным использованием моделей, но и с зависимостью от иностранных технологий, контролем цепочек поставок, технологическим сдерживанием и внешним вмешательством. 57

Именно этим китайский подход отличается от дискуссии о безопасности передовых моделей в Кремниевой долине. Глава Anthropic Дарио Амодеи в эссе We Must Pace the Frontier призвал не останавливать развитие ИИ, а замедлить рост возможностей моделей настолько, чтобы меры выравнивания целей модели с человеческими интересами, защита от взлома и независимые проверки успевали за прогрессом. Среди его предложений — постоянный доступ независимых оценщиков к разработке моделей на уровне сотрудников компании, общие обязательства лидирующих ИИ-компаний и международная координация. 122

Глава OpenAI Сэм Альтман заявил, что компания поддержит идею независимых оценщиков с доступом уровня сотрудников, а Илон Маск публично согласился с призывом Амодеи снизить темп гонки возможностей моделей. 101

В чём состоит главное расхождение

Пекинский взгляд в первую очередь ориентирован на государство: политическую стабильность, власть Коммунистической партии Китая, идеологический контроль, суверенитет данных, безопасность инфраструктуры и защиту от внешнего технологического давления. Поэтому синтетические медиа, кампании влияния и доступ иностранных структур к китайским данным трактуются как прямые угрозы безопасности. 57

Подход ведущих американских ИИ-компаний в большей степени сосредоточен на возможностях самих моделей: рисках масштабных кибератак, автономных вредоносных действий, опасного научного применения, недостаточной защищённости систем и утраты значимого человеческого контроля. Его основные инструменты — тестирование, технические барьеры и международные правила безопасности. 122

Эти позиции частично пересекаются: обе стороны признают опасность киберзлоупотреблений, шпионажа, дезинформации и военного применения ИИ. Однако они расходятся в вопросах о том, чьи стандарты должны стать международными, не превратятся ли требования безопасности в инструмент технологических ограничений и какой уровень внешней прозрачности совместим с суверенитетом и государственной тайной.

Почему это важно для диалога США и Китая

По данным Reuters, на середину сентября запланирован первый в ходе второго президентского срока Дональда Трампа официальный американо-китайский диалог, специально посвящённый безопасности ИИ. 4 Статья Чэня показывает, что Пекин, вероятно, будет настаивать на обсуждении не только выравнивания моделей и сценариев катастрофического риска, но и иностранного вмешательства, защиты данных и инфраструктуры, равного участия в выработке стандартов и противодействия технологическому сдерживанию. 37

Наиболее реалистичной основой для ограниченных договорённостей могут стать конкретные риски — ИИ-атаки в киберпространстве, мошенничество с синтетическими медиа, уведомления об инцидентах и каналы связи по военным рискам. Согласовать же универсальные правила независимого аудита или ограничения на возможности моделей будет значительно сложнее: меры, которые Вашингтон считает снижением рисков, Пекин может воспринимать как способ сохранить технологическое преимущество США.