ШІ, що передбачає критиків: як Китай планує полювати на інакомислення ще до його появи

Масштабний витік понад 100 000 внутрішніх документів китайської технологічної компанії Geedge Networks, проаналізований дослідниками з Університету Вандербільта та оприлюднений The New York Times, викрив тривожну подвійну стратегію Пекіна. Фірма активно розробляє інструменти штучного інтелекту, здатні прогнозувати політичне інакомислення ще до його виникнення, і водночас продає готову інфраструктуру для цензури авторитарним режимам по всьому світу. Це найдетальніша на сьогодні картина того, як китайська внутрішня модель стеження комерціалізується та експортується, з амбіціями, що сягають прогностичного профілювання громадян.

Geedge Networks була заснована у 2018 році Фан Біньсіном — людиною, яку часто називають «батьком Великого китайського файрволу» . Компанія займається комерціалізацією та експортом технологій інтернет-цензури, вперше розгорнутих у Китаї. Її флагманський продукт, Tiangou Secure Gateway (TSG) — це програмно-апаратний комплекс, що встановлюється в дата-центрах телеком-операторів і функціонує як національна платформа для цензури — свого роду «Великий файрвол у коробці» .

Прогностичний ШІ: профілювання громадян для оцінки політичних ризиків

Найбільш тривожним одкровенням зі злитих документів є розробка Geedge інструментів штучного інтелекту нового покоління, призначених для виявлення потенційних критиків уряду ще до того, як вони щось скажуть чи зроблять. За даними дослідників з Вандербільта, компанія, співпрацюючи зі своєю лабораторією Mesa Lab при Китайській академії наук, що фінансується державою, створює технологію, яка об'єднує дані про місцезнаходження громадян, телекомунікаційні записи та інтернет-активність із моделями штучного інтелекту для формування детальних поведінкових профілів .

Система оцінює людей на основі прогнозованої ймовірності того, що вони становитимуть політичний ризик для держави. Дослідники описали це як «гідроподібну» (hydra-style) систему стеження, маючи на увазі її багатоголову архітектуру, здатну поглинати різноманітні потоки даних для профілювання звичайних громадян . Мета полягає не просто в моніторингу наявних дисидентів, а в тому, щоб позначати людей ще до того, як вони будь-коли розкритикують уряд — своєрідна оцінка ризику «злочинів до їх скоєння», застосована до політичних висловлювань.

Важливо, що прогностична система ШІ, як повідомляється, все ще перебуває на стадії розробки і поки що не розгорнута повністю . Однією з суттєвих причин затримки є американський експортний контроль. Обмеження США на постачання передових чипів для ШІ обмежили доступ Geedge до високопродуктивних процесорів, необхідних для запуску обчислювально-інтенсивних моделей, що сповільнило терміни розробки . Ці обмеження створили відчутне вузьке місце, демонструючи, як експортна політика може безпосередньо впливати на темпи авторитарного технологічного прогресу.

Глобальний експорт: бізнес-модель «Великий файрвол у коробці»

Поки прогностичний ШІ ще розробляється, Geedge вже побудувала процвітаючий бізнес, продаючи свої поточні технології цензури авторитарним урядам. Злиті документи надають конкретні докази впровадження або ліцензування як мінімум у чотирьох країнах :

• М'янма — Tiangou Secure Gateway від Geedge було встановлено у 26 дата-центрах, і він використовується військовою хунтою для створення централізованої системи цензури та стеження в реальному часі, що охоплює приблизно 33,4 мільйона користувачів . Система централізовано керується Національним центром кібербезпеки хунти.
• Пакистан — Задокументовані докази підтверджують продаж інфраструктури стеження Geedge; звіти вказують, що компанія заповнила прогалину, залишену західною фірмою Sandvine, що потрапила під санкції .
• Ефіопія — Внутрішні документи вказують Ефіопію як підтвердженого клієнта для експорту цензури від Geedge .
• Казахстан — Докази свідчать, що Казахстан є серед країн, які придбали національні можливості для моніторингу від Geedge .

Крім того, в документах згадується щонайменше одна інша невстановлена країна-замовник, що свідчить про те, що повний масштаб експорту може бути ще ширшим .

Всередині Tiangou Secure Gateway: можливості стеження

Технічні специфікації, розкриті у витоці, показують, що TSG є модульною платформою операторського класу, яка надає урядам-клієнтам безпрецедентний контроль над їхньою національною інтернет-інфраструктурою:

Моніторинг населення в реальному часі — Модуль під назвою «Cyber Narrator» записує кожну дію користувача в мережі, включно з усіма відвіданими веб-сайтами, DNS-запитами, IP-адресами, часовими мітками та обсягами даних. Ці дані надходять до аналітичного центру «TSG Galaxy», який створює постійні профілі користувачів та карти соціальних зв'язків .

Блокування веб-сайтів та додатків — Система використовує глибоку інспекцію пакетів (DPI) для перехоплення, дешифрування та блокування веб-трафіку в національному масштабі. Вона може націлюватися на конкретні веб-сайти, додатки та зашифровані комунікації, включно з віртуальними приватними мережами (VPN), які часто використовуються для обходу державної цензури .

Цільове стеження за окремими особами — Окрім масової фільтрації, TSG забезпечує детальний контроль над конкретними користувачами. Уряди можуть націлюватися на осіб на основі їхньої історії веб-перегляду, наприклад, відвідування певних доменів, що дозволяє точно відстежувати журналістів, активістів та передбачуваних опонентів .

Можливості для кібератак — Внутрішні документи з планування посилаються на бажані функції, включно з можливістю запускати кібератаки, зокрема операції типу «відмова в обслуговуванні» (denial-of-service) проти цілей. У документах також обговорювалися «кібератаки на замовлення» та можливості геозонування для ізоляції конкретних користувачів .

Наслідки та обмеження

Цей витік є одним із найзначніших викриттів глобальної торгівлі технологіями стеження. Обсягом 572 гігабайти, це найбільший в історії витік внутрішніх даних компанії, пов'язаної з «Великим файрволом», що надає безпрецедентну фактичну основу того, як інфраструктура цензури експортується як комерційний продукт .

Той факт, що прогностична система ШІ залишається незавершеною і стикається з перешкодами через обмеження на чипи, дає вузьке вікно для політичного втручання. Дослідники з Вандербільта та журналісти-розслідувачі підкреслили, що документи розкривають бізнес-модель в дії — таку, що поєднує внутрішні експерименти в регіонах на кшталт Сіньцзяну з міжнародними продажами однодумним режимам, створюючи петлю зворотного зв'язку, яка одночасно зміцнює авторитарний контроль у кількох країнах .