Jak Čína vyvíjí AI, která odhalí odpůrce režimu dřív, než promluví

Prediktivní AI: Profilování občanů z hlediska politického rizika

Nejznepokojivějším odhalením z uniklých dokumentů je vývoj AI nástrojů nové generace, které mají za cíl identifikovat potenciální kritiky vlády dříve, než cokoli řeknou nebo udělají. Podle výzkumníků z Vanderbiltu firma – ve spolupráci se svou státem podporovanou výzkumnou odnoží Mesa Lab, spadající pod Čínskou akademii věd – buduje technologii, která slučuje lokalizační data občanů, záznamy z telekomunikací a internetovou aktivitu s modely umělé inteligence, aby vytvářela detailní behaviorální profily .

Systém následně jednotlivce bodově ohodnotí na základě toho, jaká je u nich předpokládaná pravděpodobnost, že se stanou pro stát politickým rizikem. Výzkumníci tento systém popsali jako „hydří sledovací systém“ (hydra-style), což odkazuje na jeho mnohohlavou architekturu schopnou nasávat různé datové proudy k profilování běžných občanů . Cílem není jen monitorovat stávající disidenty, ale označkovat lidi ještě předtím, než vůči vládě vystoupí s kritikou – jde v podstatě o formu hodnocení rizik před spácháním činu, aplikovanou na politický projev.

Zásadní je, že tento prediktivní AI systém je podle zpráv stále ve fázi vývoje a ještě nebyl plně nasazen . Jedním z hlavních důvodů prodlení jsou americké exportní kontroly. Omezení vývozu pokročilých AI čipů, tedy výkonných procesorů nezbytných pro trénování a provoz náročných modelů, zkomplikovalo Geedge přístup k těmto technologiím a zpomalilo tak harmonogram vývoje . Tato zdržení ukazují, jak může exportní politika přímo ovlivnit tempo technologického pokroku autoritářských států.

Globální export: Obchodní model „Velkého firewallu v krabici“

Zatímco je prediktivní AI systém stále ve vývoji, Geedge si už vybudovala prosperující byznys s prodejem své současné cenzurní technologie autoritářským vládám. Uniklé dokumenty poskytly konkrétní důkazy o nasazení nebo licencování v nejméně čtyřech zemích :

• Myanmar – Systém Tiangou Secure Gateway byl nainstalován ve 26 datových centrech a barmská vojenská junta jej využívá k budování centralizovaného systému cenzury a sledování v reálném čase, který pokrývá přibližně 33,4 milionu uživatelů . Systém je centrálně řízen Národním centrem kybernetické bezpečnosti junty.
• Pákistán – Doložené důkazy potvrzují prodej sledovací infrastruktury Geedge, přičemž zprávy naznačují, že společnost zaplnila mezeru po sankcionované západní firmě Sandvine . Společnost Sandvine byla dříve kritizována za dodávky technologií pro masové sledování autoritářským režimům.
• Etiopie – Interní dokumenty uvádějí Etiopii jako potvrzeného klienta pro cenzurní export Geedge .
• Kazachstán – Důkazy ukazují, že Kazachstán patří mezi země, které si zakoupily celonárodní monitorovací kapacity Geedge .

Dokumenty navíc zmiňují ještě nejméně jednoho dalšího neidentifikovaného zákazníka, což naznačuje, že celkový rozsah exportu může být ještě širší .

V útrobách Tiangou Secure Gateway: Možnosti sledování

Technické specifikace odhalené v úniku ukazují, že TSG je modulární platforma na úrovni telekomunikačních operátorů, která klientským vládám poskytuje nebývalou kontrolu nad jejich národní internetovou infrastrukturou. Mezi klíčové schopnosti zdokumentované v uniklých souborech patří:

Monitorovování populace v reálném čase – Modul nazvaný „Cyber Narrator“ zaznamenává veškeré akce uživatelů v síti, včetně všech navštívených webových stránek, DNS dotazů, IP adres, časových razítek a objemů přenesených dat. Tato data proudí do analytického centra zvaného „TSG Galaxy“, které vytváří trvalé profily uživatelů a mapuje jejich sociální vazby .

Blokování webů a aplikací – Systém využívá hloubkovou inspekci datových paketů (DPI) k zachytávání, dešifrování a blokování webového provozu v celostátním měřítku. Může cílit na konkrétní webové stránky, aplikace a šifrovanou komunikaci, včetně virtuálních privátních sítí (VPN), které se běžně používají k obcházení státní cenzury .

Cílené sledování jednotlivců – Kromě hromadného filtrování umožňuje TSG granulární kontrolu nad konkrétními uživateli. Vlády mohou cílit na jednotlivce na základě jejich historie prohlížení, například podle návštěvy určitých domén, což umožňuje přesné sledování novinářů, aktivistů a domnělých oponentů .

Schopnosti pro kybernetické útoky – Interní plánovací dokumenty odkazují na požadované funkce, jako je schopnost spouštět kybernetické útoky, zejména tzv. DDoS operace (zahlcení cílových serverů požadavky s cílem vyřadit je z provozu) proti vybraným cílům. Dokumenty také diskutovaly o možnostech „nájemných kybernetických útoků“ a geofencingu, tedy izolování konkrétních uživatelů na základě jejich polohy .

Důsledky a omezení

Únik dat společnosti Geedge Networks představuje jedno z nejvýznamnějších odhalení globálního obchodu se sledovacími technologiemi. S objemem 572 gigabajtů jde o největší únik interních dat společnosti spojené s Velkým čínským firewallem, který poskytuje bezprecedentní vhled do reality, jak je cenzurní infrastruktura exportována jako komerční produkt .

Skutečnost, že prediktivní AI systém je stále nekompletní a jeho vývoj naráží na omezení v dodávkách čipů, nabízí úzký prostor pro politickou intervenci. Výzkumníci z Vanderbiltu i investigativní novináři zdůraznili, že dokumenty odhalují obchodní model v pohybu – takový, který spojuje domácí experimentování (například v regionech jako Sin-ťiang) s mezinárodními prodeji podobně smýšlejícím režimům, čímž vytváří zpětnou vazbu, která posiluje autoritářskou kontrolu současně v několika zemích .