Gelekte documenten onthullen China's AI-gedreven jacht op toekomstige dissidenten

Het voorspellende AI-systeem: burgers profileren op politiek risico

De meest alarmerende onthulling uit de gelekte documenten is de ontwikkeling van een nieuwe generatie AI-tools door Geedge, ontworpen om potentiële regeringscritici te identificeren nog voordat zij iets zeggen of doen. Samen met zijn door de overheid gesteunde onderzoekspoot Mesa Lab, verbonden aan de Chinese Academy of Sciences, bouwt het bedrijf aan technologie die locatiedata, telecommunicatiegegevens en internetactiviteit van burgers combineert met AI-modellen. Het resultaat is een gedetailleerd gedragsprofiel van gewone burgers, aldus de Vanderbilt-onderzoekers .

Het systeem geeft individuen vervolgens een score op basis van de voorspelde waarschijnlijkheid dat zij een politiek risico voor de staat vormen. De onderzoekers omschrijven het als een 'hydra-achtig' surveillancesysteem, een verwijzing naar de meerkoppige architectuur die enorme hoeveelheden gegevens uit verschillende datastromen kan verwerken om burgers te profileren . Het doel is niet enkel om bestaande dissidenten in de gaten te houden, maar om mensen te signaleren vóórdat ze kritiek hebben – een vorm van risicobeoordeling in het voorstadium van de 'misdaad', toegepast op politieke meningsuiting.

Een cruciaal detail is dat dit voorspellende AI-systeem volgens de berichten nog in ontwikkeling is en nog niet volledig is ingezet . Een belangrijke reden voor de vertraging zijn de Amerikaanse exportbeperkingen op geavanceerde AI-chips. Deze sancties beperken de toegang van Geedge tot de high-performance processors die nodig zijn om de rekenintensieve modellen te draaien, waardoor de ontwikkelingstijd wordt vertraagd . Het Amerikaanse chipbeleid vormt zo een tastbaar knelpunt en laat zien hoe exportcontrole het tempo van autoritaire technologische vooruitgang direct kan beïnvloeden.

Wereldwijde export: het businessmodel van de 'Great Firewall in een doos'

Terwijl het voorspellende AI-systeem nog in ontwikkeling is, heeft Geedge al een lucratieve handel opgebouwd in de huidige generatie censuurtechnologie aan autoritaire overheden. De gelekte documenten leveren concreet bewijs van leveringen of licenties aan ten minste vier landen, met mogelijk nog een extra onbekende afnemer:

• Myanmar – De Tiangou Secure Gateway is geïnstalleerd in 26 datacenters en wordt door de militaire junta gebruikt om een gecentraliseerd censuur- en real-time surveillancesysteem uit te rollen dat zo'n 33,4 miljoen gebruikers dekt . Het systeem wordt centraal beheerd door het National Cyber Security Center van de junta.
• Pakistan – Documenten bevestigen de verkoop van Geedge-surveillanceapparatuur; volgens berichten vulde het bedrijf het gat dat de gesanctioneerde Westerse firma Sandvine had achtergelaten .
• Ethiopië – Interne documenten vermelden Ethiopië als een bevestigde klant voor de censuurtechnologie van Geedge .
• Kazachstan – Bewijs toont aan dat Kazachstan een van de landen is die Geedge's nationale monitoringscapaciteiten heeft aangeschaft .

Daarnaast verwijzen documenten naar nog minstens één andere, niet-geïdentificeerde klantstaat, wat suggereert dat de totale omvang van de export nog groter kan zijn .

Binnenin de Tiangou Secure Gateway: de volledige surveillancecapaciteiten

De technische specificaties uit het lek laten zien dat de TSG een modulair platform is op nationaal netwerkniveau, dat afnemers ongekende controle geeft over hun volledige internetinfrastructuur:

Real-time bevolkingsmonitoring – Een module genaamd 'Cyber Narrator' registreert elke gebruikersactie op het netwerk, inclusief alle bezochte websites, DNS-queries, IP-adressen, tijdstempels en datavolumes. Deze data stroomt naar een analysehub genaamd 'TSG Galaxy', die permanente gebruikersprofielen opbouwt en sociale netwerken blootlegt .

Blokkering van websites en apps – Het systeem gebruikt deep packet inspection (DPI) om webverkeer op nationale schaal te onderscheppen, te decoderen en te blokkeren. Het kan gericht specifieke websites, apps en versleutelde communicatie platleggen, waaronder virtuele privénetwerken (VPN's) die vaak worden gebruikt om staatscensuur te omzeilen .

Gerichte individuele surveillance – Voorbij massacontrole biedt de TSG granulaire controle over specifieke gebruikers. Overheden kunnen zich richten op individuen op basis van hun surfgeschiedenis, bijvoorbeeld als zij specifieke domeinen hebben bezocht. Dit maakt de precieze tracking van journalisten, activisten en vermeende tegenstanders mogelijk .

Cyberaanvalcapaciteiten – Interne planningsdocumenten refereren aan gewenste functies zoals de mogelijkheid om denial-of-service-aanvallen uit te voeren tegen doelen. De documenten bespraken ook 'cyberaanval-als-dienst' en geofencing-mogelijkheden om specifieke gebruikers te isoleren .

Implicaties en beperkingen

Het datalek van Geedge Networks is een van de grootste ooit uit een bedrijf dat gelieerd is aan de Chinese internetmuur en biedt een ongekend inzicht in hoe censuurinfrastructuur als commercieel product wordt geëxporteerd . Het feit dat het voorspellende AI-systeem nog niet af is en wordt gehinderd door chiprestricties, opent een smal venster voor beleidsinterventie. Onderzoekers van Vanderbilt en onderzoeksjournalisten benadrukken dat de documenten een businessmodel in werking tonen—een dat huiselijke experimenten in Chinese regio's als Xinjiang koppelt aan internationale verkoop aan gelijkgestemde regimes. Dit creëert een terugkoppeling die de autoritaire controle in meerdere landen tegelijkertijd versterkt .