Chen Yixin ziet AI als risico voor Chinese staatsveiligheid

Chen Yixin, de Chinese minister van Staatsveiligheid, presenteert AI vooral als een risico voor de nationale veiligheid en voor de stabiliteit van het politieke systeem. In het officiële tijdschrift China Cyberspace waarschuwde hij dat tegenstanders snel voortschrijdende AI kunnen misbruiken om China te destabiliseren, gevoelige informatie buit te maken, kritieke infrastructuur te verstoren en het land afhankelijk te maken van buitenlandse sleuteltechnologie. 3712

Zes risico’s rond AI

Chen benoemde zes veiligheidsrisico’s. Volgens hem kunnen ‘vijandige krachten’ deepfake-audio en -video, door AI gemaakte teksten en beelden, en geautomatiseerde accounts op sociale media inzetten om op grote schaal politieke geruchten te fabriceren. Zulke middelen kunnen schadelijke inhoud verspreiden, maatschappelijke tegenstellingen aanwakkeren en worden gebruikt voor beïnvloedings- en cognitieve oorlogsvoering. Dat zou rechtstreeks de politieke, institutionele en ideologische veiligheid van China bedreigen, aldus Chen. 57

Hij waarschuwde daarnaast dat AI de kosten en technische drempel voor digitale inbraken en het maken van malware verlaagt. De technologie kan volgens hem ook inlichtingenwerk en grootschalige lekken van staatsgeheimen, commercieel gevoelige handelsgegevens en persoonsgegevens vergemakkelijken. Daarmee kunnen ook kritieke informatie-infrastructuur en het maatschappelijke bestuur onder druk komen te staan. 31113

AI en technologische soevereiniteit

In Chens analyse is de internationale AI-wedloop ook een strijd om strategische afhankelijkheid. Toonaangevende landen beroepen zich volgens hem op nationale veiligheid om technologiecontroles in te voeren, standaarden te bepalen of te monopoliseren en gesloten, eigen ecosystemen op te bouwen. AI-veiligheid is in die visie daarom nauw verbonden met controle over toeleveringsketens, technologische inperking en buitenlandse inmenging. 57

Die invalshoek gaat verder dan alleen de vraag of een AI-model veilig werkt. Voor Beijing draait het eveneens om datasoevereiniteit, bescherming van infrastructuur, politieke controle en het voorkomen van buitenlandse druk via essentiële technologie.

Een andere waarschuwing uit Silicon Valley

Dario Amodei, topman van Anthropic, legde in zijn essay We Must Pace the Frontier het accent anders. Hij pleitte niet voor een stop op AI-ontwikkeling, maar voor een tempo waarin veiligheidsmaatregelen kunnen bijbenen: afstemming van systemen op menselijke doelen, betere beveiliging en onafhankelijke tests.

Zijn voorstel bestaat uit externe beoordelaars die binnen geavanceerde AI-labs langdurige toegang krijgen die vergelijkbaar is met die van werknemers, gezamenlijke veiligheidsafspraken tussen democratische landen en uiteindelijk bredere internationale samenwerking, ook met autoritaire regeringen. 122

OpenAI-topman Sam Altman zei dat zijn bedrijf het idee van onafhankelijke beoordelaars met toegang op werknemerniveau wil overnemen. Elon Musk steunde Amodei’s oproep om het ontwikkelingstempo te matigen. 101

Waar de visies botsen — en overlappen

De Chinese veiligheidsbenadering is vooral staatsgericht: politieke stabiliteit, het gezag van de Communistische Partij, ideologische controle, datasoevereiniteit en bescherming tegen buitenlandse technologische druk staan centraal. AI-gedreven beïnvloedingsoperaties en buitenlandse toegang tot Chinese data worden daarmee als directe veiligheidsdreigingen gezien. 57

De benadering van grote Amerikaanse AI-labs is meer gericht op systeemcapaciteit: voorkomen dat onvoldoende afgestemde of onvoldoende beveiligde modellen catastrofale cyberaanvallen, gevaarlijk wetenschappelijk misbruik, autonome schadelijke acties of verlies van betekenisvolle menselijke controle mogelijk maken. Hun instrumenten zijn evaluaties, technische veiligheidsmaatregelen en internationale regels. 122

Er is wel overlap. Beide kanten zien risico’s van cybermisbruik, spionage, desinformatie en militaire toepassingen. Maar er bestaat een fundamenteel verschil over wie de standaarden bepaalt, of veiligheidsregels in de praktijk technologiebeperkingen kunnen worden, en hoeveel transparantie of externe toetsing verenigbaar is met soevereiniteit en nationale veiligheid.

Belang voor overleg tussen Washington en Beijing

De Verenigde Staten en China bereiden volgens berichtgeving een overleg voor midden september voor dat specifiek over AI-veiligheid gaat — het eerste officiële bilaterale gesprek daarover in de tweede ambtstermijn van president Donald Trump. 4

Chens essay suggereert dat China bij zulke gesprekken waarschijnlijk niet alleen wil praten over afstemming van geavanceerde modellen en extreme AI-risico’s. Beijing zal vermoedelijk ook buitenlandse inmenging, bescherming van data en infrastructuur, gelijke invloed op standaarden en verzet tegen technologische inperking op de agenda willen zetten. 37

Daardoor zijn afspraken mogelijk, maar lastig. Concrete maatregelen tegen bijvoorbeeld AI-ondersteunde cyberaanvallen, fraude met synthetische media, melding van incidenten of communicatie over militaire risico’s lijken haalbaarder dan een akkoord over universele evaluaties of limieten op AI-capaciteiten. Wat Washington als risicobeperking ziet, kan Beijing namelijk uitleggen als een middel om de Amerikaanse technologische voorsprong te beschermen.