Chen Yixin ziet AI als risico voor China’s politieke orde en technologische onafhankelijkheid

Chen Yixin, de Chinese minister van Staatsveiligheid, presenteert AI niet in de eerste plaats als een algemeen veiligheidsprobleem of een mogelijk existentiële dreiging. Zijn waarschuwing draait vooral om de bescherming van de Chinese politieke orde én om technologische onafhankelijkheid. Volgens hem kunnen buitenlandse tegenstanders AI inzetten om China politiek en ideologisch te destabiliseren, gegevens en infrastructuur te infiltreren en het land afhankelijk te houden van buitenlandse technologie. 2

Deepfakes en bots als middel voor informatieoorlog

Chen waarschuwde dat deepfakes, door AI gemaakte teksten en beelden en geautomatiseerde accounts op sociale media kunnen worden gebruikt om politieke geruchten te verzinnen, schadelijke informatie te verspreiden en maatschappelijke tegenstellingen uit te vergroten. Hij koppelde zulke toepassingen aan „oorlogvoering om de publieke opinie” en cognitieve oorlogvoering: campagnes die erop zijn gericht percepties, vertrouwen en gedrag te beïnvloeden. Volgens Chen kunnen zij rechtstreeks China’s politieke, institutionele en ideologische veiligheid bedreigen. 2

Spionage, persoonsgegevens en kritieke systemen

Een tweede zorg is de schaal waarop AI grote datasets kan verzamelen, analyseren en gebruiken om profielen op te bouwen. Dat kan buitenlandse inlichtingendiensten volgens Chen helpen bij het vergaren van staatsgeheimen, commerciële of handelsinformatie en persoonsgegevens. Hij bracht geavanceerde AI ook in verband met risico’s voor kritieke informatie-infrastructuur. 23

Daarbij wees hij erop dat AI steeds beter kwetsbaarheden in systemen kan opsporen en malware of software kan maken om die zwakke plekken uit te buiten. 2

Strijd om technologische soevereiniteit

Chen beschrijft AI ook als een slagveld in de strategische concurrentie tussen landen. Toonaangevende landen kunnen zich volgens hem op nationale veiligheid beroepen om technologiebeperkingen op te leggen, standaarden te domineren en gesloten technologische ecosystemen op te bouwen. 2

De beleidsconclusie die daaruit spreekt, is duidelijk: China moet eigen AI-capaciteit ontwikkelen, en controle houden over data, algoritmen en infrastructuur. Externe afhankelijkheid geldt in deze benadering als een veiligheidsrisico. 2

Een andere focus dan Amodei, Altman en Musk

De waarschuwing van Chen verschilt wezenlijk van de recente oproep van Anthropic-topman Dario Amodei om de ontwikkeling van de krachtigste AI-modellen af te remmen. Amodei wil dat veiligheidsmaatregelen gelijke tred kunnen houden met de toenemende mogelijkheden van modellen. Hij pleit voor onafhankelijke beoordelaars met ruime toegang, gezamenlijke standaarden tussen bedrijven en democratische regeringen, en uiteindelijk internationale samenwerking. 1

Chen legt de nadruk daarentegen op staatssoevereiniteit en politieke stabiliteit. In zijn kader zit het risico niet alleen in AI-systemen die voor iedereen onveilig kunnen worden, maar ook in de mogelijkheid dat tegenstanders AI gebruiken om de Communistische Partij, Chinese data en China’s positie in de technologische concurrentie onder druk te zetten. 2

Er is wel een beperkt raakvlak. China heeft ook het risico genoemd dat steeds autonomere AI-systemen moeilijker door mensen te controleren zijn. Dat biedt enige basis voor overleg met de Verenigde Staten over AI-veiligheid. Maar de fundamentele strijd over chips, modellen, standaarden en de vraag wie de regels bepaalt, blijft bestaan. 3

Sam Altman van OpenAI en Elon Musk van xAI schaarden zich in deze discussie grotendeels achter Amodei. Altman zei dat OpenAI de AI-voorhoede moet „doseren” en steunde onafhankelijke veiligheidsevaluaties; Musk reageerde kort: „Dario heeft gelijk.” Hun focus ligt dus op het afremmen en toetsen van geavanceerde modelcapaciteiten, niet op Chens staatsgerichte agenda van regimebescherming en technologische autonomie. 1

De reactie van Chinese staatsmedia en autoriteiten laat zien hoe groot die kloof is: westerse oproepen om AI te vertragen worden daar mede neergezet als angstgedreven, schadelijk voor de concurrentie of als poging China’s technologische vooruitgang te beperken. 2 Een gepland Amerikaans-Chinees overleg over AI-veiligheid wijst daarom op een beperkte gedeelde zorg over systemen die moeilijk te controleren worden, binnen een veel bredere strategische rivaliteit. 3