Chen Yixin varnar för att AI kan bli ett hot mot Kinas säkerhet

Chen Yixin, Kinas minister för statssäkerhet, framställer i första hand AI som en fråga om nationell säkerhet och regimsäkerhet. I artikeln i den officiella tidskriften China Cyberspace varnade han för att snabb AI-utveckling och fientligt missbruk av tekniken kan undergräva Kinas politiska stabilitet, säkerheten i centrala samhällssystem och landets teknologiska handlingsfrihet. 3712

Sex riskområden enligt Chen

Chen pekade ut sex AI-relaterade säkerhetsrisker. Enligt honom kan fientliga krafter använda deepfake-ljud och -video, AI-genererade texter och bilder samt automatiserade konton i sociala medier för att massproducera politiska rykten, sprida skadligt innehåll och förstärka sociala motsättningar. Han beskrev detta som verktyg för opinionspåverkan och kognitiv krigföring, med risker för Kinas politiska, institutionella och ideologiska säkerhet. 57

Han varnade även för att AI sänker både kostnaden och den tekniska tröskeln för cyberintrång och utveckling av skadlig kod. Tekniken kan enligt honom underlätta underrättelseinhämtning och omfattande läckor av statshemligheter, kommersiellt känsliga handelsuppgifter och personuppgifter. Därmed kan den också hota kritisk informationsinfrastruktur och den samhälleliga styrningen. 31113

AI som fråga om teknologisk självständighet

Chen beskriver den internationella AI-kapplöpningen som en strategisk konkurrens där ledande stater åberopar nationell säkerhet för att införa teknikkontroller, påverka eller monopolisera standarder och bygga slutna, egna ekosystem. I hans analys går AI-säkerhet därför inte att skilja från beroenden i leveranskedjor, teknologisk inneslutning och utländsk inblandning. 57

Det innebär att Peking inte enbart ser riskerna i själva modellen eller i enskilda användningsområden. Frågan gäller också vem som kontrollerar avancerade komponenter, standarder, data och den infrastruktur som AI bygger på.

En annan riskbild än i Silicon Valley

Chen Yixins varning kom samtidigt som Anthropics vd Dario Amodei argumenterade för ett lugnare tempo i utvecklingen av de mest avancerade AI-modellerna. Amodei efterlyste inte ett stopp för AI-utvecklingen, utan mer tid för att säkerhetsarbete, anpassning av modeller till mänskliga mål och extern granskning ska hinna med. Han föreslog bland annat oberoende utvärderare med varaktig, anställdliknande tillgång till företag som utvecklar de mest avancerade modellerna, gemensamma säkerhetsåtaganden mellan demokratiska länder och på sikt bredare internationell samordning som även omfattar auktoritära stater. 122

OpenAI-chefen Sam Altman sade att bolaget skulle ta efter idén om oberoende utvärderare med anställdliknande tillgång, och Elon Musk uttryckte offentligt stöd för Amodeis uppmaning att bromsa kapabilitetsutvecklingen. 101

Skillnaden mellan perspektiven är betydande:

• Pekings säkerhetssyn är statscentrerad. Den kretsar kring politisk stabilitet, kommunistpartiets auktoritet, ideologisk kontroll, datasuveränitet, infrastruktursäkerhet och skydd mot utländsk teknologisk press. 57
• Frontier-säkerhetsdebatten i Silicon Valley är kapacitetscentrerad. Där står risken i centrum att modeller blir för kraftfulla för att säkert kunna styras, skyddas och övervakas — och därmed kan möjliggöra svåra cyberangrepp, skadliga autonoma handlingar eller farlig vetenskaplig användning. 122

Det finns ändå överlappningar. Båda sidor lyfter cybermissbruk, spionage, desinformation och militära användningar av AI. Men de skiljer sig åt i synen på vem som ska sätta reglerna, om säkerhetskrav kan fungera som strategiska teknikrestriktioner och hur mycket extern insyn som är förenlig med nationell suveränitet.

Vad det kan betyda för USA–Kina-samtal

USA och Kina planerar enligt Reuters ett möte i mitten av september om AI-säkerhet, det första bilaterala samtalet under Donald Trumps andra mandatperiod som särskilt ägnas åt frågan. 4

Chens artikel antyder att Peking sannolikt vill diskutera mer än frågor om modellernas anpassning och extrema katastrofrisker. På den kinesiska agendan kan också finnas utländsk påverkan, data- och infrastruktursäkerhet, lika villkor i standardiseringsarbetet samt motstånd mot vad landet beskriver som teknologisk inneslutning. 37

Det kan göra samtalen viktiga men svåra. Mer avgränsade överenskommelser om exempelvis AI-stödda cyberangrepp, bedrägerier med syntetiskt material, incidentrapportering eller kommunikation om militära risker kan vara lättare att nå än enighet om globala utvärderingar eller gränser för AI-modellers kapacitet. Samma skyddsåtgärder som Washington ser som riskminskning kan i Peking uppfattas som ett sätt att bevara USA:s teknologiska försprång.