Chen Yixin: Misbrugt AI kan ramme Kinas politiske sikkerhed

Chen Yixin, Kinas minister for statssikkerhed, fremstiller først og fremmest AI som et spørgsmål om national sikkerhed og regimets sikkerhed. I et indlæg i det officielle tidsskrift China Cyberspace advarer han om, at teknologien kan udnyttes af fjendtlige aktører til at destabilisere landet, stjæle følsomme oplysninger, kompromittere infrastruktur og gøre Kina afhængigt af udenlandsk nøgleteknologi. 3712

Seks typer AI-risiko

Chen oplister seks sikkerhedsrisici forbundet med AI. Den mest politisk følsomme er påvirkning af informationsrummet: Deepfake-lyd og -video, AI-genererede tekster og billeder samt automatiserede konti på sociale medier kan ifølge ham bruges til at fabrikere politiske rygter i stor skala, sprede skadeligt indhold, skærpe sociale konflikter og føre kampagner om offentlig opinion og kognitiv påvirkning. Det kan, skriver han, direkte true Kinas politiske, institutionelle og ideologiske sikkerhed. 57

Han peger også på mere konkrete cybertrusler. AI kan sænke både prisen og den tekniske tærskel for cyberindtrængen og udvikling af malware. Samtidig kan teknologien understøtte efterretningsarbejde og omfattende læk af statshemmeligheder, kommercielt følsomme handelsdata og borgeres personoplysninger. Kritisk informationsinfrastruktur og den offentlige styring kan dermed blive udsat for større risiko. 31113

AI-sikkerhed er også teknologisk suverænitet

For Chen er den internationale AI-konkurrence ikke kun et spørgsmål om at undgå fejlbehæftede eller farlige modeller. Han beskriver et kapløb, hvor førende stater bruger nationale sikkerhedshensyn til at indføre teknologikontrol, præge eller monopolisere standarder og opbygge lukkede, proprietære økosystemer. AI-sikkerhed hænger derfor tæt sammen med strategisk afhængighed, kontrol over forsyningskæder, teknologisk inddæmning og udenlandsk indblanding. 57

Et andet fokus i Silicon Valley

Advarslen falder samtidig med, at Anthropic-chefen Dario Amodei har argumenteret for at sænke tempoet i udviklingen af de mest avancerede AI-modeller. I essayet We Must Pace the Frontier foreslår han ikke at stoppe forskning eller modeltræning, men at give sikkerhedsarbejdet tid til at følge med kapabiliteterne. Forslaget omfatter uafhængige evaluatorer med vedvarende adgang på niveau med ansatte hos de førende AI-laboratorier, fælles sikkerhedsforpligtelser blandt demokratiske lande og på længere sigt bredere international koordinering, også med autoritære regeringer. 122

OpenAI-chefen Sam Altman har sagt, at virksomheden vil tage idéen om uafhængige evaluatorer med adgang som ansatte til sig, mens Elon Musk offentligt har tilsluttet sig Amodeis opfordring til at sænke tempoet. 101

Forskellen er især, hvad der opfattes som hovedtruslen:

• Beijings perspektiv er statscentreret. Det prioriterer politisk stabilitet, Kommunistpartiets autoritet, ideologisk kontrol, datasuverænitet, infrastruktursikkerhed og beskyttelse mod udenlandsk teknologisk pres. 57
• Frontier-sikkerhedsperspektivet i Silicon Valley er kapabilitetscentreret. Her er bekymringen, at modeller bliver så kraftfulde, at de ikke kan tilpasses, sikres eller styres forsvarligt — og kan muliggøre alvorlige cyberangreb, farligt videnskabeligt misbrug eller tab af meningsfuld menneskelig kontrol. 122

Betydning for USA-Kina-dialogen

USA og Kina forbereder ifølge Reuters samtaler om AI-sikkerhed i midten af september. Det vil være de første officielle bilaterale samtaler i Donald Trumps anden periode, der er helliget AI specifikt. 4

Chens indlæg peger på, at Beijing sandsynligvis vil ønske en bredere dagsorden end alene modeltilpasning og katastroferisici. Kina vil formentlig lægge vægt på udenlandsk indblanding, datasikkerhed, beskyttelse af infrastruktur, lige indflydelse på standarder og modstand mod teknologisk inddæmning. 37

Der er et vist fælles grundlag: Begge sider ser risici ved cybermisbrug, spionage, desinformation og militære anvendelser. Men de er uenige om, hvem der skal fastlægge standarderne, om sikkerhedsregler kan blive til strategiske teknologibegrænsninger, og hvor meget ekstern kontrol der kan forenes med national suverænitet.