Kinas sikkerhedsminister advarer: AI kan bruges mod statens politiske kontrol

Chen Yixins advarsel handler grundlæggende om statssikkerhed og teknologisk suverænitet. Kinas statssikkerhedsminister fremstiller ikke først og fremmest AI som en abstrakt risiko for menneskeheden, men som et redskab, modstandere kan bruge til at svække landets politiske orden, udnytte data og fastholde Kina i et ulige teknologisk afhængighedsforhold. 2

Deepfakes og bots kan blive våben i informationskrig

Chen advarer om, at deepfakes, AI-genererede tekster og billeder samt automatiserede konti på sociale medier kan bruges til at opfinde politiske rygter, sprede skadelig information og forstærke splittelse. I hans optik kan det indgå i det, han beskriver som krig om den offentlige opinion og kognitiv krigsførelse – altså forsøg på at påvirke befolkningens opfattelser og adfærd.

Det kan ifølge Chen direkte true Kinas politiske, institutionelle og ideologiske sikkerhed. 2

Data, spionage og kritisk infrastruktur

En anden central bekymring er AI's evne til at samle, analysere og profilere enorme datamængder. Chen advarer om, at udenlandske efterretningstjenester kan bruge sådanne kapabiliteter til at indsamle statshemmeligheder, erhvervs- og handelsoplysninger samt persondata. 23

Han knytter også avanceret AI til risikoen for kritisk informationsinfrastruktur. AI kan blandt andet finde svagheder i digitale systemer og skabe malware eller anden software, der udnytter dem. 2

Kampen om teknologisk suverænitet

Chen beskriver AI som et centralt område for stormagtskonkurrence. Førende lande kan ifølge denne analyse bruge nationale sikkerhedshensyn til at indføre teknologiske restriktioner, præge standarder og opbygge lukkede teknologiske økosystemer. 2

Den politiske konsekvens er klar: Kina bør styrke egen teknologisk kapacitet og bevare kontrol over data, algoritmer og digital infrastruktur frem for at være afhængig af udenlandske leverandører. 2

En anden debat end den i Silicon Valley

Anthropic-chefen Dario Amodei har argumenteret for at sænke tempoet i udviklingen af de mest avancerede AI-modeller, så sikkerhedsarbejdet kan følge med. Hans plan omfatter uafhængige evaluatorer med reel adgang til virksomhedernes systemer, fælles standarder blandt selskaber og demokratier samt på længere sigt international koordinering. 1

Chen Yixins ramme er anderledes. Hvor Amodei især fokuserer på kontrol med hurtigt voksende AI-kapabiliteter og bredt delte katastroferisici, lægger Chen vægten på politisk stabilitet, beskyttelse af data og modstand mod udenlandsk teknologisk dominans. 12

Der er dog et begrænset fælles punkt: Kina har også peget på risikoen for, at mere autonome AI-systemer kan blive svære at kontrollere. Det åbner for dialog om AI-sikkerhed, men fjerner ikke den langt større konflikt om chips, modeller, standarder og retten til at sætte de globale regler. 3

OpenAI-chefen Sam Altman støttede Amodeis ønske om at “pace the frontier” og tilsluttede sig idéen om uafhængige sikkerhedsvurderinger. Elon Musk svarede kort: “Dario is right.” 1 Deres fokus var dermed at tempo- og sikkerhedsstyre udviklingen af frontmodeller – ikke Chens statscentrerede program for politisk beskyttelse og teknologisk selvstændighed.

Kinesiske officielle og statsmediale reaktioner har samtidig fremstillet vestlige opfordringer til at sænke AI-tempoet som frygtdrevne, konkurrencehæmmende eller som et forsøg på at begrænse Kinas teknologiske fremgang. 2