Chen Yixin: Misbruk av AI kan true Kinas politiske og teknologiske sikkerhet

Chen Yixin, Kinas minister for statssikkerhet, advarer om at rask AI-utvikling og ondsinnet bruk av teknologien kan bli en direkte trussel mot Kinas politiske stabilitet, institusjonelle sikkerhet og ideologiske kontroll. I artikkelen i China Cyberspace – et offisielt kinesisk tidsskrift om internett- og cyberspacepolitikk – framstiller han AI som et sikkerhetsspørsmål på linje med spionasje, cyberangrep og kontroll over strategisk teknologi. 57

Seks typer risiko

Chen beskriver seks AI-relaterte sikkerhetsrisikoer. Blant de mest sentrale er at «fiendtlige krefter» kan bruke deepfake-video og -lyd, AI-generert tekst og bilder, samt automatiserte kontoer i sosiale medier, til å spre politiske rykter i stor skala. Slik bruk kan ifølge ham spre skadelig innhold, forsterke sosiale motsetninger og muliggjøre påvirknings- og kognitiv krigføring. Konsekvensen kan bli en direkte trussel mot Kinas politiske, institusjonelle og ideologiske sikkerhet. 57

Han peker også på at AI kan senke både kostnadene og den tekniske terskelen for cyberinnbrudd og utvikling av skadevare. Teknologien kan lettere finne sårbarheter i digitale systemer og lage programvare som utnytter dem. Det kan sette kritisk informasjonsinfrastruktur og samfunnsstyring i fare. 3513

Et annet hovedpunkt er data. Chen advarer om at AI-baserte nettcrawlere, datautvinning og analyse av personprofiler kan styrke utenlandske etterretningstjenesters evne til å hente inn statshemmeligheter, kommersielt sensitive opplysninger og borgernes persondata. 719

AI som kamp om teknologisk suverenitet

For Chen handler AI-sikkerhet ikke bare om misbruk av modeller. Han framstiller den internasjonale AI-konkurransen som en strategisk rivalisering der ledende land kan bruke hensyn til nasjonal sikkerhet til å innføre teknologikontroller, påvirke eller monopolisere standarder og bygge lukkede økosystemer. 57

I dette perspektivet er AI-sikkerhet tett knyttet til forsyningskjeder, avhengighet av utenlandsk teknologi, tilgang til nøkkelkomponenter og risikoen for teknologisk innestenging. Beijing vil derfor trolig se utenlandske sikkerhetskrav også i lys av mulig teknologisk begrensning og utenlandsk innblanding. 57

Et annet utgangspunkt enn i Silicon Valley

Chens advarsel kom samtidig som Anthropic-sjef Dario Amodei tok til orde for å redusere tempoet i forbedringen av de mest avanserte AI-modellene. Amodei argumenterte ikke for å stanse utviklingen, men for å gi sikkerhetsarbeid, testing og styring tid til å ta igjen modellenes raskt voksende kapasitet. 12

Forslaget hans består av tre deler: uavhengige evaluatorer med varig tilgang på nivå med ansatte i laboratoriene, felles sikkerhetsforpliktelser blant demokratiske land og på sikt bredere internasjonalt samarbeid som også omfatter autoritære stater. 212

OpenAI-sjef Sam Altman sa at selskapet ville følge ideen om uavhengige evaluatorer med ansattlignende tilgang, mens Elon Musk offentlig støttet Amodeis oppfordring om å dempe tempoet. 101

Skillet mellom de to perspektivene er tydelig:

• Beijings sikkerhetssyn er statsorientert: politisk stabilitet, Kommunistpartiets autoritet, ideologisk kontroll, datasuverenitet og beskyttelse mot utenlandsk teknologisk press står i sentrum. 57
• Frontier-sikkerhetssynet i amerikansk AI-industri er i større grad kapasitetsorientert: faren er at modeller blir for kraftige til å kunne testes, sikres og styres forsvarlig, og dermed kan muliggjøre alvorlige cyberangrep, farlig vitenskapelig misbruk eller tap av meningsfull menneskelig kontroll. 122

Det finnes likevel et overlapp. Begge sider peker på cybermisbruk, spionasje, desinformasjon og militære anvendelser som alvorlige problemer. Uenigheten gjelder blant annet hvem som skal fastsette standardene, om sikkerhetsregler kan fungere som skjulte teknologiske handelsbarrierer, og hvor mye ekstern innsyn som er forenlig med nasjonal sikkerhet.

Viktig før samtaler mellom USA og Kina

USA og Kina planlegger samtaler om AI-sikkerhet i midten av september. Ifølge Reuters er dette de første offisielle bilaterale samtalene i Donald Trumps andre presidentperiode som er viet utelukkende til AI-sikkerhet. 4

Chens artikkel tyder på at Beijing vil ønske en bredere agenda enn bare modelltesting og såkalt «alignment» – altså arbeid for å få AI-systemer til å handle i tråd med menneskelige mål og sikkerhetskrav. Kina vil trolig også løfte spørsmål om utenlandsk påvirkning, data- og infrastruktursikkerhet, likebehandling i standardarbeid og motstand mot teknologisk innestenging. 37

Derfor kan avgrensede avtaler om konkrete skadevirkninger – som AI-støttede cyberangrep, svindel med syntetiske medier, rapportering av alvorlige hendelser og kommunikasjon om militær risiko – være lettere å oppnå enn enighet om universelle evalueringer eller grenser for modellkapasitet. Tiltak Washington ser som risikoreduksjon, kan Beijing samtidig tolke som ordninger som beskytter USAs teknologiske forsprang.