Kinas sikkerhetsminister advarer: KI kan bli et våpen mot politisk stabilitet

Chen Yixin, Kinas minister for statssikkerhet, framstiller KI først og fremst som en trussel mot styrets stabilitet og landets teknologiske selvstendighet – ikke bare som et generelt spørsmål om sikkerhet eller en mulig framtidig eksistensiell risiko. Han advarer om at utenlandske motparter kan bruke teknologien til å undergrave Kina politisk og ideologisk, trenge inn i data og infrastruktur og holde landet fast i en skjev teknologisk orden kontrollert utenfra. 2

Deepfakes og automatiserte kontoer kan brukes i påvirkningskrig

Chen advarer om at deepfakes, KI-generert tekst og bilder og automatiserte kontoer i sosiale medier kan brukes til å dikte opp politiske rykter, spre skadelig informasjon og forsterke splittelser. Han knytter dette til det han omtaler som «krig om den offentlige opinionen» og kognitiv krigføring.

Ifølge Chen kan slik bruk av KI direkte true Kinas politiske sikkerhet, institusjonelle sikkerhet og ideologiske sikkerhet. 2

Frykter spionasje, datauttak og angrep på infrastruktur

En annen bekymring er KIs evne til å samle, analysere og lage profiler basert på svært store datamengder. Chen mener dette kan gjøre utenlandsk etterretningsinnhenting mer effektiv, blant annet ved å lette jakten på statshemmeligheter, kommersiell eller handelsrelatert informasjon og personopplysninger. 23

Han kobler også avansert KI til risikoer for kritisk informasjonsinfrastruktur. Teknologien kan blant annet bli brukt til å finne sårbarheter i datasystemer og utvikle skadevare eller annen programvare som utnytter dem. 2

KI som kamp om teknologisk kontroll

Chen beskriver KI som en sentral arena for strategisk konkurranse. Ledende land kan, mener han, bruke nasjonal sikkerhet som begrunnelse for teknologirestriksjoner, dominere standarder og bygge lukkede teknologiske økosystemer. 2

Den politiske konsekvensen av dette synet er et ønske om egen nasjonal kapasitet, statlig kontroll over data, algoritmer og infrastruktur – og mindre avhengighet av utenlandsk teknologi.

Et annet utgangspunkt enn Amodei, Altman og Musk

Anthropic-sjef Dario Amodei har på sin side bedt KI-selskaper bremse utviklingen av de mest avanserte modellene, slik at sikkerhetsarbeidet kan holde tritt. Planen hans starter med uavhengige evaluatorer med tilgang som ansatte, og omfatter deretter felles standarder mellom selskaper og demokratiske regjeringer, før bredere internasjonalt samarbeid. 1

Sam Altman i OpenAI har sagt at selskapet bør «holde tempoet ved grensen» og støttet ideen om tredjepartsevaluatorer. Elon Musks korte respons var: «Dario har rett.» 1

Chen har et annet hovedfokus. For ham handler KI-sikkerhet også om å beskytte Kommunistpartiets styre, hindre utenlandsk uttak av kinesiske data og motvirke en teknologisk maktfordel i Vesten. Det innebærer sterkere sikkerhetskontroll og nasjonal kontroll over nøkkelteknologi. 2

Det finnes likevel et begrenset felles utgangspunkt: Kina har også pekt på stadig mer autonome KI-systemer og mulig tap av menneskelig kontroll som en framtidig sikkerhetsrisiko. Det kan gi rom for avgrensede samtaler mellom USA og Kina om KI-sikkerhet. Men uenighetene om brikker, modeller, standarder og hvem som skal skrive reglene for KI, er langt større. 3

Kinesiske myndigheter og statlige medier har samtidig framstilt vestlige oppfordringer om å bremse KI som fryktdrevne, konkurransehemmende eller som forsøk på å begrense Kinas teknologiske framgang – snarere enn som nøytral sikkerhetspolitikk. 2