Kinas säkerhetsminister varnar för AI som verktyg i politisk och teknologisk maktkamp

Chen Yixin, Kinas minister för statssäkerhet, beskriver AI främst som en fråga om regimsäkerhet och teknologisk suveränitet. Hans varning handlar alltså inte bara om att mycket avancerade AI-system i framtiden kan bli svåra att kontrollera. Den handlar också om hur utländska aktörer enligt honom kan använda tekniken för att undergräva politisk stabilitet, komma åt kinesiska data och befästa ett utlandsdominerat teknologiskt system. 2

Deepfakes, botar och informationskrig

Chen varnar för att deepfakes, AI-genererad text och bildmaterial samt automatiserade konton på sociala medier kan användas för att fabricera politiska rykten, sprida skadlig information och förvärra samhälleliga motsättningar. Han kopplar detta till så kallade offentlighetsopinionens krig och kognitiv krigföring – alltså försök att påverka hur människor tolkar information och politiska skeenden.

Enligt Chen kan sådan användning av AI direkt hota Kinas politiska, institutionella och ideologiska säkerhet. 2

Spioneri, data och kritisk infrastruktur

En annan central del av varningen gäller AI:s förmåga att samla ihop, analysera och profilera mycket stora datamängder. Chen menar att detta kan stärka utländsk underrättelseinhämtning, bland annat genom att underlätta åtkomst till statshemligheter, affärs- eller handelsinformation och personuppgifter. 23

Han pekar också på risker för kritisk informationsinfrastruktur. Avancerade AI-system kan exempelvis bli bättre på att hitta sårbarheter i digitala system och skapa skadlig kod eller annan programvara som utnyttjar dem. 2

AI som kamp om teknologiskt oberoende

Chen framställer dessutom AI som en arena för strategisk konkurrens mellan stater. Ledande länder kan, enligt hans resonemang, hänvisa till nationell säkerhet för att begränsa teknikexport, styra standarder och bygga slutna tekniska ekosystem. 2

Den politiska slutsatsen blir därför att Kina behöver bygga egen kapacitet och behålla statlig kontroll över data, algoritmer och infrastruktur – samt minska beroendet av utländsk teknik.

Skillnaden mot Amodei, Altman och Musk

Anthropics vd Dario Amodei har i stället fokuserat på att bromsa utvecklingen av de mest avancerade AI-modellerna så att säkerhetsarbetet hinner med. Hans modell omfattar oberoende granskare med långtgående insyn, samordning mellan företag och demokratiska regeringar kring gemensamma säkerhetsstandarder samt på sikt internationellt samarbete. 1

Chen har ett mer statscentrerat perspektiv. För honom är faran inte bara att AI kan bli farlig för alla, utan att motståndare kan använda den för att hota Kommunistpartiets styre, komma över kinesiska data och bevara ett västligt teknologiskt försprång. I den ramen omfattar AI-säkerhet även informationskontroll, säkerhetsgranskning och kontroll över nyckelteknik. 2

Det finns ändå en begränsad beröringspunkt: Kina har också lyft risken att allt mer autonoma AI-system kan undandra sig mänsklig kontroll. Det öppnar för vissa samtal mellan USA och Kina om AI-säkerhet. Men konflikten om chip, modeller, standarder och vem som ska sätta reglerna för AI är betydligt större. 3

Sam Altman har sagt att OpenAI bör ”hålla ett tempo vid frontlinjen” och ställt sig bakom idén om externa säkerhetsutvärderare. Elon Musk uttryckte sitt stöd kortfattat: ”Dario har rätt.” Deras uttalade fokus ligger därmed på att sakta ned och granska utvecklingen i AI:s framkant, snarare än på Chens program för politiskt skydd och teknologisk självständighet. 1

Kinas officiella och statsmediala reaktioner visar på denna grundläggande skillnad: västliga uppmaningar att bromsa AI har framställts som rädsledrivna, konkurrensskadliga eller som försök att begränsa Kinas tekniska utveckling. 2 Det planerade första bilaterala mötet mellan USA och Kina om AI-säkerhet speglar därför ett smalt gemensamt bekymmer – att systemen kan bli svåra att övervaka – inom ramen för en betydligt bredare strategisk rivalitet. 3