Vad vet vi om Qwens politiska slagsida?

Alibabas Qwen är en AI-modell med öppna vikter som används i produkter och tjänster, bland annat hos västerländska företag som Airbnb och Uber, enligt CBS News. Därför handlar frågor om modellens svar inte bara om träffsäkerhet: utelämnanden och vinklingar kan följa med in i tjänster som byggs med modellen. Hirundos testresultat och CBS granskning pekar på möjlig politisk slagsida, men visar inte att alla versioner av Qwen beter sig likadant – eller att användning av modellen ger Alibaba eller Kinas regering tillgång till företagsdata.10

Vad Hirundo testade – och vad resultatet betyder

Hirundo, ett cybersäkerhetsföretag, uppger att det testade Qwen med 500 frågor inom 15 ämnen. Företaget rapporterade att modellen på politiskt känsliga frågor gav censurerande, propagandavänligt vinklade eller politiskt partiska svar i 89,8 procent av fallen, enligt en chef på Hirundo som citeras av Newsmax.11

Siffran är Hirundos rapporterade resultat. Den är inte en oberoende reproducerad procentsats för alla Qwen-versioner, frågor eller användningsmiljöer. Den slår också samman flera slags svar – undvikande, politiskt vinklad framställning och partiskhet – i stället för att enbart mäta direkta avböjanden.11

Bland exemplen som rapporterats finns frågor om dödandet under protesterna på Himmelska fridens torg 1989 och protesterna i Hongkong 2019. Enligt beskrivningen av Hirundos resultat kunde modellen ge svar som inte bekräftade eller erkände händelserna. CBS uppmärksammade också Qwens svar om Hongkong och andra kontroversiella ämnen.1115

Vad CBS egna kontroller tillför

CBS News ställde separat frågor till Qwen och rapporterade alarmerande svar om känsliga ämnen. De egna kontrollerna ger ytterligare exempel på det beteende Hirundo beskriver, men är stickprov – inte belägg för att alla Qwen-modeller eller företagslösningar svarar på samma sätt.1015

Skillnaden är viktig: en modell kan undvika ett ämne, återge en politiskt vinklad beskrivning eller ge ett felaktigt svar utan att uttryckligen säga nej. Om man bara undersöker om modellen svarar ”jag kan inte svara” riskerar man därför att missa andra former av utelämnanden eller partiskhet.11

Varför företag bör bry sig – och vad testerna inte bevisar

CBS rapporterade att Qwen hade laddats ned över 3 miljarder gånger och användes av företag som Airbnb och Uber.10 När ett företag bygger in en modell i kundtjänst eller interna verktyg kan dess svar påverka vad användarna får se. Det är ett skäl att testa den specifika modellversion och driftsmiljö företaget tänker använda – men inte ett bevis för att Hirundos rapporterade resultat påverkar alla produkter som använder Qwen.

Frågor om politisk slagsida och cybersäkerhet bör också hållas isär. Utskotten för inrikes säkerhet och Kinafrågor i USA:s representanthus har inlett en granskning av nationella säkerhets- och cybersäkerhetsrisker kopplade till AI-modeller utvecklade i Kina, däribland Airbnbs rapporterade användning av Qwen. En granskning och de farhågor som ligger bakom den är inte bevis för att Qwen har orsakat ett dataintrång.

Modeller med öppna vikter kan köras på företagets egen infrastruktur. Det kan ge organisationen större kontroll över känsliga data än om de skickas till en extern leverantör. Men valet av driftsmiljö tar inte i sig bort en eventuell slagsida i modellens svar, och detaljerna i varje företags lösning spelar roll.

Hirundos föreslagna lösning är fortfarande ett påstående att pröva

Hirundo säger sig ha hittat ett sätt att ta bort Qwens partiskhet genom att redigera modellens interna vikter. CBS har rapporterat om företagets planer på att släppa en ”västerniserad” version.10 Det är ett påstående om en föreslagen teknisk lösning, inte oberoende bevis för att ändringen fungerar tillförlitligt inom olika ämnen, modellversioner, språk och arbetsuppgifter.

För organisationer som överväger Qwen är den praktiska slutsatsen att bedöma just den modell och driftsmiljö de tänker använda. Testa både känsliga och vardagliga frågor, kontrollera om svaren utelämnar eller förvränger relevanta fakta och granska dataflöden och säkerhetskontroller separat. De rapporterade resultaten motiverar granskning, men ger inte ett slutgiltigt svar för varje användning av modellen.