Wie politisch voreingenommen ist Alibabas KI-Modell Qwen?

Alibabas Qwen ist ein Modell mit offen verfügbaren Gewichten, das in Produkten und Diensten eingesetzt wird. Laut CBS News nutzen auch westliche Unternehmen wie Airbnb und Uber das Modell. Damit geht es nicht nur um die Genauigkeit einzelner Chatbot-Antworten: Auslassungen oder bestimmte Deutungen können sich auch in Anwendungen niederschlagen, die auf dem Modell aufbauen. Hirundos Untersuchung und CBS News’ eigene Prüfungen werfen Fragen zu möglicher politischer Voreingenommenheit auf. Sie belegen jedoch weder, dass sich alle Qwen-Versionen gleich verhalten, noch dass der Einsatz des Modells Unternehmensdaten an Alibaba oder die chinesische Regierung übermittelt.10

Was Hirundo getestet hat

Das Cybersicherheits-Start-up Hirundo gibt an, Qwen mit 500 Prompts zu 15 Themen geprüft zu haben. Bei politisch sensiblen Fragen habe das Modell in 89,8 Prozent der Fälle Zensur, eine propaganda-nahe Einordnung oder politische Voreingenommenheit gezeigt, sagte Hirundos Geschäftsführer laut Newsmax.11

Die Zahl ist Hirundos eigenes Testergebnis. Sie wurde damit nicht unabhängig als allgemeine Quote für alle Qwen-Versionen, Prompts und Einsatzumgebungen bestätigt. Außerdem fasst sie unterschiedliche Reaktionen zusammen – etwa ausweichende Antworten, eine bestimmte politische Rahmung und Voreingenommenheit. Sie misst also nicht nur ausdrückliche Verweigerungen.11

Zu den genannten Beispielen gehörten Fragen zum Tian’anmen-Massaker von 1989 und zu den Protesten in Hongkong 2019. Hirundos Ergebnisse, wie sie in den Berichten wiedergegeben werden, umfassten Antworten, die Ereignisse nicht bestätigten oder nicht anerkannten. Auch CBS News hob Qwens Antworten zu Hongkong und weiteren umstrittenen Themen hervor.1115

Was CBS News zusätzlich geprüft hat

CBS News stellte Qwen eigene Fragen zu sensiblen Themen und berichtete von alarmierenden Antworten. Diese Stichproben liefern ein weiteres Beispiel für das von Hirundo beschriebene Verhalten. Sie zeigen aber nicht, dass jede Qwen-Version oder jede betriebliche Anwendung des Modells gleich antwortet.1015

Der Unterschied ist wichtig: Ein Modell kann ein Thema umgehen, eine politisch gefärbte Darstellung wiederholen oder falsche Angaben machen, ohne ausdrücklich zu sagen, dass es nicht antworten kann. Wer nur auf klare Verweigerungen achtet, könnte andere Formen von Auslassung oder Voreingenommenheit übersehen.11

Warum Unternehmen genauer hinschauen sollten

CBS News berichtete, Qwen sei mehr als drei Milliarden Mal heruntergeladen worden und werde unter anderem von Airbnb und Uber genutzt.10 Wenn ein Unternehmen ein Modell in Funktionen für Kundinnen und Kunden oder in interne Werkzeuge einbindet, können dessen Antworten beeinflussen, welche Informationen Menschen erhalten. Das ist ein Grund, die konkrete Modellversion und den geplanten Einsatz zu testen – aber kein Beleg dafür, dass die gemeldeten politischen Verzerrungen jedes Produkt betreffen, das Qwen nutzt.

Politische Voreingenommenheit und Datensicherheit sind außerdem zwei getrennte Fragen. Ausschüsse des US-Repräsentantenhauses haben eine Untersuchung zu nationalen Sicherheits- und Cybersicherheitsrisiken chinesisch entwickelter KI-Modelle eingeleitet, darunter auch zum berichteten Einsatz von Qwen bei Airbnb. Eine Untersuchung und die damit verbundenen Bedenken sind kein Nachweis für einen durch Qwen verursachten Datendiebstahl.

Modelle mit offen verfügbaren Gewichten lassen sich auf der eigenen IT-Infrastruktur eines Unternehmens betreiben. Das kann mehr Kontrolle über sensible Daten ermöglichen, als sie an einen externen Anbieter zu schicken. Ein eigener Betrieb beseitigt jedoch nicht automatisch mögliche Verzerrungen in den Antworten. Entscheidend sind auch die Einzelheiten der jeweiligen technischen Einrichtung.

Hirundos angekündigte Lösung ist noch zu bewerten

Hirundo sagt, das Unternehmen könne Qwens Voreingenommenheit durch Änderungen an den internen Gewichten des Modells beseitigen. CBS News berichtete zudem über den geplanten Start einer sogenannten „westlich geprägten“ Version.10 Das ist eine Aussage über eine vorgeschlagene technische Lösung – kein unabhängiger Nachweis, dass die Änderung über verschiedene Themen, Modellversionen, Sprachen und geschäftliche Anwendungsfälle hinweg zuverlässig funktioniert.

Für Unternehmen, die Qwen erwägen, lautet die praktische Konsequenz: Sie sollten genau das Modell und die Einsatzform prüfen, die sie tatsächlich nutzen wollen. Dazu gehören Tests mit sensiblen und alltäglichen Fragen, die Kontrolle auf Auslassungen oder verzerrte Fakten sowie eine separate Prüfung von Datenflüssen und Sicherheitsvorkehrungen. Die berichteten Ergebnisse verdienen Aufmerksamkeit, beantworten aber nicht automatisch alle Fragen zu jedem Einsatz des Modells.