Was Ro Khanna über den Schutz von KI-Modellen wissen will

Der US-Abgeordnete Ro Khanna will von OpenAI, Anthropic, Google, Meta und SpaceX wissen, ob China oder andere feindlich gesinnte Akteure versucht haben, unerlaubt auf die Gewichte ihrer KI-Modelle zuzugreifen. Außerdem sollen die Unternehmen ihre Schutzmaßnahmen erläutern.713 Khanna sorgt sich, dass ein solcher Diebstahl einen Wettbewerbs- und Sicherheitsvorteil der USA gefährden könnte. Seine Anfrage ist jedoch keine Behauptung, dass eines der Unternehmen bereits bestohlen wurde.46

Warum Modellgewichte so wichtig sind

Modellgewichte sind die im Training entstandenen numerischen Parameter, die ein KI-Modell funktionsfähig machen. Wer sie in die Hände bekommt, könnte eine Kopie des Modells betreiben. Ein direkter Zugriff wäre deshalb etwas anderes als das bloße Nutzen eines KI-Dienstes – und könnte laut Khannas Bedenken den technologischen Vorsprung der USA schwächen sowie Sicherheitsrisiken schaffen.47

Distillation ist nicht dasselbe wie ein Diebstahl

Bei der sogenannten Distillation wird ein neues Modell anhand der Ausgaben eines bereits bestehenden Systems trainiert. Dabei werden nicht zwangsläufig dessen interne Gewichte entwendet. US-Behörden haben chinesischen KI-Unternehmen vorgeworfen, auf diese Weise Wissen aus US-Modellen übernommen zu haben; OpenAI und Anthropic haben ebenfalls Fälle von Distillation durch chinesische Firmen gemeldet.617

Für tatsächliche Diebstähle von Modellgewichten sind dagegen nur wenige Fälle bekannt. Khannas Schreiben zielt also auf die Frage, ob es entsprechende Zugriffsversuche gab und wie die Unternehmen ihre Systeme dagegen absichern – nicht darauf, eine bereits erfolgte Entwendung als Tatsache darzustellen.613

Sicherheit trifft auf den Wettbewerb mit China

Die Anfrage fügt sich in Khannas breitere Forderung nach Schutzvorkehrungen für leistungsfähige KI ein. Zugleich hat er sich für Gespräche und gemeinsame Sicherheitsregeln zwischen den USA und China ausgesprochen.25 Das schafft eine Spannung: Der Schutz vor mutmaßlicher Übernahme von Technologie kann politisch mit dem Wunsch nach Zusammenarbeit konkurrieren. Analysten warnen, dass eskalierende Auseinandersetzungen über mutmaßliches Kopieren den Dialog zur KI-Sicherheit erschweren könnten.18

Reicht freiwillige Kontrolle der Branche?

Die Trump-Regierung hat angekündigt, bestimmte fortgeschrittene Modelle mit leistungsfähigen Hacking-Fähigkeiten vor ihrer Veröffentlichung freiwillig staatlichen Cybersicherheitstests zu unterziehen. Zugleich setzt sie laut Berichten auch auf Selbstkontrolle der Unternehmen. Khannas Fragen richten den Blick darauf, wie die Firmen ihre eigene Sicherheit tatsächlich organisieren.

Das sind verwandte, aber nicht identische Ansätze: Die beschriebenen Tests betreffen Modelle vor ihrer Veröffentlichung, während Khanna Auskunft über bekannte Zugriffsversuche und Schutzmaßnahmen verlangt. Aus den vorliegenden Berichten geht nicht hervor, dass freiwillige Tests einen Diebstahl von Modellgewichten verhindern würden. Ebenso gibt es keinen belegten Hinweis, dass einem der fünf angeschriebenen Unternehmen solche Gewichte gestohlen wurden.6