Warum Ro Khanna KI-Konzerne nach möglichen Angriffen auf ihre Modelle fragt

Im Kern geht es Ro Khanna um mehr als die Frage, ob ausländische Konkurrenten die Antworten führender US-KI nachahmen können: Der demokratische Abgeordnete will wissen, ob Unternehmen ihre leistungsfähigsten Modelle vor dem Zugriff feindlicher Akteure schützen können. Deshalb fragte er nach bekannten Versuchen, Modellgewichte illegal zu beschaffen, und nach den Cybersecurity-Maßnahmen der Firmen.510

Modellgewichte stehlen ist nicht dasselbe wie ein Modell nachbilden

Modellgewichte sind die erlernten Parameter, die das Verhalten eines KI-Modells prägen. Wer sie entwendet, erhält damit zentrale Bestandteile des Modells selbst. Bei der Modelldestillation dagegen wird ein anderes Modell mit den Antworten eines bestehenden Systems trainiert. Das kann dessen Fähigkeiten teilweise nachbilden, überträgt aber nicht automatisch die Originalgewichte.

OpenAI und Anthropic haben Fälle von Distillation durch chinesische Unternehmen gemeldet. Zugleich gibt es nur wenige bekannte Fälle, in denen ein Akteur tatsächlich Modellgewichte gestohlen hat. Die gemeldeten Distillationsversuche sind daher kein Beleg dafür, dass die Gewichte dieser Unternehmen entwendet wurden.10

Warum die Gewichte als Sicherheitsfrage gelten

Khannas Sorge: Gelangen die tatsächlichen Gewichte in die Hände eines feindlichen Akteurs, könnte dieser ein leistungsfähiges Modell außerhalb des Zugriffs und der Schutzvorkehrungen seines Entwicklers nutzen. Das ist etwas anderes, als ein Modell über den regulären Dienst eines Unternehmens anzusprechen. Die vorliegenden Informationen belegen allerdings nicht, dass China die Gewichte eines der genannten Unternehmen erfolgreich gestohlen hat.510

Der Streit um freiwillige Regeln und staatliche Aufsicht

Unter Präsident Trump setzt die US-Regierung auf freiwillige Sicherheitszusagen der KI-Branche. In diesem Rahmen erklärte die Regierung zudem, offene Modelle nicht freiwillig auf ihre Sicherheit testen zu lassen.79 Khanna drängt dagegen auf verpflichtende Prüfungen, stärkere staatliche Aufsicht und ein verbindliches, überprüfbares Sicherheitsabkommen zwischen den USA und China. Seine Forderungen zielen darauf, belastbare Nachweise für die Wirksamkeit der Schutzmaßnahmen zu erhalten, statt sich allein auf Zusagen der Unternehmen zu verlassen.123

Was genau die einzelnen Firmen an Schutzvorkehrungen einsetzen – und ob es weitere, nicht öffentlich bekannte Angriffsversuche gab –, lässt sich anhand der verfügbaren Informationen nicht feststellen.