Trump-Regierung nimmt Open-Weight-KI von freiwilligen Sicherheitstests aus

Was der neue Prüfrähmen vorsieht

Am 2. Juni 2026 unterzeichnete Trump die Exekutivverordnung „Promoting Advanced AI Innovation and Security“. Sie fordert Bundesbehörden auf, mit führenden KI-Entwicklern freiwillige Vereinbarungen über Cybersecurity-Tests vor der Veröffentlichung ihrer fortschrittlichsten Modelle zu treffen .

Eine neue Regulierungsbehörde oder eine verpflichtende Lizenzierung soll es ausdrücklich nicht geben . Stattdessen sollen unter anderem das Finanz-, Verteidigungs-, Handels- und Heimatschutzministerium entsprechende Vereinbarungen mit den Unternehmen aushandeln . Firmen, die an dem Rahmen teilnehmen, müssen sich auf ein Zugriffsfenster von bis zu 30 Tagen vor dem öffentlichen Start eines Modells einstellen .

Open-Weight-Modelle bleiben außen vor

Bei einem Treffen im Weißen Haus am 4. August 2026 erklärten Berater der Trump-Regierung, dass Open-Weight-Modelle nicht den freiwilligen Sicherheitstests unterzogen werden. Das gilt den Berichten zufolge auch für chinesische Modelle mit offenen Gewichten .

An dem Treffen nahmen Vertreter von Meta, Anthropic, Google, Nvidia und OpenAI teil. Es folgte auf Berichte, wonach KI-Werkzeuge von OpenAI und Anthropic in die Systeme anderer Unternehmen eingedrungen waren. Das hatte bei US-Abgeordneten die Sorge verstärkt, dass immer leistungsfähigere Modelle Cyberangriffe ausführen oder erleichtern könnten .

Getestet werden vor allem Hacking-Fähigkeiten

Der ausgearbeitete Prüfansatz zielt nicht auf eine umfassende Bewertung von Sicherheit, Verzerrungen oder gesellschaftlichen Folgen. Im Zentrum stehen vielmehr die Fähigkeiten der fortschrittlichsten Modelle im Bereich Hacking und Cybersicherheit .

Welche Modelle als „covered frontier models“ gelten, soll in einem geheim eingestuften Verfahren der National Security Agency (NSA) festgelegt werden. Für Entwickler bleibt damit weitgehend unklar, ab welcher Leistungsgrenze ein Modell in den Prüfbereich fällt .

Warum die Ausnahme umstritten ist

Sicherheitslücke durch fehlende Leitplanken

Kritiker sehen in der Ausnahme einen erheblichen blinden Fleck. Open-Weight-Modelle lassen sich frei herunterladen, verändern und von böswilligen Akteuren für Angriffe einsetzen. Anders als bei geschlossenen Systemen können die ursprünglichen Entwickler nach der Veröffentlichung nicht kontrollieren, wie das Modell genutzt wird; zudem lassen sich eingebaute Schutzmechanismen leichter entfernen .

Anthropic-Chef Dario Amodei argumentiert deshalb, Open-Weight-Modelle seien schwieriger sicher zu halten, weil ein Anbieter nach der Veröffentlichung die Kontrolle über ihre Nutzung verliere .

Mögliche Wettbewerbsverzerrung

Der Rahmen könnte außerdem US-Anbieter geschlossener Modelle stärker belasten als Wettbewerber mit offenen Gewichten. Während führende proprietäre Modelle von Unternehmen wie OpenAI und Anthropic geprüft werden sollen, blieben auch chinesische Open-Weight-Systeme außen vor. Einige Beobachter befürchten deshalb einen Wettbewerbsnachteil für US-Frontier-Labs gegenüber ausländischen Open-Weight-Anbietern .

Unklare Kriterien

Zusätzliche Unsicherheit entsteht durch das geheime NSA-Verfahren. Entwickler können kaum einschätzen, wo genau die Grenze zwischen einem erfassten und einem nicht erfassten Modell verläuft – und welche Systeme künftig doch überprüft werden könnten .

So reagiert die Branche

OpenAI und Anthropic warnen vor offenen Modellen

OpenAI und Anthropic haben Politiker wiederholt vor den Risiken leistungsfähiger Open-Weight-Modelle gewarnt. Damit unterstützen sie zugleich eine stärkere Kontrolle offener Systeme. Kritiker, darunter der Trump-Berater David Sacks, werfen den Unternehmen allerdings vor, aus wirtschaftlichem Eigeninteresse zu handeln. Eine strengere Regulierung offener Modelle könnte die Marktposition der etablierten Anbieter stärken und neue Konkurrenten bremsen .

Meta und Nvidia profitieren

Für Meta und Nvidia ist die Ausnahmeregelung unmittelbar vorteilhaft: Ihre Modelle Llama und Nemotron fallen nach den Angaben aus dem Weißen Haus nicht unter die freiwilligen Tests .

Start-ups gegen Einschränkungen chinesischer Modelle

Fast 200 Unternehmen, darunter Proton und Y Combinator, haben die Regierung aufgefordert, den Zugang zu chinesischen Open-Weight-Modellen nicht einzuschränken. Eine solche Sperre könne die nächste Generation US-amerikanischer Start-ups erheblich schwächen, argumentieren sie .

Die neu gegründete Little Tech Association wandte sich dazu in Briefen an Trump und Handelsminister Howard Lutnick .

Ein Kurswechsel mit vielen Fragezeichen

Die New York Times beschrieb den Kurs der Regierung als „Whiplash“ für das Silicon Valley: Zunächst wurden Sicherheitsvorgaben aus der Biden-Ära zurückgenommen, anschließend ein freiwilliger Prüfrähmen eingeführt und nun Open-Weight-Modelle davon ausgenommen. Für die Industrie bleibt damit offen, welche Regeln letztlich für welche Systeme gelten .

Saif Khan, früherer Berater der Biden-Regierung für neue Technologien, bezeichnete den Ansatz des Weißen Hauses als „opak, fast ausschließlich von Bauchgefühl geprägt“. Er könne der KI-Branche womöglich mehr schaden als eine herkömmliche Regulierung .