KI-Chefs widersprachen Dario Amodeis Warnungen – und unterzeichneten Trumps freiwilligen Pakt

Beim Treffen im Weißen Haus am 29. September traf ein interner Streit über KI-Risiken auf eine öffentliche Einigkeit: Tech-Manager stellten laut Berichten die Warnungen von Anthropic-Chef Dario Amodei infrage. Danach sagte Amodei, die Technologie berge „sehr reale Risiken“, doch wie man ihnen begegnen solle, werde noch diskutiert. Zugleich präsentierten die Manager und Präsident Donald Trump eine freiwillige Sicherheitsvereinbarung. Die gemeinsame Erklärung räumte die Meinungsverschiedenheiten über staatliche Regulierung nicht aus. 2

Was beim Treffen bekannt ist

Ein Bericht über die Zusammenkunft schilderte eine kontroverse Diskussion in kleinerer Runde, bei der Manager Amodeis Warnungen infrage stellten. Die vorliegenden Quellen reichen jedoch nicht aus, um den Wortwechsel im Einzelnen nachzuzeichnen oder genau zuzuordnen, wer welche Aussage machte. Sie bestätigen auch nicht, dass es bei dieser konkreten Auseinandersetzung um Arbeitsplatzverluste ging.

Der grundsätzliche Dissens ist besser dokumentiert: Amodei hatte sich für Vorschriften ausgesprochen, die unabhängige Prüfungen besonders fortgeschrittener KI-Systeme verlangen. Trump dagegen warb dafür, die Unternehmen selbst für die Aufsicht verantwortlich zu machen, statt neue bundesweite Beschränkungen einzuführen. 4 Nach dem Treffen bekräftigte Amodei, die Risiken seien real; wie darauf zu reagieren sei, müsse noch geklärt werden. 2

Was der freiwillige Pakt vorsieht

Der „White House Accord on Superintelligence“ beschreibt Zusagen zu internen Kontrollen und Sicherheitsprüfungen. Die Unternehmen sollen außerdem mit unabhängigen Prüfern zusammenarbeiten, um zu bewerten, ob KI-Systeme wie von ihren Entwicklern vorgesehen funktionieren. Vorgesehen sind auch Schutzmaßnahmen gegen unbefugte Zugriffe und Hackerangriffe. 315

Trump bezeichnete den Pakt als „moralisch bindend“ und sagte, die Unternehmen würden sich selbst kontrollieren. Medienberichte ordneten die Zusagen jedoch als freiwillig und rechtlich nicht durchsetzbar ein. Praktisch handelt es sich also um eine Selbstverpflichtung der Branche, nicht um eine neue bundesweite Vorschrift. 411

Das ist ein wichtiger Unterschied: Die Vereinbarung nennt Schritte für die Aufsicht, klärt aber nicht, ob externe Regeln sie verbindlich vorschreiben oder wie ihre Einhaltung durchgesetzt würde. Auch die Frage, ob die Zusagen später gesetzlich verankert werden könnten, bleibt offen. Berichten zufolge lässt der Text diese Möglichkeit für die Zukunft grundsätzlich im Raum.

Offene Fragen zur Aufsicht

Trump brachte ein mögliches zehnköpfiges Gremium zur Aufsicht über die Branche ins Gespräch. Die vorliegenden Berichte beschreiben das als erwogene Idee – nicht als bereits eingerichtete Institution. 210

Die Quellen belegen außerdem nicht, dass eine separate Branchenaufsicht zur Selbstregulierung aufgegeben wurde, oder wie ein solcher Plan mit dem unterzeichneten Pakt zusammengehangen hätte. Und obwohl Berichte Anthropics Teilnahme mit dem Treffen und der allgemeinen Regulierungsdebatte verknüpfen, belegen sie nicht, dass das Unternehmen damit vor einem Börsengang die Beziehungen zur Regierung verbessern wollte – oder dass ein Börsengang unmittelbar bevorstand. 45

Gemeinsame Erklärung, ungelöster Streit

Der Pakt brachte eine gemeinsame Sprache für Schutzmaßnahmen hervor, aber keinen Konsens über die Rolle des Staates. Amodei fordert unabhängige Prüfungen, die durch Vorschriften abgesichert sind; Trump setzt auf freiwillige Aufsicht durch die Unternehmen. Die offene Kernfrage lautet damit weiterhin: Wer soll die Anforderungen an KI-Sicherheit festlegen und ihre Einhaltung durchsetzen? 4

Der Pakt ist daher am besten als freiwilliger Rahmen für Maßnahmen der Unternehmen zu verstehen – nicht als Beleg dafür, dass sich die Manager über das Ausmaß der KI-Risiken oder die Grenzen der Selbstregulierung einig sind.