Hassabis‘ Vision einer globalen KI-Aufsicht – und warum die G7 nicht mitzog

Die Kernidee ist ein Vorab-Prüfmechanismus, der die Veröffentlichung von Modellen stoppen kann, wenn diese unannehmbare Risiken bergen – ein System mit echten Zähnen, im Gegensatz zu den freiwilligen oder beratenden Rahmenwerken, die derzeit die KI-Governance dominieren. Doch die G7 übernahm den vorgeschlagenen Pause-Mechanismus nicht. Die breitere Landschaft der KI-Governance-Initiativen – von Trumps Executive Order bis zum wissenschaftlichen Gremium der UNO – bleibt fragmentiert und weitgehend freiwillig. Eine zentrale Frage bleibt ungelöst: Würde eine solche Behörde bestehende internationale Rahmenwerke ergänzen oder mit ihnen konkurrieren? ^AG

Der Vorschlag: Eine technische Normungsbehörde mit Stopp-Taste

Hassabis beschrieb die vorgeschlagene Behörde als „eine technische Normungsbehörde, die von den führenden Laboren unterstützt wird“ – eine globale Wächterinstitution, die das Vertrauen stärken soll, indem sie eine einheitliche, maßgebliche Bewertung von KI-Modellen abgibt, bevor sie an die Öffentlichkeit gelangen ^AN. Die Behörde wäre international, aber von den USA geführt. Die Standards könnten vierteljährlich an neue Risiken angepasst werden, so Hassabis, der sagte, er habe daran gearbeitet ^N. Amodeis paralleler Aufruf für eine US-geführte Koalition demokratischer Länder zielte darauf ab, den Zugang zu fortschrittlicher KI-Technologie zu kontrollieren und „gemeinsame Gegner“ wie China zu isolieren ^A. Die Brookings Institution, die den Vorschlag analysierte, merkte an, dass das Ziel der Unternehmen darin bestand, das Problem der unterschiedlichen Aufsicht zwischen den Ländern zu lösen – eine Fragmentierung, die eine einzige technische Behörde beheben könnte ^B.

Der G7-Gipfel in Évian: Was tatsächlich geschah

Der 52. G7-Gipfel in Évian-les-Bains am 16. und 17. Juni 2026 war die unmittelbare Bühne für Hassabis‘ Vorschlag ^ANI. Er, Amodei, OpenAI-CEO Sam Altman sowie Führungskräfte des französischen KI-Unternehmens Mistral trafen sich mit Präsident Donald Trump und anderen G7-Staatschefs zu einem eigenen Arbeitsessen über „sichere, schnelle und effiziente Bereitstellung von KI“ ^L. Die Sitzung, so eine LinkedIn-Analyse, „bestätigt, dass sich die KI-Governance von hochrangigen Prinzipien in den Raum bewegt hat, in dem politische Macht, Industriestrategie und die Entwicklung von Spitzenmodellen aufeinandertreffen“ ^L.

Entscheidend ist: Die G7 übernahm den von Hassabis vorgeschlagenen Pause-Mechanismus nicht. Stattdessen verabschiedete der Gipfel neun Erklärungen, darunter ein „Trusted-Partners“-Programm – das verbündeten Nationen Zugang zu fortschrittlichen US-KI-Modellen gewährt, die derzeit unter Exportkontrollen stehen – sowie einen Fahrplan für einen sicheren digitalen Raum für Minderjährige ^EA. Die G7-Digitalminister hatten bereits am 29. Mai 2026 eine Erklärung abgegeben, die sich zu KI-Sicherheit, -Einführung und digitaler Resilienz bekennt, jedoch ohne durchsetzbare Stopp-Befugnisse ^GE. Das politische Ergebnis deutet darauf hin, dass der Wille für eine durchsetzbare globale Aufsichtsbehörde noch nicht vorhanden ist ^AGB.

Hassabis‘ intellektuelle Grundlagenarbeit: Die Stanford-Auftritte

In den Wochen vor der G7 hatte Hassabis zwei vielbeachtete Auftritte an der Stanford University, die die intellektuelle Grundlage für die von ihm später vorgeschlagene internationale Aufsichtsbehörde legten ^GS. In einem „Fireside Chat“ mit Stanford-Präsident Jonathan Levin im Mai 2026 bezeichnete Hassabis die aktuelle KI-Ära als einen „artspezifischen Übergang“ (species-level transition), der globale Zusammenarbeit erfordere, und warnte, dass die Menschheit im nächsten Jahrzehnt „wenig Spielraum für Fehler“ habe ^S. Bei einer separaten Veranstaltung der Stanford Graduate School of Business am 18. Juni 2026 legte er nach und sagte, wir befänden uns in den „Vorhügeln der Singularität“ und der sichere Bau einer AGI sei die wichtigste Herausforderung unserer Zeit ^GS. Diese Auftritte waren Teil einer breiteren öffentlichen Kampagne von Hassabis im Jahr 2026, die auch Auftritte in Davos, bei Google I/O und beim India AI Impact Summit umfasste ^IYBB.

Trumps Executive Order vom 2. Juni: Ein freiwilliger Vorläufer

Nur zwei Wochen vor dem G7-Gipfel unterzeichnete Präsident Trump die Executive Order 14409 zur „Förderung fortschrittlicher künstlicher Intelligenz, Innovation und Sicherheit“ ^WN. Die Anordnung fordert KI-Entwickler auf, freiwillig neue Spitzenmodelle der US-Bundesregierung zur nationalen Sicherheitsüberprüfung vorzulegen. Die Regierung hat dann bis zu 30 Tage Zeit, um die Risiken vor einer öffentlichen Veröffentlichung zu bewerten ^WN. Dies ist freiwillig, nicht verpflichtend – ein rein US-amerikanischer Vorläufer für die Art durchsetzbarer globaler Mechanismus, den Hassabis anstrebt. Das Weiße Haus stellte es als Abkehr von einem vollständigen „Laissez-faire“-Ansatz hin zu einer proaktiven Risikoprüfung dar ^N. Die Anordnung wies die Bundesbehörden auch an, eine „KI-Cybersicherheits-Clearingstelle“ einzurichten und bestehende Strafgesetze gegen KI-gestützte Cyberangriffe durchzusetzen ^SLU. Kritiker merkten an, dass die Executive Order „nicht vorschreibt, dass die Bundesregierung Sicherheitsbewertungen und Cybersicherheitstests für fortschrittliche KI-Produkte durchführen muss“ ^U.

Das unabhängige internationale wissenschaftliche Gremium der UNO zu KI (IISP-AI)

Die UNO entwickelt ihr eigenes unabhängiges internationales wissenschaftliches Gremium zu KI (IISP-AI), das nach dem Vorbild des IPCC (Weltklimarat) maßgebliche wissenschaftliche Bewertungen der Fähigkeiten und Risiken von KI erstellen soll. Dieses Gremium ist als wissenschaftliches Beratungsgremium konzipiert, nicht als Durchsetzungs- oder Stopp-Instanz. Es würde die Politik informieren, ohne über Prüf- oder Vetorechte zu verfügen. Der Unterschied zu Hassabis‘ Vorschlag ist klar: Das eine ist ein Beratungsgremium für den wissenschaftlichen Konsens, das andere eine technische Behörde mit operativer Befugnis, Bereitstellungen zu stoppen. Die Spannung zwischen diesen Modellen – einem multilateralen, inklusiven UN-Gremium versus einer US-geführten, durchsetzungsfähigen Behörde – steht im Zentrum der Governance-Debatte.

Die zentrale ungelöste Debatte: Ergänzung oder Konkurrenz?

Die Beweislage zeigt eine ungelöste Spannung, die im Herzen der aktuellen Governance-Landschaft liegt ^AGB:

• Ergänzungsansicht: Hassabis‘ Behörde könnte über den bestehenden nationalen und multilateralen Rahmenwerken stehen, technisches Know-how nutzen und einen einheitlichen Standard liefern, auf den sich das G7-Trusted-Partners-Programm, das EU-KI-Gesetz und das UN-Wissenschaftsgremium jeweils beziehen könnten. Die Brookings Institution stellt fest, dass der Vorschlag der Unternehmen darauf abzielte, das Problem der unterschiedlichen Aufsicht zwischen den Ländern zu lösen – eine Fragmentierung, die eine einzige technische Behörde beheben könnte ^B.

• Konkurrenzansicht: Ein US-geführtes Bündnis mit Stopp-Befugnissen riskiert, den inklusiveren, multilateralen Ansatz der UNO zu duplizieren oder zu untergraben. Kritiker befürchten, dass eine Koalition demokratischer Verbündeter das UN-Gremium an den Rand drängen, ein Zweiklassensystem der Governance schaffen und US-amerikanischen Laboren einen übermäßigen Einfluss darauf geben könnte, was als „gefährlich“ gilt ^A. Das tatsächliche Ergebnis der G7 – ein auf den Zugang von Verbündeten fokussiertes Trusted-Partners-Programm und keine universelle Stopp-Taste – deutet darauf hin, dass der politische Wille für eine durchsetzbare globale Aufsichtsbehörde noch nicht vorhanden ist ^EAB.

Die G7 selbst hat diese Spannung nicht gelöst. Ein Bloomberg-Beitrag auf YouTube, der den Gipfel analysierte, stellte fest, dass das KI-Arbeitsessen „mehr darüber verriet, was die Staatschefs noch nicht begreifen, als worüber sie sich einig waren“ ^Y.

Kernaussage

Hassabis‘ Vorschlag vom Juni 2026 ist der bislang konkreteste Vorstoß auf CEO-Ebene für eine technisch befugte, mit echten Durchgriffsrechten ausgestattete Prüfinstanz vor der Markteinführung. Er steht jedoch vor einer Situation, in der alle anderen wichtigen Governance-Instrumente – Trumps freiwillige Überprüfungsanordnung, das G7-Trusted-Partners-Programm und das wissenschaftliche Gremium der UNO – beratend oder kooperativ und nicht verpflichtend sind. Die Debatte darüber, ob eine solche Behörde diese Rahmenwerke ergänzen oder mit ihnen konkurrieren würde, ist ungelöst. Es gibt keinen Konsens darüber, wer eine Aussetzung durchsetzen würde oder wie eine geopolitische Fragmentierung vermieden werden kann.