Demis Hassabis wil een AI-waakhond met een pauzeknop

De inzet is duidelijk: geen vrijblijvende richtlijnen achteraf, maar een controle vóór de lancering, met een echte ‘pauzeknop’. Toch nam de G7 die bevoegdheid niet over. Daarmee blijft de internationale AI-governance versnipperd: van vrijwillige Amerikaanse beoordelingen tot adviserende VN-initiatieven. De vraag is dus niet alleen óf er toezicht komt, maar ook wie het krijgt, wie het handhaaft en onder welk internationaal gezag.

Het voorstel: één technische standaard met echte bevoegdheden

Hassabis omschreef het idee als een “technical standards body that is supported by leading labs”: een technisch normeringsorgaan dat het vertrouwen in AI moet vergroten door één gezaghebbende beoordeling van de krachtigste modellen te bieden ^AN.

Het orgaan zou internationaal zijn, maar onder Amerikaanse leiding staan. De normen zouden bovendien elk kwartaal kunnen worden aangepast naarmate nieuwe risico’s zichtbaar worden — een aanpak waarvan Hassabis zei dat hij er al aan werkte ^N.

Volgens het Brookings Institution was het achterliggende probleem de uiteenlopende manier waarop landen toezicht houden op AI. Eén gemeenschappelijk technisch orgaan zou die verschillen kunnen verkleinen ^B. In de praktijk betekent dat een verschuiving van vrijwillige bedrijfsbeloftes naar een systeem waarin een model mogelijk niet wordt uitgebracht totdat het aan een gezamenlijke veiligheidsstandaard voldoet.

Évian: wat besloot de G7 werkelijk?

Het voorstel lag op tafel tijdens de 52e G7-top in Évian-les-Bains, op 16 en 17 juni 2026 ^ANI. Hassabis en Amodei spraken daar samen met OpenAI-CEO Sam Altman, vertegenwoordigers van het Franse Mistral en president Donald Trump tijdens een werklunch over de “veilige, snelle en efficiënte inzet van AI” ^L.

De bijeenkomst liet zien dat AI-governance niet langer alleen over abstracte principes gaat. Technologie, geopolitieke macht, exportcontrole, digitale soevereiniteit en de ontwikkeling van frontiermodellen kwamen er rechtstreeks samen ^L.

Maar de G7 nam de voorgestelde pauzeknop niet over. De top leverde negen verklaringen op, waaronder:

• een Trusted Partners-regeling, die bevriende landen toegang moet geven tot geavanceerde Amerikaanse AI-modellen die momenteel onder exportcontrole vallen;
• een Roadmap to Secure Digital Space for Minors, gericht op een veiligere digitale omgeving voor minderjarigen ^EA.

Ook de verklaring van de G7-ministers voor Digitalisering en Technologie van 29 mei bevatte toezeggingen rond AI-veiligheid, adoptie en digitale weerbaarheid, maar geen afdwingbare bevoegdheid om modelreleases stil te leggen ^GE. De uitkomst wijst erop dat de politieke steun voor één mondiale waakhond met echte stopmacht nog ontbreekt ^AGB.

De ideeën achter het voorstel: Hassabis bij Stanford

In de weken vóór de G7-top bouwde Hassabis bij Stanford aan het bredere verhaal achter internationale AI-coördinatie ^GS. Tijdens een gesprek in mei 2026 met Stanford-president Jonathan Levin noemde hij de huidige AI-ontwikkeling een “species-level transition”, oftewel een overgang die de hele menselijke soort raakt. Volgens Hassabis heeft de mensheid in het komende decennium weinig ruimte voor fouten ^S.

Tijdens een afzonderlijk evenement van Stanford Graduate School of Business op 18 juni zei hij dat de wereld zich aan de “uitlopers van de singulariteit” bevindt en dat het veilig ontwikkelen van AGI — kunstmatige algemene intelligentie — de belangrijkste uitdaging van deze tijd is ^GS.

Die optredens passen in een bredere publieke campagne van Hassabis in 2026, met bijdragen aan onder meer Davos, Google I/O en de India AI Impact Summit ^IYBB. Zijn terugkerende boodschap: de technologie ontwikkelt zich sneller dan de instituties die haar moeten controleren, waardoor internationale samenwerking noodzakelijk wordt.

Trumps Amerikaanse tussenstap is vrijwillig

Twee weken vóór de G7-top ondertekende president Trump Executive Order 14409, getiteld “Promoting Advanced Artificial Intelligence Innovation and Security” ^WN. De verordening vraagt AI-ontwikkelaars om nieuwe frontiermodellen vrijwillig aan de Amerikaanse overheid voor te leggen voor een beoordeling van nationale veiligheidsrisico’s. De overheid zou maximaal 30 dagen krijgen om die risico’s te onderzoeken voordat een model publiek wordt uitgebracht ^WN.

Dat is dus geen verplichte Amerikaanse keuring, laat staan een mondiale stopbevoegdheid. Het besluit vormt hooguit een vrijwillige voorloper van het systeem dat Hassabis voor ogen heeft. Het Witte Huis presenteerde de maatregel als een verschuiving van een vrijwel volledig afwachtende houding naar een actievere risicobeoordeling ^N.

De verordening gaf federale instanties daarnaast opdracht om een “AI cybersecurity clearinghouse” op te zetten en bestaande strafwetten te handhaven tegen cyberaanvallen waarbij AI wordt gebruikt ^SLU. Critici wezen er echter op dat de regering niet verplicht wordt om zelf veiligheidsbeoordelingen en cybersecuritytests uit te voeren voor geavanceerde AI-producten ^U.

Het VN-model: wetenschap zonder stopknop

De Verenigde Naties werken intussen aan een Independent International Scientific Panel on AI, kortweg IISP-AI. Dat panel is opgezet naar het voorbeeld van het IPCC en moet gezaghebbende wetenschappelijke beoordelingen maken van de mogelijkheden en risico’s van AI.

Het verschil met Hassabis’ voorstel is principieel. Het VN-panel is bedoeld als wetenschappelijk adviesorgaan: het kan overheden informeren en bijdragen aan internationale consensus, maar heeft geen bevoegdheid om modellen vooraf te screenen of een lancering te blokkeren.

Daarmee staan twee modellen tegenover elkaar. Aan de ene kant is er een inclusief, multilateraal VN-panel dat vooral kennis en advies levert. Aan de andere kant staat een door de VS geleid technisch orgaan dat operationele macht zou kunnen krijgen over de inzet van geavanceerde modellen.

Aanvulling of concurrent?

De kern van het debat draait om de vraag hoe zo’n orgaan zich zou verhouden tot bestaande regels en instellingen ^AGB.

Scenario 1: een aanvulling op bestaande kaders

In dit scenario zou de voorgestelde waakhond technische expertise leveren waarop nationale en internationale regelgevers kunnen voortbouwen. De G7, de Europese AI-verordening en het VN-panel zouden dezelfde veiligheidsnormen kunnen gebruiken. Zo zou één technische standaard de verschillen tussen landen verkleinen — precies het probleem dat de AI-bedrijven volgens Brookings proberen aan te pakken ^B.

Scenario 2: een parallel machtscentrum

Een door de VS geleide coalitie met de bevoegdheid om modellen te pauzeren kan ook bestaande multilaterale structuren ondermijnen. Critici vrezen dat een coalitie van democratische bondgenoten het VN-panel buitenspel zet, een systeem met verschillende bestuurslagen creëert en Amerikaanse AI-bedrijven te veel invloed geeft op de vraag wat als ‘gevaarlijk’ geldt ^A.

Ook de uitkomst van de G7-top wijst in die richting. De leiders kozen voor samenwerking tussen bondgenoten en toegang tot technologie, niet voor een universele pauzeknop ^EAB. Een analyse van Bloomberg vatte de AI-werklunch samen als een bijeenkomst die “meer onthulde over wat leiders nog niet begrijpen dan over wat ze overeenkwamen” ^Y.

De belangrijkste conclusie

Het voorstel van Hassabis is een van de meest concrete oproepen van een AI-topman tot nu toe voor een technisch bevoegde instantie die modellen vóór hun lancering kan beoordelen en zo nodig kan tegenhouden. Dat maakt het voorstel wezenlijk anders dan vrijwillige richtlijnen of wetenschappelijke adviezen.

Maar voorlopig blijft het vooral een plan. Trumps beoordelingskader is vrijwillig, de G7 koos voor coördinatie en partnerschappen, en het VN-panel krijgt een adviserende wetenschappelijke rol. Er is nog geen overeenstemming over wie een pauze zou mogen afdwingen, welke modellen onder het toezicht vallen en hoe voorkomen kan worden dat AI-governance uitmondt in een geopolitieke strijd tussen machtsblokken.