Demis Hassabis vill ge AI-vakten en pausknapp – men G7 sa nej

Det centrala i Hassabis idé är alltså inte ännu en frivillig uppförandekod. Det handlar om en förhandsgranskning med faktisk möjlighet att stoppa en modell innan den når användarna. Men G7 antog inte den föreslagna pausmekanismen, och den bredare AI-styrningen är fortfarande splittrad och till stor del frivillig ^AG.

Vad Hassabis faktiskt föreslog

Hassabis beskrev idén som ”ett tekniskt standardiseringsorgan som stöds av de ledande labben” – en global vakthund som skulle öka förtroendet genom att ge en gemensam och auktoritativ bedömning av de mest avancerade AI-systemen före lansering ^AN.

Tanken var att organet skulle vara internationellt men USA-lett. Dess standarder skulle dessutom kunna uppdateras varje kvartal när nya risker blev tydligare, något Hassabis sade att han redan arbetade med ^N.

Brookings Institution har tolkat initiativet som ett försök att komma åt problemet med att olika länder övervakar AI på olika sätt. Ett gemensamt tekniskt organ skulle i så fall kunna minska denna splittring ^B.

En avgörande fråga återstår dock: vem skulle ha rätt att definiera vad som är ”farligt” – och vem skulle kunna verkställa en paus?

G7-mötet i Évian: det som beslutades – och det som inte beslutades

Den 52:a G7-ledartoppmötet hölls i Évian-les-Bains den 16–17 juni 2026. Hassabis, Amodei, OpenAI:s vd Sam Altman och representanter för det franska AI-bolaget Mistral deltog i en arbetslunch med USA:s president Donald Trump och andra G7-ledare. Temat var en ”säker, snabb och effektiv användning” av AI ^L.

Mötet visade hur AI-styrning har flyttat från allmänna principdiskussioner till skärningspunkten mellan geopolitik, industripolitik och utvecklingen av de mest avancerade modellerna ^L.

Men G7 antog inte Hassabis förslag om en pausmekanism. Toppmötet resulterade i nio deklarationer, däribland ett system för ”Trusted Partners”. Det skulle ge allierade länder tillgång till avancerade amerikanska AI-modeller som då omfattades av exportkontroller. G7 presenterade också en färdplan för en säkrare digital miljö för minderåriga ^EA.

G7:s digital- och teknikministrar hade redan den 29 maj 2026 antagit en deklaration om AI-säkerhet, AI-användning och digital motståndskraft. Den innehöll däremot inga verkställbara befogenheter att stoppa modellutveckling eller lanseringar ^GE. Resultatet från Évian tyder därför på att den politiska viljan för en bindande global AI-vakt ännu inte finns ^AGB.

Stanford-framträdandena byggde den intellektuella grunden

Under veckorna före G7-mötet formulerade Hassabis en bredare bild av varför internationell AI-styrning behövs. I ett samtal med Stanforduniversitetets rektor Jonathan Levin i maj 2026 beskrev han den nuvarande AI-utvecklingen som en ”övergång på artnivå”. Han varnade för att mänskligheten har ”litet utrymme för misstag” under det kommande årtiondet ^S.

Vid ett separat arrangemang vid Stanford Graduate School of Business den 18 juni sade Hassabis att vi befinner oss vid ”singularitetens foten” och att det är vår tids viktigaste utmaning att bygga artificiell generell intelligens, AGI, på ett säkert sätt ^GS.

Framträdandena ingick i en bredare offentlig kampanj under 2026, med framträdanden bland annat i Davos, vid Google I/O och på India AI Impact Summit ^IYBB. Budskapet var konsekvent: AI:s utveckling går snabbt, riskerna kräver mer forskning och internationell samordning är nödvändig.

Trumps presidentorder: ett frivilligt amerikanskt förstadium

Den 2 juni 2026, två veckor före G7-mötet, undertecknade president Trump presidentorder 14409, ”Promoting Advanced Artificial Intelligence Innovation and Security” ^WN.

Ordern ber AI-utvecklare att frivilligt lämna in nya avancerade modeller till den federala regeringen för en säkerhetsgranskning. Myndigheterna skulle kunna använda upp till 30 dagar för att bedöma risker före en offentlig lansering ^WN.

Det är en viktig skillnad mot Hassabis vision: Trumps modell är frivillig och begränsad till USA. Den ger alltså inte regeringen en generell, obligatorisk rätt att stoppa alla riskfyllda modeller. Kritiker har påpekat att ordern inte kräver att den federala regeringen genomför säkerhetsutvärderingar och cybersäkerhetstester av avancerade AI-produkter ^U.

Ordern instruerar också federala myndigheter att skapa ett ”AI-cybersäkerhetsclearinghouse” och att prioritera tillämpningen av befintliga strafflagar mot cyberangrepp där AI används ^SLU. Vita huset beskrev åtgärden som ett steg från en helt avvaktande hållning mot mer aktiv riskgranskning ^N.

FN:s vetenskapliga panel har en annan roll

FN arbetar samtidigt med en oberoende internationell vetenskaplig panel för AI, IISP-AI. Den är tänkt att utformas med FN:s klimatpanel, IPCC, som förebild och ta fram auktoritativa vetenskapliga bedömningar av AI:s förmågor och risker.

Panelen är i första hand rådgivande. Den skulle bidra med vetenskapligt underlag för politiska beslut, men inte själv ha befogenhet att granska en specifik modell inför lansering eller lägga in veto mot den.

Skillnaden mot Hassabis förslag är därför tydlig: FN-modellen handlar om vetenskaplig samsyn och rådgivning, medan Hassabis efterlyser ett tekniskt organ med operativa befogenheter att pausa en lansering. Det skapar en grundläggande konflikt mellan en inkluderande, multilateral FN-modell och ett USA-lett organ med möjlighet att ingripa direkt.

Kommer organet att komplettera eller konkurrera?

Det är den centrala olösta frågan i dagens AI-styrning ^AGB.

Argumentet för att komplettera befintliga system

Hassabis organ skulle kunna fungera som ett tekniskt lager ovanpå nationella och internationella regelverk. Det skulle kunna ta fram en gemensam standard som G7:s Trusted Partners-system, EU:s AI-förordning och FN:s vetenskapliga panel sedan hänvisar till.

I den modellen skulle organet inte ersätta politiska beslut. Det skulle i stället ge regeringar och institutioner bättre tekniska underlag och göra det lättare att jämföra riskbedömningar mellan länder. Brookings pekar just på skillnaderna mellan nationella tillsynssystem som det problem företagen försöker lösa ^B.

Argumentet för att det kan konkurrera

Ett USA-lett organ med pausbefogenhet skulle samtidigt kunna duplicera eller försvaga FN:s mer inkluderande modell. Kritiker befarar att en koalition av demokratiska allierade skulle kunna marginalisera FN-panelen, skapa ett tvådelat system för AI-styrning och ge USA-baserade AI-labb ett oproportionerligt inflytande över definitionen av ”farlig” AI ^A.

G7:s faktiska resultat pekar i samma riktning. Ledarna fokuserade på ett system för allierad tillgång till avancerade modeller, inte på en universell mekanism för att pausa riskfyllda modeller ^EAB.

En Bloomberg-genomgång av mötet sammanfattade att arbetslunchen om AI kanske visade mer av vad ledarna ännu inte förstår än vad de faktiskt var överens om ^Y.

Slutsats

Demis Hassabis förslag är ett av de mest konkreta initiativen från en AI-vd hittills för ett tekniskt, internationellt granskningsorgan med verkliga ingripandemöjligheter. Det skulle kunna granska avancerade modeller före lansering och i extrema fall trycka på en pausknapp ^AN.

Men förslaget saknar fortfarande politiskt mandat. Trumps amerikanska granskningssystem är frivilligt, G7:s initiativ bygger främst på samarbete och FN:s panel är rådgivande snarare än verkställande. Ingen gemensam lösning finns ännu för vem som ska övervaka AI-labben, vem som får stoppa en modell eller hur man undviker att AI-styrningen delas upp mellan konkurrerande geopolitiska block.