Vad vet vi om det föreslagna organet för AI-säkerhetsstandarder?

Det finns tydliga tecken på att Anthropic, OpenAI och Google DeepMind närmar sig varandra i en grundfråga: de mest kapabla AI-modellerna bör granskas av andra än företagen själva innan de släpps. Däremot finns inget offentligt belägg för att bolagen redan har skapat en gemensam tillsynsmyndighet – eller enats om bindande tester, full revisionsinsyn, spärrar för lansering eller sanktioner. 811

Det är en avgörande skillnad. Enighet om att tester behövs är inte samma sak som en institution som kan kräva dem och stoppa en lansering.

Förslaget i korthet

Enligt rapporteringen har bolagen hållit arbetsgruppsmöten sedan juli 2026 om ett branschlett standardorgan för så kallad frontier AI, alltså de mest avancerade modellerna. Tanken verkar vara ett gemensamt system för att bedöma farliga förmågor innan modeller görs offentliga – särskilt risker kopplade till cyberangrepp, biologiskt missbruk, vilseledning och annan användning med stor skaderisk. 811

Google DeepMinds vd Demis Hassabis har presenterat den tydligaste modellen för hur ett sådant organ skulle kunna fungera: ett USA-lett Frontier AI Standards Body, inspirerat av FINRA, den amerikanska finansbranschens självregleringsorganisation. I hans upplägg skulle organet finansieras av industrin men stå under federal tillsyn och testa avancerade modeller före lansering. Först skulle deltagandet vara frivilligt; först när testmetoden visat sig fungera skulle granskningen kunna bli ett krav. 9

Men det offentliga underlaget visar ännu inte att laboratorierna är överens om detaljerna som avgör om systemet faktiskt blir verkningsfullt:

• vilka modeller som måste granskas,
• vilka tekniska tester som ska vara obligatoriska,
• hur mycket insyn externa granskare får,
• vilka resultat som ska stoppa, skjuta upp eller villkora en lansering,
• hur organet ska finansieras och styras,
• hur granskarnas oberoende från bolagen ska säkras, och
• vilken statlig tillsyn och vilka rättsliga skydd som ska gälla.

Att beskriva initiativet som en fungerande gemensam regulator vore därför att gå längre än vad bevisen stödjer.

Där bolagen tycks vara överens

Den tydligaste samsynen gäller oberoende tester före lansering. Axios rapporterade i juli att Dario Amodei, Sam Altman och Demis Hassabis i stora drag stödde extern granskning av frontier-modeller innan de når allmänheten, i stället för att främst luta sig mot bolagens egna redovisningar. 8

Det är betydelsefullt, eftersom säkerheten inte bara beror på att utvecklarna gör egna tester. Externa parter måste också kunna återskapa, kontrollera och ifrågasätta resultaten. För att ett sådant system ska vara trovärdigt krävs tydliga testmetoder, tillförlitlig åtkomst till systemen och förutbestämda följder när en modell passerar en riskgräns.

De tre bolagen beskriver också frågan som internationell. En ensidig amerikansk inbromsning kan vara politiskt svår om konkurrenter i andra länder inte omfattas av jämförbara begränsningar. Hassabis modell är uttryckligen USA-ledd, medan Amodei har argumenterat för att nationella skyddsåtgärder inte ensamma kan hantera teknik som kan användas globalt. 91

Den stora skiljelinjen: frivilligt eller bindande?

Bakom det gemensamma säkerhetsspråket finns en mer grundläggande konflikt: ska detta främst vara ett frivilligt branschsystem, ett system med statligt stöd eller en regulator med verklig makt?

DeepMinds förslag bygger på branschfinansiering under federal tillsyn. Det skulle börja frivilligt, med möjligheten att en godkänd granskning senare blir en förutsättning för att få lansera en modell. 9

Amodei fokuserar i stället på oberoende utvärderare som arbetar inne i frontier-laboratorierna, med åtkomst som liknar anställdas. Han vill också att bolag i demokratier samordnar standarder med statligt stöd där det behövs. 12

Rapporteringen om arbetsgruppsmötena beskriver OpenAI som öppet för att branschen agerar utan att invänta ett komplett statligt regelverk. 11 OpenAI-chefen Sam Altman har dessutom offentligt ställt sig bakom oberoende utvärderare med anställdas åtkomst efter Amodeis essä.

Skillnaderna är inte bara retoriska. Frivilliga överenskommelser kan införas snabbt och skapa gemensamma tekniska arbetssätt. Men utan oberoende styrning och offentlig auktoritet kan de ha svårt att tvinga fram insyn, lösa tvister, hantera intressekonflikter eller hindra ett företag från att släppa en modell som inte klarar säkerhetsgranskningen.

Frontier Model Forum är inte bevis på en ny regulator

Frontier Model Forum finns redan som ett branschorgan med stora AI-företag. Dess uttalade mål är bland annat att driva säkerhetsforskning, utveckla utvärderingar och bästa praxis samt dela information med beslutsfattare och näringsliv.

Det gör forumet till en möjlig plattform för samordning. Men dess existens bevisar inte att ett nytt oberoende organ har startats eller att något bindande system för granskning mellan bolag finns på plats. Den avgörande frågan är om bolagen skapar en aktör som bara tar fram vägledning – eller en som kan bedöma modeller självständigt och ställa meningsfulla villkor för lansering.

Amodeis essä satte fart på debatten

Den 12 september publicerade Anthropics vd Dario Amodei den omkring 3 800 ord långa essän We Must Pace the Frontier. Hans budskap var att utvecklingen av AI-modellernas kapacitet bör gå långsammare, så att säkerhetsarbetet hinner med. 52

Amodei varnade för att en mer kapabel svärm av automatiserade AI-agenter inom sex till tolv månader potentiellt skulle kunna ta över internet. Det är viktigt att förstå detta som en prognos och riskvarning, inte som ett fastställt tekniskt resultat. 513

Hans förslag består av tre delar:

1. Oberoende utvärderare ska arbeta inne i frontier-laboratorierna med åtkomst på nivå med anställda, för att testa system, identifiera säkerhetsbrister och granska efterlevnaden. 12
2. AI-bolag i demokratier ska samordna gemensamma säkerhetsstandarder och begränsningar, med statligt stöd där det krävs. 216
3. Bredare internationell samordning ska eftersträvas, även med auktoritära regeringar, eftersom avancerade modeller och deras risker kan användas över hela världen. 115

Anthropic har sagt att externa utvärderare ska få permanent åtkomst på nivå med anställda. Det är ett starkare åtagande än ett enstaka test från en extern konsult. Men trovärdigheten avgörs i praktiken av vem som väljer utvärderarna, vad de får granska, om de får publicera sina resultat och vad som händer om de bedömer en risk som oacceptabel. 122

Förtroendefrågan

Kritikernas huvudinvändning är enkel: företagen som tävlar om att bygga de mest kapabla systemen kan samtidigt vara med och skriva, administrera och tolka reglerna för dem.

Ett säkerhetsorgan skulle framstå som mer trovärdigt med oberoende teknisk ledning, öppna utvärderingsmetoder, skydd mot bolagspåverkan, meningsfull statlig tillsyn och tydliga befogenheter när ett test underkänns. Utan sådana delar kan gemensamma standarder visserligen förbättra arbetssätt, men ändå falla kort om verkligt oberoende ansvarsutkrävande.

Future of Life Institutes AI Safety Index för sommaren 2026 visar varför skepsisen består. Anthropic fick betyget C+, OpenAI C och Google DeepMind C. Inget av de granskade laboratorierna fick högre än C+. 17

Senator Bernie Sanders ansåg att en långsammare takt inte räckte. Han efterlyste i stället en paus i utvecklingen av avancerad AI och ett förbud mot artificiell superintelligens. Det är en betydligt hårdare linje än bolagens förslag, men den synliggör avståndet mellan frivillig återhållsamhet och regler som faktiskt kan tvingas igenom.

Det här avgör vad förslaget blir

Nästa viktiga signal är inte ännu en principförklaring, utan konkreta institutionella åtaganden:

• en offentlig styrningsstadga,
• namngivna och oberoende utvärderare,
• standardiserade tester av kapacitet och missbruksrisker,
• regler för revisionsinsyn och offentliggörande,
• trösklar för lansering och krav på åtgärder, samt
• ett klart besked om en säkerhetsbedömning kan fördröja eller stoppa en lansering.

Just nu stödjer underlaget en mer begränsad slutsats: ledande frontier-laboratorier diskuterar gemensam säkerhetsinfrastruktur och ställer sig allt tydligare bakom externa tester. Om det resulterar i ett oberoende organ med möjlighet att genomdriva regler – eller bara ett frivilligt branschforum – är fortfarande oklart. 8911