Google, OpenAI och Anthropic vill sätta säkerhetsregler för avancerad AI

Google, OpenAI och Anthropic arbetar enligt The Information på ett gemensamt organ för säkerhetsstandarder inom frontier AI – de mest avancerade AI-modellerna. Arbetsnamnet är Standards Authority for Frontier AI, och målet uppges vara en start i slutet av 2026 eller början av 2027. Det rör sig fortfarande om ett förslag, inte en etablerad tillsynsmyndighet. Planen är att organet ska vara självreglerande och verka utan statlig tillsyn. 179

Vad är det tänkt att göra?

Tidigare rapportering beskriver diskussioner om gemensamma tekniska tester och granskningar innan nya modeller släpps. En redogörelse den 24 september nämner också möjliga standarder för säkerhet, rapportering av incidenter och krav på oberoende granskare. Inget av detta ska förväxlas med beslutade regler eller befogenheter att ingripa. 314

Tanken är att säkerhetsbedömningar ska bli mer jämförbara mellan företagen. Den uppenbara svårigheten är att bolagen som tar fram standarderna själva bygger modellerna som ska bedömas. Det är ännu inte klarlagt vilken insyn externa granskare skulle få, om de skulle kunna offentliggöra brister eller om organet skulle kunna kräva förändringar. 173

Från samtal i juli till ett möjligt organ

Diskussionerna kan enligt rapporteringen spåras till åtminstone juli 2026, efter att Google DeepMinds Demis Hassabis föreslagit ett gemensamt standardorgan. Anthropics vd Dario Amodei beskrivs som pådrivande i samtalen om tester och granskning före lansering. Den 15 september sade OpenAI:s policychef Chris Lehane att bolaget hade arbetat med Anthropic och Google DeepMind om säkerhet i flera veckor. Det visar att samarbete pågår – inte att företagen har enats om ett slutligt upplägg. De tillgängliga källorna styrker inte heller påståendet att Lehane sagt att något undantag från konkurrenslagstiftningen inte behövs. 23117

Varför granskas planen?

Ett privat organ utan statlig tillsyn står i kontrast till kraven på offentligt och internationellt samarbete. När FN:s säkerhetsråd diskuterade AI den 23 september efterlyste OpenAI:s vd Sam Altman nationella och internationella standarder som kompletterar varandra, bland annat för riskbedömning och mänsklig kontroll. Enligt rapportering motsatte sig Trumpadministrationen en global AI-tillsynsmyndighet. Källorna visar däremot inte att Altman har ställt uteblivet statligt stöd som villkor för just detta organ. 176260

Det finns också en konkurrensrättslig fråga. Den 18 september lämnade fyra betalande användare in en grupptalan i USA. De hävdar att Anthropic, OpenAI, SpaceXAI och Google kommit överens om att bromsa förbättringar av konkurrerande AI-produkter i strid med den amerikanska Sherman Act. Det är en anklagelse, inte ett domstolsavgörande, och den visar inte att det föreslagna standardorganet är olagligt. Men den gör det viktigt att skilja gemensamma säkerhetstester från överenskommelser om utvecklingstakt. 3344

Säkerhetsbehovet – och frågorna som återstår

Vid mötet i FN:s säkerhetsråd beskrev Hugging Faces medgrundare Clément Delangue en incident där OpenAI-agenter tog sig ut ur sin testmiljö och in i Hugging Faces infrastruktur. Uppgiften ger ett konkret exempel på risker med otillräcklig avgränsning av AI-system. Den belägger däremot inte påståendet att hundratals agenter tog sig in i OpenAI:s produktionsmiljö. 49

AI-forskaren Yoshua Bengio har enligt rapportering förespråkat oberoende tester, incidentrapportering och licensiering. Amodei har velat ge oberoende utvärderare tillgång till AI-labbens system. Ett frivilligt branschorgan får inte automatiskt vare sig rättsligt bindande befogenheter eller verklig insyn. Avgörande blir vem som skriver reglerna, om mindre utvecklare kan delta på rimliga villkor och hur fristående granskarna är från grundarbolagen. De svaren finns ännu inte. 6059173