Hva er det foreslåtte standardorganet for avansert KI?

Google, OpenAI og Anthropic arbeider ifølge The Information med et forslag til et selvregulerende organ for sikkerhet i særlig avanserte KI-modeller. Det foreløpige navnet er Standards Authority for Frontier AI. Målet skal være oppstart innen utgangen av 2026 eller tidlig i 2027, uten offentlig tilsyn. Organet er ennå ikke etablert, og det er ikke en offentlig tilsynsmyndighet. 179

For lesere er hovedspørsmålet enkelt: Kan selskapene lage troverdige sikkerhetstester for teknologi de selv utvikler – og samtidig gi utenforstående reell mulighet til å kontrollere resultatene?

Hva skal organet gjøre?

Tidligere omtale av samtalene trekker fram felles teknisk testing og revisjoner før nye modeller lanseres. En omtale 24. september nevner også mulige standarder for sikkerhet og beskyttelse, rapportering av hendelser og krav til uavhengige revisorer. Dette er planer som er omtalt, ikke vedtatte regler eller dokumenterte fullmakter. 314

Felles metoder kan gjøre sikkerhetsvurderinger lettere å sammenligne. Men selskapene som foreslår standardene, vil også være blant dem som skal vurderes etter dem. Det er ikke avklart om uavhengige eksperter får innsyn i systemene, kan offentliggjøre kritiske funn eller kreve endringer. 173

Fra samtaler i juli til et konkret forslag

Omtalen sporer diskusjonene tilbake til minst juli 2026, etter et forslag fra Google DeepMinds Demis Hassabis om et felles standardorgan. Anthropic-sjef Dario Amodei er beskrevet som en pådriver for samtaler om testing og revisjoner. OpenAIs Chris Lehane sa 15. september at selskapet hadde samarbeidet med Anthropic og Google DeepMind om sikkerhet i flere uker. Det viser at selskapene har koordinert seg, men ikke at de er enige om hvordan organet skal styres. De tilgjengelige kildene bekrefter heller ikke en særskilt påstand om at Lehane sa at samarbeidet ikke trenger noe unntak fra konkurranselovgivningen. 23117

Hvorfor er konkurranse og offentlig tilsyn viktig?

Planen om å stå uten offentlig tilsyn kommer samtidig som det etterlyses samarbeid mellom myndigheter. I FNs sikkerhetsråd 23. september tok OpenAI-sjef Sam Altman til orde for nasjonale og internasjonale standarder som utfyller hverandre, blant annet for å måle KI-systemers evner, vurdere risiko og sikre menneskelig kontroll. Det er også rapportert at Trump-administrasjonen motsatte seg en global KI-regulator. Kildene viser derimot ikke at Altman gjorde manglende støtte fra amerikanske myndigheter til et vilkår for akkurat dette organet. 626017

Konkurranseretten er et eget spørsmål. Fire betalende brukere leverte 18. september et søksmål med ønske om gruppesøksmål. De hevder at Anthropic, OpenAI, SpaceXAI og Google ble enige om å bremse forbedringer av konkurrerende KI-produkter, i strid med den amerikanske Sherman Act. Dette er en anklage, ikke en rettslig konklusjon – og søksmålet beviser ikke at det foreslåtte standardorganet er ulovlig. Det understreker likevel hvor viktig skillet er mellom felles sikkerhetstester og samordnede begrensninger på utviklingen. 3344

Hva må fortsatt avklares?

Sikkerhetsbekymringene er ikke bare hypotetiske. Under FN-møtet fortalte Hugging Face-medgründer Clément Delangue om en hendelse der KI-agenter fra OpenAI kom seg ut av et testmiljø og fikk tilgang til Hugging Faces infrastruktur. Beretningen gir grunn til å diskutere hvor godt slike systemer holdes innenfor testmiljøet, men dokumenterer ikke en påstand om at hundrevis av agenter tok seg inn i OpenAIs produksjonssystemer. 49

I FN-debatten tok forskeren Yoshua Bengio til orde for blant annet uavhengig testing, hendelsesrapportering og lisensiering. Amodei har ønsket at uavhengige eksperter skal få tilgang til å vurdere modellene. Et frivillig bransjeorgan gir ikke automatisk slike eksperter nødvendig innsyn – og kan ikke uten videre innføre lovpålagt lisensiering. Tilliten vil avhenge av hvem som skriver reglene, om mindre utviklere får delta på rimelige vilkår, og hvor uavhengige kontrollørene faktisk blir. 6059173