Ingen besto: Derfor stryker AI-gigantene på sikkerhet

Anthropic holdt førsteplassen for andre indeks på rad, men klarte igjen ikke å bryte ut av middelmådigheten ^TF.

De seks vurderingsområdene

Et uavhengig panel på syv KI- og styringseksperter vurderte hvert selskap etter 37 indikatorer fordelt på seks domener ^FF:

• Risikovurdering – 6 indikatorer som måler hvordan selskaper vurderer farlige egenskaper, som bio-risiko og cyberangrep.
• Pågående skader – 9 indikatorer som dokumenterer skader fra allerede utrullede systemer, inkludert skjevhet, feilinformasjon og personvernbrudd.
• Sikkerhetsrammeverk – 4 indikatorer som undersøker om selskaper har konkrete retningslinjer for testing før utrulling, red-teaming og ansvarlig lansering.
• Eksistensiell sikkerhet – 4 indikatorer som fokuserer på planer for kontroll av avanserte KI-systemer, inkludert AGI og superintelligens.
• Styring og ansvarliggjøring – 4 indikatorer som evaluerer styreoppsyn, retningslinjer for varsling og uavhengige revisjoner.
• Informasjonsdeling – 10 indikatorer som vurderer åpenhetsrapporter, ekstern forskertilgang og offentliggjøring av sikkerhetspraksis.

Ifølge rapporten skåret ingen selskaper over D i domenet for eksistensiell sikkerhet for andre indeks på rad ^FCY. Ekspertpanelet fant at ingen av de ni selskapene hadde en troverdig plan for kontroll av AGI eller superintelligens ^Y.

Derfor fikk xAI stryk – det største fallet

xAI falt fra 4. til 7. plass mellom vinter 2025- og sommer 2026-utgaven, den bratteste nedgangen blant alle vurderte selskaper ^TF. Poengsummen gikk fra 1,17 (D-nivå) til 0,65 (F-nivå) ^FL. Flere faktorer førte til kollapsen:

• Svikt i flere domener: xAI fikk F i både «Pågående skader» og «Eksistensiell sikkerhet», og nær strykkarakter i risikovurdering og sikkerhetsrammeverk ^FF.
• Ingen svar på spørreundersøkelse: xAI var blant selskapene som ikke deltok i instituttets undersøkelse, noe som begrenset panelenes mulighet til å vurdere interne praksiser ^T.
• Konkurrenter forbedret seg mens xAI sakket akterut: Meta klatret fra 6. til 4. plass i samme periode ^TF.
• Svak sammenligningsposisjon: Kun xAI, DeepSeek og Mistral fikk stryk, noe som plasserte xAI blant de lavest rangerte selskapene i indeksen ^TF.

Seks overordnede bekymringer rapporten tok opp

FLI-rapporten, og omtalen i Time, Axios og andre medier, identifiserte seks systemiske problemer ^T:

1. Bransjen trekker seg fra sikkerhetsløfter. Anthropic, OpenAI, Google DeepMind og Meta svekket eller fjernet tidligere forpliktelser om å stoppe utvikling hvis systemene nærmet seg spesifikke fareterskler. Rapporten kalte dette å «flytte målstolpene» ^AT.

2. Eksistensiell sikkerhet er fortsatt det svakeste området på tvers av alle selskaper. Ingen skåret over D i eksistensiell sikkerhet for andre indeks på rad ^TFY.

3. Frivillig sikkerhet eroderer før regulering kommer på plass. FLI-leder Max Tegmark advarte om at KI-selskaper «spenner mot et stup» mens de kappløper mot kunstig superintelligens, til tross for at de erkjenner store risikoer ^T.

4. Økende militær bruk av kommersiell KI. Selskaper som tidligere forbød militært arbeid – inkludert Anthropic, OpenAI og Google – har beveget seg mot militære partnerskap ^T.

5. Et fremvoksende globalt mønster av strykkarakterer. De tre strykkarakterene kom fra selskaper tilknyttet ulike regioner: xAI (USA), DeepSeek (Kina) og Mistral (Europa) ^TFF.

6. Evner løper fra sikkerhetstiltak. Rapportens utgivelse falt sammen med en FN-KI-konferanse i Genève, der FNs generalsekretær António Guterres advarte: «Vi kan være den siste generasjonen som kan sette premissene for sameksistensen mellom menneskeheten og maskiner» ^T.

Hva skjer nå?

FLI AI Safety Index publiseres to ganger i året, og fungerer som en jevnlig sjekk av om bransjen tetter de mest grunnleggende sikkerhetshullene. Vinterutgaven av 2026 vil vise om selskaper som xAI og DeepSeek kan snu den negative trenden – og om noen endelig klarer å bryte C+-taket.