FLI AI Safety Index Sommer 2026: Her er karaktererne til Anthropic, OpenAI, xAI, DeepSeek og alle andre førende AI-virksomheder

Anthropic lå nummer et for anden gang i træk, men nåede igen ikke over middelmådighedens grænse .

De seks vurderingsområder

Et uafhængigt panel bestående af syv AI- og governance-eksperter vurderede hver virksomhed ud fra 37 indikatorer fordelt på seks områder :

• Risikovurdering – 6 indikatorer, der dækker, hvordan virksomheder vurderer farlige egenskaber som bio-risiko og cyber-angrebspotentiale.
• Aktuelle skader – 9 indikatorer, der måler dokumenterede skader fra udrullede systemer, herunder bias, misinformation og krænkelser af privatlivets fred.
• Sikkerhedsrammer – 4 indikatorer, der undersøger, om virksomheder har konkrete politikker for test før udrulning, red-teaming og ansvarlig lancering.
• Eksistentiel sikkerhed – 4 indikatorer, der fokuserer på planer for at kontrollere avancerede AI-systemer, herunder AGI og superintelligens.
• Governance og ansvarlighed – 4 indikatorer, der vurderer bestyrelsestilsyn, whistleblower-politikker og uafhængige revisioner.
• Informationsdeling – 10 indikatorer, der vurderer transparensrapporter, ekstern forskeradgang og offentliggørelse af sikkerhedspraksis.

Ingen virksomhed scorede over D inden for eksistentiel sikkerhed for anden gang i træk . Ekspertpanelet fandt, at ingen af de ni virksomheder havde en troværdig plan for at kontrollere AGI eller superintelligens .

Hvorfor xAI fik en F – det største fald

xAI faldt fra en 4. plads til en 7. plads mellem vinteren 2025 og sommeren 2026 – det stejleste fald blandt alle vurderede virksomheder . Score'n gik fra 1,17 (D-niveau) til 0,65 (F-niveau) . Flere faktorer lå bag:

• Dumpet på flere områder: xAI fik F i både "Aktuelle skader" og "Eksistentiel sikkerhed" og nær-dumpede i risikovurdering og sikkerhedsrammer .
• Ingen spørgeskemabesvarelse: xAI var blandt de virksomheder, der ikke deltog i instituttets undersøgelse, hvilket begrænsede panelernes mulighed for at vurdere interne praksisser .
• Konkurrenter forbedrede sig: Meta rykkede fra en 6. til en 4. plads i samme periode .
• Svag sammenlignelig placering: Kun xAI, DeepSeek og Mistral fik samlede dumpede karakterer, hvilket placerede xAI blandt de lavest vurderede .

Seks systemiske bekymringer fra rapporten

FLI-rapporten og dækningen i Time, Axios og andre medier pegede på seks systemiske problemer :

1. Branchen trækker sig fra sikkerhedsforpligtelser. Anthropic, OpenAI, Google DeepMind og Meta svækkede eller fjernede tidligere løfter om at sætte udviklingen på pause, hvis deres systemer nærmede sig bestemte faregrænser. Rapporten kaldte det at "flytte målstregen" .

2. Eksistentiel sikkerhed er fortsat det svageste område på tværs af alle virksomheder. Ingen scorede over D i eksistentiel sikkerhed for anden gang i træk .

3. Frivillig sikkerhed eroderer, før reguleringen kommer. FLI's formand Max Tegmark advarede om, at AI-virksomheder "spæner mod en afgrund" i kapløbet mod kunstig superintelligens, selvom de anerkender store risici .

4. Voksende militær brug af kommerciel AI. Virksomheder, der tidligere bredt forbød militært arbejde – herunder Anthropic, OpenAI og Google – har bevæget sig mod militære partnerskaber .

5. Et fremvoksende globalt mønster af dumpede karakterer. De tre dumpede karakterer kom fra virksomheder i hver sin region: xAI (USA), DeepSeek (Kina) og Mistral (Europa) .

6. Evner overhaler sikkerhedsforanstaltninger. Rapportens udgivelse faldt sammen med en FN AI-konference i Genève, hvor FN's generalsekretær António Guterres advarede: "Vi kan være den sidste generation, der kan fastsætte vilkårene for, hvordan menneskehed og maskiner sameksisterer" .

Hvad vi skal holde øje med næste gang

FLI AI Safety Index udkommer to gange om året og fungerer som en regelmæssig temperaturmåling på, om branchen adresserer sine mest basale sikkerhedshuller. Vinterudgaven 2026 vil vise, om virksomheder som xAI og DeepSeek kan vende den negative udvikling – og om nogen virksomhed endelig kan bryde C+-loftet.