Betyg per företag

Indexet betygsatte nio företag. Tabellen visar det sammanlagda bokstavsbetyget och den numeriska GPA-poängen för varje företag i sommarupplagan :

Anthropic toppade listan för andra gången i rad, men lyckades återigen inte ta sig ur medelmåttighetsfällan .

De sex områden som utvärderades

En oberoende panel med sju AI- och styrningsexperter bedömde varje företag utifrån 37 indikatorer, grupperade i sex domäner :

• Riskbedömning – 6 indikatorer om hur företagen utvärderar farliga förmågor, som biotekniska risker och cyberattackpotential.
• Aktuella skador – 9 indikatorer som mäter dokumenterade skador från system i drift, inklusive bias, desinformation och integritetsöverträdelser.
• Säkerhetsramverk – 4 indikatorer som granskar om företagen har konkreta policyer för testning före lansering, red-teaming och ansvarsfull publicering.
• Existensiell säkerhet – 4 indikatorer med fokus på planer för att kontrollera avancerade AI-system, inklusive AGI och superintelligens.
• Styrning och ansvarsskyldighet – 4 indikatorer om styrelsens tillsyn, visselblåsarpolicyer och oberoende revisioner.
• Informationsdelning – 10 indikatorer som utvärderar transparensrapporter, extern forskartillgång och offentlig redovisning av säkerhetsarbete.

Enligt rapporten fick inget företag högre betyg än D i domänen existentiell säkerhet för andra indexet i rad . Expertpanelen konstaterade att inget av de nio företagen hade en trovärdig plan för att kontrollera AGI eller superintelligens .

Därför fick xAI underkänt – den kraftigaste nedgången

xAI föll från 4:e till 7:e plats mellan vinterupplagan 2025 och sommarupplagan 2026 – den brantaste nedgången bland alla utvärderade företag . Poängen sjönk från 1,17 (D-nivå) till 0,65 (F-nivå) . Flera faktorer låg bakom fallet:

• Underkänt i flera domäner: xAI fick F i både ”Aktuella skador” och ”Existensiell säkerhet”, samt nära underkänt i riskbedömning och säkerhetsramverk .
• Inget enkätsvar: xAI var ett av de företag som inte deltog i institutets enkät, vilket begränsade granskarnas möjlighet att bedöma interna rutiner .
• Konkurrenter förbättrades medan xAI backade: Meta klättrade från 6:e till 4:e plats under samma period .
• Svag jämförande ställning: Endast xAI, DeepSeek och Mistral fick underkänt, vilket placerade xAI bland de lägst rankade företagen i indexet .

Sex breda farhågor som rapporten väcker

FLI-rapporten och bevakningen i Time, Axios och andra medier pekar på sex systemproblem :

1. Branschen backar från säkerhetslöften. Anthropic, OpenAI, Google DeepMind och Meta har försvagat eller helt tagit bort tidigare åtaganden om att pausa utvecklingen om deras system närmade sig specificerade farströsklar. Rapporten beskriver det som att ”flytta målstolparna” .

2. Existensiell säkerhet är fortfarande den svagaste kategorin för alla företag. Inget företag fick högre betyg än D i existentiell säkerhet för andra indexet i rad .

3. Frivillig säkerhet urholkas innan reglering hinner ikapp. FLI:s ordförande Max Tegmark varnade för att AI-företagen ”springer mot en klippa” samtidigt som de tävlar mot artificiell superintelligens, trots att de erkänner stora risker .

4. Växande militär användning av kommersiell AI. Företag som tidigare brett förbjöd militärt arbete – inklusive Anthropic, OpenAI och Google – har börjat ingå militära partnerskap .

5. Ett globalt mönster av underkända betyg. De tre underkända betygen kom från företag i olika regioner: xAI (USA), DeepSeek (Kina) och Mistral (Europa) .

6. Förmågor ökar snabbare än skyddet. Rapporten publicerades i samband med en FN-konferens om AI i Genève, där FN:s generalsekreterare António Guterres varnade: ”Vi kan vara den sista generationen som kan bestämma villkoren för hur mänsklighet och maskiner samexisterar” .

Vad händer härnäst?

FLI:s AI Safety Index publiceras två gånger om året och fungerar som en regelbunden temperaturmätning på branschens säkerhetsarbete. Vinterupplagan 2026 får visa om företag som xAI och DeepSeek kan vända den nedåtgående trenden – och om något företag äntligen lyckas bryta C+-taket.

Betyg per företag

Indexet betygsatte nio företag. Tabellen visar det sammanlagda bokstavsbetyget och den numeriska GPA-poängen för varje företag i sommarupplagan :

Anthropic toppade listan för andra gången i rad, men lyckades återigen inte ta sig ur medelmåttighetsfällan .

De sex områden som utvärderades

En oberoende panel med sju AI- och styrningsexperter bedömde varje företag utifrån 37 indikatorer, grupperade i sex domäner :

• Riskbedömning – 6 indikatorer om hur företagen utvärderar farliga förmågor, som biotekniska risker och cyberattackpotential.
• Aktuella skador – 9 indikatorer som mäter dokumenterade skador från system i drift, inklusive bias, desinformation och integritetsöverträdelser.
• Säkerhetsramverk – 4 indikatorer som granskar om företagen har konkreta policyer för testning före lansering, red-teaming och ansvarsfull publicering.
• Existensiell säkerhet – 4 indikatorer med fokus på planer för att kontrollera avancerade AI-system, inklusive AGI och superintelligens.
• Styrning och ansvarsskyldighet – 4 indikatorer om styrelsens tillsyn, visselblåsarpolicyer och oberoende revisioner.
• Informationsdelning – 10 indikatorer som utvärderar transparensrapporter, extern forskartillgång och offentlig redovisning av säkerhetsarbete.

Enligt rapporten fick inget företag högre betyg än D i domänen existentiell säkerhet för andra indexet i rad . Expertpanelen konstaterade att inget av de nio företagen hade en trovärdig plan för att kontrollera AGI eller superintelligens .

Därför fick xAI underkänt – den kraftigaste nedgången

xAI föll från 4:e till 7:e plats mellan vinterupplagan 2025 och sommarupplagan 2026 – den brantaste nedgången bland alla utvärderade företag . Poängen sjönk från 1,17 (D-nivå) till 0,65 (F-nivå) . Flera faktorer låg bakom fallet:

• Underkänt i flera domäner: xAI fick F i både ”Aktuella skador” och ”Existensiell säkerhet”, samt nära underkänt i riskbedömning och säkerhetsramverk .
• Inget enkätsvar: xAI var ett av de företag som inte deltog i institutets enkät, vilket begränsade granskarnas möjlighet att bedöma interna rutiner .
• Konkurrenter förbättrades medan xAI backade: Meta klättrade från 6:e till 4:e plats under samma period .
• Svag jämförande ställning: Endast xAI, DeepSeek och Mistral fick underkänt, vilket placerade xAI bland de lägst rankade företagen i indexet .

Sex breda farhågor som rapporten väcker

FLI-rapporten och bevakningen i Time, Axios och andra medier pekar på sex systemproblem :

1. Branschen backar från säkerhetslöften. Anthropic, OpenAI, Google DeepMind och Meta har försvagat eller helt tagit bort tidigare åtaganden om att pausa utvecklingen om deras system närmade sig specificerade farströsklar. Rapporten beskriver det som att ”flytta målstolparna” .

2. Existensiell säkerhet är fortfarande den svagaste kategorin för alla företag. Inget företag fick högre betyg än D i existentiell säkerhet för andra indexet i rad .

3. Frivillig säkerhet urholkas innan reglering hinner ikapp. FLI:s ordförande Max Tegmark varnade för att AI-företagen ”springer mot en klippa” samtidigt som de tävlar mot artificiell superintelligens, trots att de erkänner stora risker .

4. Växande militär användning av kommersiell AI. Företag som tidigare brett förbjöd militärt arbete – inklusive Anthropic, OpenAI och Google – har börjat ingå militära partnerskap .

5. Ett globalt mönster av underkända betyg. De tre underkända betygen kom från företag i olika regioner: xAI (USA), DeepSeek (Kina) och Mistral (Europa) .

6. Förmågor ökar snabbare än skyddet. Rapporten publicerades i samband med en FN-konferens om AI i Genève, där FN:s generalsekreterare António Guterres varnade: ”Vi kan vara den sista generationen som kan bestämma villkoren för hur mänsklighet och maskiner samexisterar” .

Vad händer härnäst?

FLI:s AI Safety Index publiceras två gånger om året och fungerar som en regelbunden temperaturmätning på branschens säkerhetsarbete. Vinterupplagan 2026 får visa om företag som xAI och DeepSeek kan vända den nedåtgående trenden – och om något företag äntligen lyckas bryta C+-taket.