Rapportcijfers AI-veiligheid: géén enkel bedrijf scoort hoger dan een C+

Anthropic eindigde voor de tweede keer op rij op de eerste plaats, maar wist opnieuw niet uit te stijgen boven een matige C+ .

De zes beoordeelde domeinen

Een onafhankelijk panel van zeven AI- en governance-experts beoordeelde elk bedrijf op 37 indicatoren, verdeeld over zes domeinen :

• Risicobeoordeling – 6 indicatoren die meten hoe bedrijven gevaarlijke capaciteiten evalueren, zoals biologische risico's en cyberaanvalpotentieel.
• Huidige schade – 9 indicatoren die gedocumenteerde schade door gebruikte systemen meten, waaronder vooroordelen, desinformatie en privacyschendingen.
• Veiligheidskaders – 4 indicatoren die onderzoeken of bedrijven concreet beleid hebben voor pre-deployment tests, 'red-teaming' en verantwoorde uitrol.
• Existentiële veiligheid – 4 indicatoren gericht op plannen om geavanceerde AI-systemen onder controle te houden, waaronder AGI en superintelligentie.
• Governance en verantwoordingsplicht – 4 indicatoren die toezicht door de raad van bestuur, klokkenluidersbeleid en onafhankelijke audits evalueren.
• Informatiedeling – 10 indicatoren die transparantierapporten, toegang voor externe onderzoekers en openbaarmaking van veiligheidspraktijken beoordelen.

Volgens het rapport scoorde geen enkel bedrijf hoger dan een D op het domein existentiële veiligheid voor de tweede opeenvolgende editie . Het expertpanel oordeelde dat geen van de negen bedrijven een geloofwaardig plan had voor het beheersen van AGI of superintelligentie .

Waarom xAI een F kreeg – de grootste daling

xAI daalde van de 4e naar de 7e plaats tussen de Winter 2025- en Zomer 2026-edities, de grootste daling van alle beoordeelde bedrijven . De score daalde van 1,17 (D-niveau) naar 0,65 (F-niveau) . Meerdere factoren veroorzaakten deze instorting:

• Gefaald op meerdere domeinen: xAI kreeg een F op zowel 'Huidige schade' als 'Existentiële veiligheid', en bijna onvoldoendes op risicobeoordeling en veiligheidskaders .
• Geen enquêterespons: xAI was een van de bedrijven die niet deelnamen aan de enquête van het instituut, waardoor beoordelaars minder inzicht hadden in interne praktijken .
• Concurrenten verbeterden, xAI verslechterde: Meta steeg van de 6e naar de 4e plaats in dezelfde periode .
• Zwakke relatieve positie: Alleen xAI, DeepSeek en Mistral kregen een F, waarmee xAI tot de laagst scorende bedrijven behoorde .

Zes bredere zorgen uit het rapport

Het FLI-rapport en de berichtgeving erover door onder meer Time en Axios identificeerden zes systemische problemen :

1. Terugtrekking uit veiligheidsbeloftes. Anthropic, OpenAI, Google DeepMind en Meta verzwakten of schaften eerdere beloftes af om de ontwikkeling te pauzeren als hun systemen bepaalde gevarendrempels bereikten. Het rapport sprak van 'het verplaatsen van de doelpalen' .

2. Existentiële veiligheid blijft de zwakste categorie bij alle bedrijven. Geen enkel bedrijf scoorde hoger dan een D op existentiële veiligheid voor de tweede opeenvolgende index .

3. Vrijwillige veiligheid brokkelt af voordat regelgeving arriveert. FLI-voorzitter Max Tegmark waarschuwde dat AI-bedrijven 'als een speer op een klif afstevenen' terwijl ze racen naar kunstmatige superintelligentie, ondanks dat ze grote risico's erkennen .

4. Groeiend militair gebruik van commerciële AI. Bedrijven die ooit militair werk breed verboden – waaronder Anthropic, OpenAI en Google – zijn militaire samenwerkingen aangegaan .

5. Een opkomend wereldwijd patroon van onvoldoendes. De drie onvoldoendes kwamen van bedrijven uit verschillende regio's: xAI (VS), DeepSeek (China) en Mistral (Europa) .

6. Capaciteit overtreft waarborgen. De publicatie van het rapport viel samen met een VN-AI-conferentie in Genève, waar VN-secretaris-generaal António Guterres waarschuwde: 'Wij zijn misschien de laatste generatie die de voorwaarden kan stellen waarop mensheid en machines samenleven' .

Vooruitblik

De FLI AI Safety Index wordt twee keer per jaar gepubliceerd en fungeert als een regelmatige controle of de industrie de meest basale veiligheidslekken aanpakt. De Winter 2026-editie zal uitwijzen of bedrijven als xAI en DeepSeek hun dalende trend kunnen ombuigen – en of een bedrijf eindelijk de C+-grens doorbreekt.