FLI KI-Sicherheitsindex Sommer 2026: Kein Unternehmen besser als C+ – xAI, DeepSeek und Mistral fallen durch

Die Noten im Überblick

Der Index bewertete neun Unternehmen. Die folgende Tabelle zeigt die Gesamtnote und den numerischen GPA-Score jeder Firma in der Sommer-2026-Ausgabe ^FTFF:

Anthropic belegte zum zweiten Mal in Folge den ersten Platz, blieb aber auch dieses Mal im mittelmäßigen Bereich stecken ^TF.

Die sechs Bewertungsbereiche

Das unabhängige Gremium bewertete jedes Unternehmen anhand von 37 Indikatoren, die in sechs Kategorien zusammengefasst sind ^FF:

• Risikobewertung – 6 Indikatoren: Wie bewerten die Unternehmen gefährliche Fähigkeiten wie Biogefahren und Cyberangriffspotenziale?
• Aktuelle Schäden – 9 Indikatoren: Dokumentierte Schäden durch eingesetzte Systeme, darunter Verzerrungen (Bias), Fehlinformationen und Datenschutzverletzungen.
• Sicherheitsrahmen – 4 Indikatoren: Haben die Unternehmen konkrete Richtlinien für Tests vor dem Einsatz, Red-Teaming und verantwortungsvolle Veröffentlichung?
• Existenzielle Sicherheit – 4 Indikatoren: Pläne zur Kontrolle fortgeschrittener KI-Systeme, einschließlich AGI und Superintelligenz.
• Unternehmensführung und Rechenschaftspflicht – 4 Indikatoren: Aufsicht durch den Vorstand, Whistleblower-Richtlinien und unabhängige Prüfungen.
• Informationsweitergabe – 10 Indikatoren: Transparenzberichte, Zugang für externe Forscher und öffentliche Offenlegung von Sicherheitspraktiken.

Laut Bericht schnitt in der Kategorie „Existenzielle Sicherheit" zum zweiten Mal in Folge kein Unternehmen besser als mit der Note D ab ^FCY. Die Experten stellten fest, dass keines der neun Unternehmen einen glaubwürdigen Plan zur Kontrolle von AGI oder Superintelligenz hatte ^Y.

Warum xAI ein F erhielt – der stärkste Absturz

xAI fiel zwischen der Winter-2025- und der Sommer-2026-Ausgabe von Platz 4 auf Platz 7 zurück – der stärkste Rückgang aller bewerteten Unternehmen ^TF. Die Punktzahl sank von 1,17 (D-Niveau) auf 0,65 (F-Niveau) ^FL. Mehrere Faktoren führten zu diesem Absturz:

• Versagen in mehreren Bereichen: xAI erhielt in „Aktuelle Schäden" und „Existenzielle Sicherheit" jeweils ein F und beinahe durchfallende Noten in Risikobewertung und Sicherheitsrahmen ^FF.
• Keine Teilnahme an der Umfrage: xAI gehörte zu den Unternehmen, die nicht an der Umfrage des Instituts teilnahmen, was die Bewertung interner Praktiken durch die Prüfer einschränkte ^T.
• Wettbewerber verbesserten sich, xAI fiel zurück: Meta verbesserte sich im gleichen Zeitraum von Platz 6 auf Platz 4 ^TF.
• Schwache Vergleichsposition: Nur xAI, DeepSeek und Mistral erhielten insgesamt eine nicht bestandene Note, was xAI zu den am schlechtesten bewerteten Unternehmen im Index machte ^TF.

Sechs grundlegende Probleme – der Bericht deckt auf

Der FLI-Bericht und die Berichterstattung darüber in Time, Axios und anderen Medien identifizierten sechs systemische Probleme ^T:

1. Rückzug von Sicherheitsversprechen. Anthropic, OpenAI, Google DeepMind und Meta haben frühere Zusagen abgeschwächt oder ganz gestrichen, die Entwicklung zu pausieren, wenn ihre Systeme bestimmte Gefahrenschwellen erreichen. Der Bericht bezeichnet dies als „Verschieben der Torpfosten" ^AT.

2. Existenzielle Sicherheit bleibt die schwächste Kategorie. Zum zweiten Mal in Folge erzielte kein Unternehmen in diesem Bereich eine Note über D ^TFY.

3. Freiwillige Sicherheit erodiert, bevor Regulierung kommt. FLI-Vorsitzender Max Tegmark warnte davor, dass KI-Unternehmen „auf eine Klippe zurennen", während sie trotz erheblicher Risiken auf künstliche Superintelligenz zusteuern ^T.

4. Zunehmende militärische Nutzung kommerzieller KI. Unternehmen, die militärische Arbeit einst weitgehend ablehnten – darunter Anthropic, OpenAI und Google – haben sich militärischen Partnerschaften zugewandt ^T.

5. Ein globales Muster von Durchfallern. Die drei nicht bestandenen Noten gingen an Unternehmen aus unterschiedlichen Regionen: xAI (USA), DeepSeek (China) und Mistral (Europa) ^TFF.

6. Fähigkeiten überholen Schutzmaßnahmen. Die Veröffentlichung des Berichts fiel mit einer UN-KI-Konferenz in Genf zusammen, auf der UN-Generalsekretär António Guterres warnte: „Wir könnten die letzte Generation sein, die die Bedingungen bestimmen kann, unter denen Mensch und Maschine koexistieren" ^T.

Ausblick: Was kommt als Nächstes?

Der FLI AI Safety Index erscheint zweimal jährlich und dient als regelmäßiger Check, ob die Branche ihre grundlegendsten Sicherheitslücken schließt. Die Winter-2026-Ausgabe wird zeigen, ob Unternehmen wie xAI und DeepSeek ihren Abwärtstrend umkehren können – und ob endlich eine Firma die C+-Grenze durchbricht.