Führungskräfte bei Anthropic, OpenAI und anderen KI-Unternehmen spielen Berichten zufolge durch, was nach einem katastrophalen KI-bezogenen Vorfall geschehen könnte – nicht nur technisch, sondern auch in der Öffentlichkeit und in der Politik. Axios beschreibt als wahrscheinlichstes Szenario einen groß angelegten Cyberangriff, der Finanzdienste, Internetzugang, Strom- oder Wasserversorgung stört. Dabei geht es um Vorsorge, nicht um den Beleg, dass ein solcher Vorfall unmittelbar bevorsteht oder unvermeidlich ist.
1
2
7
Worauf sich die Unternehmen vorbereiten
Die berichteten Übungen reichen über die unmittelbare Reaktion auf einen Angriff hinaus. Im Mittelpunkt steht auch der „Tag danach“: Wie würden die Unternehmen, die KI-Branche und politische Entscheidungsträger reagieren, wenn KI mit schwerem Schaden in der realen Welt in Verbindung gebracht würde? Axios zufolge wollen Führungskräfte außerdem Mitglieder des US-Kongresses über das Thema informieren. Andere Berichte über die Recherche sprechen von sogenannten Red-Team-Übungen: Dabei werden Abwehrmaßnahmen getestet, indem mögliche Angriffe nachgestellt werden.
17
21
38
Die Zeitangabe sollte vorsichtig eingeordnet werden. Sekundärberichte zufolge rechnen manche Brancheninsider innerhalb von sechs bis zwölf Monaten mit einem größeren Vorfall. Das ist eine ihnen zugeschriebene Einschätzung – keine bestätigte Prognose und keine Aussage, dass die Unternehmen eine Katastrophe für sicher halten.
3
5 OpenAI erklärt, seine Vorsorgeübungen umfassten verschiedene Szenarien, die nicht als unausweichlich betrachtet würden.
6
Warum ein Cyberangriff im Zentrum steht
Axios nennt einen Cyberangriff als wahrscheinlichsten Auslöser und führt mögliche Störungen bei Banken und anderen Finanzdiensten, beim Internet, bei der Stromversorgung oder beim Wasser auf. Die vorliegenden Auszüge erklären nicht, warum Führungskräfte Cyberangriffe höher gewichten als andere Katastrophenrisiken. Sie belegen, welches Szenario durchgespielt wird – nicht die Gründe für diese Rangfolge.
1
2
7
Berichten zufolge haben Angreifer bereits KI-Werkzeuge eingesetzt. Forbes schrieb über einen chinesischsprachigen Hacker, der KI-Agenten – darunter Werkzeuge mit Bezug zu DeepSeek, Kimi und Anthropic – bei Angriffen auf bis zu 100 Organisationen genutzt haben soll. Axios berichtete separat unter Berufung auf CrowdStrike, ein Angreifer habe Claude Code um Hilfe bei der Suche nach Verkaufsstellen für gestohlene Daten gebeten. Diese Berichte handeln von Werkzeugen, die bei einer mutmaßlichen kriminellen Kampagne eingesetzt wurden. Sie belegen weder, dass die Systeme selbstständig beschlossen anzugreifen, noch dass die Kampagne den von Führungskräften befürchteten Ausfall kritischer Infrastruktur verursacht hat.
17
35
Auch die politische Reaktion ist Teil der Überlegungen
Axios zufolge befürchten Führungskräfte, dass ein erster größerer realer Schaden, der unsicherer KI zugeschrieben wird, das ohnehin vorhandene Misstrauen gegenüber der Technologie und ihren bekannten Vertretern verstärken könnte. Der Bericht nennt Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman sowie Präsident Trump mit Blick auf dessen Zurückhaltung bei der Regulierung von KI. Das ist eine Einschätzung möglicher Folgen für Vertrauen und Politik – kein Beleg dafür, dass es bereits zu einer solchen Gegenreaktion gekommen ist.
7
17
Dass die Unternehmen den Kongress informieren wollen, deutet darauf hin, dass sie auch über mögliche Reaktionen der Gesetzgeber nach einer Krise nachdenken. Aus den verfügbaren Berichten geht jedoch nicht hervor, welche Gesetze die Unternehmen befürworten, welche konkreten Maßnahmen sie anstreben oder ob der Kongress sie beschließen würde.
17
21
Was die Berichte belegen – und was offenbleibt
Anthropic wollte sich laut der Berichterstattung nicht äußern; ein Grund dafür wird in den verfügbaren Materialien nicht genannt.
30
31 Und obwohl die Berichte von internen Szenarioplanungen und OpenAIs Vorsorgeübungen sprechen, zeigen sie nicht, ob die erwogenen Schutzmaßnahmen in einem echten Notfall funktionieren würden.
Für Politik und Öffentlichkeit bleiben deshalb praktische Fragen: Wer könnte ein KI-System während eines Vorfalls stoppen? Sollten Tests und die Meldung von Vorfällen verpflichtend sein? Wer wäre verantwortlich, wenn ein KI-Agent Schaden anrichtet? Und wie könnten unabhängige Prüfer feststellen, ob die Schutzmaßnahmen eines Unternehmens tatsächlich greifen?
Die zentrale Aussage ist weniger dramatisch als manche Prognosen: Führende KI-Unternehmen planen Berichten zufolge für einen schweren Vorfall und seine Folgen. Die vorliegenden Belege zeigen weder, dass ein solcher Vorfall unvermeidlich ist, noch dass die Planungen die schwierigen Fragen zu Kontrolle, Verantwortung und Durchsetzung bereits beantworten.
1
6
7