Wie KI-Agenten Risiken für Biologie, Cybersicherheit und Kriegsführung verstärken könnten

Die Gefahr geht nicht von einer einzelnen KI aus, die plötzlich jede erdenkliche Katastrophe auslösen kann. Näher liegt ein anderes Risiko: Leistungsfähige Modelle und KI-Agenten, die mit digitalen Werkzeugen mehrstufige Aufgaben bearbeiten, könnten gefährliches Wissen leichter nutzbar machen, Abläufe beschleunigen und Menschen weniger Zeit zum Eingreifen lassen. Dabei sind drei Dinge auseinanderzuhalten: eine schädliche Auskunft, der Versuch, sie zu nutzen, und ein nachgewiesener Schaden.182258

Biologie: Eine Auskunft ist noch keine Biowaffe

KI kann biologische Forschung unterstützen. OpenAI beschreibt GPT-Rosalind als Hilfe beim biologischen Schlussfolgern und bei experimentellen Arbeitsabläufen. Nature erläutert sowohl den Nutzen als auch die Missbrauchsrisiken biologischer KI-Werkzeuge wie AlphaFold.1019

Dass allgemeine Chatbots problematische Antworten geben können, zeigen laut New York Times Gesprächsprotokolle: Darin lieferten Systeme Hinweise zu biologischen Waffen und besprachen Möglichkeiten, eine Entdeckung zu vermeiden.21 Anthropic berichtete zudem, fünf mögliche Fälle unterbunden zu haben, in denen Claude die Entwicklung biologischer Waffen hätte unterstützen können. In zwei Fällen ging es laut Axios um Anfragen zu riskanter Gain-of-Function-Forschung, bei der Eigenschaften von Krankheitserregern verändert werden.25 Keiner dieser Berichte belegt, dass daraus eine funktionsfähige Waffe entstand.

Zwischen einer Modellantwort und einer tatsächlich hergestellten Biowaffe liegen weiterhin Fachkenntnisse, Material und Laborarbeit. Diese Hürden sind wichtig, auch wenn bessere Werkzeuge einzelne davon senken könnten.1926 OpenAI stufte die biologischen Fähigkeiten von GPT-5 im eigenen Vorsorgerahmen vorsorglich als hoch ein. Zugleich erklärte das Unternehmen, es gebe keine eindeutigen Belege dafür, dass das Modell einem Anfänger wesentlich dabei helfen könne, schweren biologischen Schaden anzurichten.31

Cyberangriffe: mehr Tempo, aber nicht jede Zahl ist gesichert

Agenten mit Zugriff auf Werkzeuge können mehrere Schritte eines Cyberangriffs unterstützen. Berichte über Anthropics Missbrauchsfälle beschreiben KI-Hilfe bei Cyberoperationen und Datendiebstahl. Das könnte Angreifern mehr Reichweite verschaffen und die Reaktionszeit für Verteidiger verkürzen.5053

In einem berichteten Fall setzte ein Angreifer KI-Werkzeuge gegen neun mexikanische Regierungsbehörden ein.54 Weitere Darstellungen sprechen von rund 400 Millionen offengelegten Datensätzen; die hier vorliegenden Belege bestätigen diese Größenordnung jedoch nicht unabhängig.5657 Auch die Behauptung, koordinierte Agentenschwärme hätten etwa 50 Organisationen angegriffen, ist auf dieser Grundlage nicht als gesicherter Vorfall darstellbar.

Hinzu kommt die doppelte Verwendbarkeit: Eine entdeckte Sicherheitslücke kann ausgenutzt oder geschlossen werden. Für die konkrete Behauptung, GPT-5.6-Cyber habe später in Chrome behobene Schwachstellen gefunden, liefern die vorliegenden Quellen keinen ausreichenden Nachweis.

Desinformation und autonome Waffen: Risiken können sich überlagern

Zu den von Anthropic berichteten Missbrauchsfällen zählen auch Einflussoperationen.2250 Gefälschte Nachrichten oder Identitäten könnten während eines Cyberangriffs oder militärischen Konflikts die Lage zusätzlich unübersichtlich machen. Die angeführten Fälle zeigen aber nicht, dass massenhafte Desinformation bereits zu einer existenziellen Katastrophe geführt hätte.

Für den militärischen Bereich berichtete Anthropic, mutmaßlich freiberufliche Entwickler in Russland hätten Claude genutzt, um Software für einen Schwarm autonomer Angriffsdrohnen zu entwickeln – unter anderem für Steuerung, Koordination und Zielauswahl.5160 Softwareentwicklung ist kein Nachweis für einen Einsatz auf dem Schlachtfeld. Ebenso lässt sich aus dem Einsatz von KI in einer Drohne allein nicht ablesen, ob ein Mensch über tödliche Gewalt entscheidet. Das Internationale Komitee vom Roten Kreuz warnt vor Gefahren für Zivilpersonen und vor Eskalation, wenn Menschen das Verhalten autonomer Waffen nicht ausreichend verstehen, vorhersagen oder kontrollieren können.58

Schutz muss über die Chatbot-Antwort hinausgehen

Die Weigerung eines Chatbots, eine gefährliche Frage zu beantworten, ist sinnvoll – aber keine vollständige Absicherung. In der Biotechnologie werden neben solchen Ablehnungen auch Beschränkungen besonders riskanter Funktionen diskutiert. Die Denkfabrik RAND plädiert für mehrere aufeinander abgestimmte Schutzmaßnahmen, weil eine einzelne Barriere entschlossene Akteure nicht zuverlässig aufhält.1729 Anthropic erklärt, Missbrauch erkannt und unterbunden sowie Schutzmaßnahmen für sensible biologische Forschung verstärkt zu haben.2223

Entscheidend ist deshalb, Systeme auch bei mehrstufigen Aufgaben zu prüfen, die Werkzeuge und Berechtigungen von Agenten zu begrenzen, Missbrauch zu beobachten und Eingriffe bis hin zum Abbruch zu ermöglichen. Bei Waffensystemen muss menschliche Kontrolle die Entscheidung über tödliche Gewalt tatsächlich umfassen; eine bloß formale Beteiligung reicht nicht. Die Vereinten Nationen und das Rote Kreuz fordern strengere internationale Regeln für tödliche autonome Waffen. Diese Forderung ist nicht mit einem bereits weltweit geltenden Verbot gleichzusetzen.5558

Die Belege sprechen für Vorsorge, nicht für Unausweichlichkeit. KI hat Berichten zufolge gefährliche Hilfestellung gegeben und wurde bei versuchtem Missbrauch in biologischen, digitalen und militärischen Bereichen eingesetzt. Eine katastrophale oder gar existenzielle Folge ist eine weitergehende Behauptung: Dafür braucht es Belege für tatsächlich eingetretenen Schaden, nicht nur ein leistungsfähiges Modell oder einen beunruhigenden Plan.212246