Was der tödliche Drohnenangriff in Saporischschja über autonome Waffen zeigt

Der Angriff in Saporischschja könnte eine wichtige technologische Schwelle markieren. Die russische Drohne soll nicht nur ihren Flug stabilisiert, eine Route verfolgt oder ein bereits von Menschen bestimmtes Ziel angesteuert haben. Ukrainische Behörden, Forensiker und Recherchen der New York Times berichten, dass ihr Bordsystem selbstständig erkannte und auswählte, was angegriffen werden sollte. Am 6. Juli stürzte das Fluggerät nahe einer Tankstelle gegen eine Mauer und explodierte. Drei Zivilisten starben, darunter die 19-jährige Tetiana Bubynets. 13

Die vorsichtige Schlussfolgerung lautet: Der Vorfall gilt als erster dokumentierter tödlicher Einsatz eines vollständig autonomen KI-Zielsystems im Russland-Ukraine-Krieg – nicht zwingend als erster Einsatz einer autonomen Waffe überhaupt. 13

Was in Saporischschja geschah

Die kleine, einem Modellflugzeug ähnliche Drohne soll auf eine Tankstelle zugesteuert worden sein. In der Nähe des Ziels suchte und identifizierte ihr KI-System offenbar eigenständig ein Objekt – vermutlich Propangasbehälter –, statt auf den letzten Angriffsbefehl eines menschlichen Bedieners zu warten. Anschließend prallte die Drohne gegen eine Mauer und explodierte. Neben Tetiana Bubynets kamen zwei weitere Zivilisten ums Leben. 146

Gerade das mutmaßliche Fehlverhalten ist für die Einordnung entscheidend. Autonomie bedeutet nicht, dass ein System zuverlässig oder menschenähnlich „versteht“, was es sieht. Es kann ein Objekt falsch klassifizieren, seine Position fehlerhaft einschätzen oder einen Angriff fortsetzen, obwohl sich die Lage am Boden verändert hat. In einer Stadt können solche Fehler zu zivilen Opfern führen, wenn niemand die letzte Entscheidung überprüft oder rechtzeitig eingreift. 16

Die Technik: KI direkt an Bord

Ukrainische Ermittler fanden Berichten zufolge ein Modul des Typs Nvidia Jetson Orin in den Trümmern. Nvidia beschreibt die Jetson-Reihe als zivile, für Anwendungen wie Robotik und maschinelles Sehen entwickelte Computerplattform. Die Ermittler berichteten außerdem, dass der Drohne eine externe Kommunikationsantenne fehlte. Forensische Analysen deuteten auf Kameras, gespeicherte Geländebilder und Software hin, die Zielkategorien wie Propangasbehälter erkennen konnte. 281011

Das ist ein Beispiel für Edge Computing: Daten werden direkt auf dem Gerät verarbeitet, statt Videobilder an einen entfernten Bediener oder einen Cloud-Dienst zu übertragen. Bei einer Drohne kann der Bordcomputer dadurch Kamerabilder auswerten, navigieren und in der Endphase eine Zielentscheidung treffen – auch ohne durchgehende Verbindung zu einem Menschen.

Diese Fähigkeit ist in einem von elektronischer Kriegsführung geprägten Umfeld besonders relevant. Eine ferngesteuerte Drohne ist auf Funk und Videoübertragung angewiesen und kann durch Störsender ihre Verbindung oder ihre Einsatzfähigkeit verlieren. Ein autonomes oder teilautonomes Fluggerät kann bestimmte Teile seines Auftrags auch nach einem Kommunikationsabbruch fortsetzen. Berichten zufolge integrieren sowohl Russland als auch die Ukraine KI in Navigation, Objekterkennung, Zielsteuerung und Zielverfolgung. Wie weit vollständig autonome Systeme tatsächlich eingesetzt werden, lässt sich jedoch nur schwer unabhängig überprüfen.

Nicht jede KI-Drohne ist eine autonome Waffe

Der Begriff „autonom“ umfasst unterschiedliche Funktionen:

• Flugunterstützung: Die Drohne wird stabilisiert oder weicht Hindernissen aus.
• Navigation: Sie folgt einer vorprogrammierten Route oder nutzt visuelle Informationen, wenn Satellitennavigation gestört wird.
• Zielverfolgung: Sie hält ein von einem Menschen ausgewähltes Objekt im Blick.
• Endanflug: Sie steuert ein Ziel an, das zuvor von einem Menschen identifiziert und freigegeben wurde.
• Zielauswahl: Sie sucht, erkennt, wählt und bekämpft ein Objekt ohne weitere menschliche Intervention.

Die letzte Kategorie ist die folgenreichste. Das Internationale Komitee vom Roten Kreuz definiert Autonomie in den kritischen Funktionen einer Waffe als die Fähigkeit, Ziele ohne menschliches Eingreifen auszuwählen und anzugreifen.

Genau deshalb sorgt der Vorfall für Aufmerksamkeit. Nach den vorliegenden Berichten wurde ein Teil der sogenannten „Kill Chain“ – der Abfolge von der Zielerkennung bis zur Gewaltanwendung – vom Menschen auf eine Software verlagert. Frühere FPV-Drohnen und viele Einsätze von sogenannten Loitering Munitions konnten zwar automatisierte Funktionen nutzen, verlangten aber weiterhin, dass ein Mensch das Ziel bestimmte oder den endgültigen Angriff autorisierte. 46

Was Nvidia erklärt – und was daraus nicht folgt

Nvidia erklärte Berichten zufolge, Jetson Orin sei ein ziviles Produkt für Studierende, Entwickler und Start-ups und werde vom Unternehmen nicht in Russland verkauft. Zugleich räumte der Konzern ein, dass solche Geräte über Wiederverkaufsmärkte erhältlich seien und ihr weiterer Weg danach nur schwer nachzuverfolgen ist. 21819

Dass ein Nvidia-Modul in einer russischen Drohne gefunden wurde, beweist für sich genommen nicht, dass Nvidia wissentlich das russische Militär belieferte oder Sanktionen verletzte. Die vorliegenden Berichte nennen weder den Beschaffungsweg noch einen Beleg dafür, wer die Hardware umleitete. Sie machen aber ein größeres Problem sichtbar: Dual-Use-Computer für zivile Robotik können weiterverkauft, umgeleitet und in Waffen eingebaut werden.

Daraus entsteht eine Lücke bei der Durchsetzung von Exportkontrollen. Direkte Verkäufe in ein sanktioniertes Land können verboten sein, während Zwischenhändler, Sekundärmärkte und globale Elektroniklieferketten die Rückverfolgung erschweren. Der Fall wirft deshalb Fragen zur Sanktions-Compliance auf, belegt aber weder eine Absicht des Unternehmens noch dessen rechtliche Verantwortlichkeit.

Völkerrecht und Verantwortung

Künstliche Intelligenz schafft keine eigene Rechtszone, in der die Regeln des Krieges außer Kraft gesetzt wären. Das humanitäre Völkerrecht gilt auch für Waffen mit autonomen Funktionen. Dazu gehören die Unterscheidung zwischen militärischen Zielen und Zivilisten oder zivilen Objekten, die Verhältnismäßigkeit und alle praktisch möglichen Vorsichtsmaßnahmen bei einem Angriff.

Schwieriger wird die Frage der Verantwortung. Wenn ein Algorithmus ein Ziel auswählt, geht die Verantwortung nicht auf die Software über. Ermittler müssten weiterhin klären, wer das System entwickelt, getestet, genehmigt, programmiert, eingesetzt und überwacht hat – und welche Einsatzregeln und Schutzvorkehrungen galten. Juristische Analysen betonen, dass sich die Funktionsweise und die Folgen eines autonomen Waffensystems den jeweils verantwortlichen Menschen zuordnen lassen müssen.

Die entscheidende Frage ist daher nicht, ob irgendwo im weiteren Einsatzablauf ein Mensch beteiligt war. Es geht darum, ob eine Person tatsächlich Kontrolle über die tödliche Gewalt ausübte: mit ausreichendem Wissen über Ziel und Umfeld, klaren Grenzen für den Einsatz des Systems und der Möglichkeit, einen Angriff – soweit machbar – zu unterbrechen, auszusetzen oder abzubrechen.

Welche Regeln nötig wären

Der Vorfall verstärkt die Forderung nach Regeln, die eine wirksame menschliche Kontrolle über tödliche Gewalt sicherstellen. Mögliche Schutzvorkehrungen wären:

• klare Grenzen für Ziele, Einsatzgebiete und Bedingungen, unter denen ein autonomes System aktiv werden darf;
• gründliche Prüfungen von Waffen vor ihrem Einsatz;
• Tests gegen Täuschung, Fehlidentifikation und unübersichtliche zivile Umgebungen;
• verlässliche Abbruch-, Unterbrechungs- und Sicherheitsfunktionen;
• überprüfbare Missions- und Systemprotokolle;
• eine eindeutig festgelegte Verantwortung bei Entwicklung, Beschaffung, Einsatz und Betrieb; sowie
• Untersuchungen nach Angriffen, die rekonstruieren können, was das System erkannt hat und warum es gehandelt hat.

Europäische Staaten haben wiederholt bekräftigt, dass das humanitäre Völkerrecht vollständig für autonome Systeme gilt und Menschen die rechtlichen Bewertungen beim Einsatz tödlicher Gewalt treffen können müssen. In der internationalen Debatte gibt es außerdem Vorschläge, Systeme zu verbieten, die das humanitäre Völkerrecht nicht einhalten können, und andere Systeme durch verbindliche Anforderungen an menschliche Kontrolle und Verantwortlichkeit zu regulieren.

Warum der Fall über die Ukraine hinausweist

Die vielleicht wichtigste Erkenntnis ist, wie wenig Hardware nötig sein könnte, um einer Waffe autonome Funktionen zu geben: ein kleines Fluggerät, eine Kamera, ein Bordcomputer, ein trainiertes Softwaremodell und eine Sprengladung. Damit kann eine zentrale Zielentscheidung von einem Menschen auf eine Maschine verlagert werden, die direkt am Einsatzort arbeitet. Die zivile Herkunft des Jetson Orin macht den Fall besonders relevant: Dafür ist nicht zwingend ein speziell entwickelter militärischer Supercomputer erforderlich. 28

Während Russland und die Ukraine KI-Drohnen weiterentwickeln, dürfte Autonomie in Gebieten mit gestörter Kommunikation an Bedeutung gewinnen. Sie kann die Widerstandsfähigkeit gegen elektronische Störungen erhöhen und den Bedarf an dauernder manueller Steuerung verringern. Gleichzeitig verkürzt sie Entscheidungszeiten, vervielfacht möglicherweise die Folgen von Softwarefehlern und erschwert den Schutz von Zivilisten – besonders in dicht besiedelten Städten.

Der Kern des Falls ist deshalb nicht, ob die Drohne im menschlichen Sinn „intelligent“ war. Entscheidend ist, ob ein vergleichsweise zugängliches Edge-KI-System ausreichte, damit eine Waffe ein Ziel identifizierte und angriff, ohne dass ein Mensch die letzte Entscheidung traf. Sollten die Berichte und forensischen Befunde zutreffen, zeigt Saporischschja, dass die Grenze zwischen KI-Unterstützung und autonomem Töten nicht mehr nur theoretisch ist. Rechtliche, technische und lieferkettenbezogene Schutzmechanismen müssen mit dieser Entwicklung Schritt halten.