AI-dronen i Zaporizjzja rejser et afgørende spørgsmål om autonome våben

En rapporteret russisk droneaktion i Zaporizjzja kan blive et vigtigt advarselssignal om autonome våben – men konklusionen bør formuleres med præcision.

Ifølge ukrainske embedsmænd, luftforsvarschefer og efterforskere, der har undersøgt vragdelene, fløj en russisk Molnija-drone mod en tankstation og brugte indbygget computerkraft til at vælge sit endelige sigtepunkt uden radiokontakt til en menneskelig operatør. Dronen styrtede ned nær stationen den 6. juli 2026. Tre civile – Tetiana Bubynets på 19 år, Oleksiy Svirin på 41 år og Roman Karpiy på 48 år – blev dræbt. Ifølge rapporterne ledte systemet sandsynligvis efter propantanke og ikke efter mennesker som mål. 2411

Den forskel er afgørende. De offentligt tilgængelige oplysninger dokumenterer ikke, at et AI-system selv udvalgte enkelte mennesker som mål. De beskriver derimod en maskine, der traf den endelige målbeslutning i et område med civile til stede – og hvor civile efterfølgende døde. Derfor er hændelsen central i diskussionen om, hvad “menneskelig kontrol” egentlig skal betyde.

Hvad den rapporterede aktion ser ud til at vise

Forløbet var mere begrænset, end udtrykket “AI-styret drone” måske antyder. Menneskelige operatører skal have sendt dronen i retning af en bestemt tankstation. I den sidste del af flyvningen identificerede den indbyggede software angiveligt et konkret objekt eller et stykke infrastruktur. Efterforskere pegede på propantanke som det sandsynlige mål. Dronen ramte imidlertid en mur før tankene, spredte granatsplinter og dræbte tre mennesker. 245

Rapporterne omtaler et Nvidia Jetson Orin-computermodul blandt de bjærgede komponenter og siger, at flyet fungerede uden de radiosignaler, der normalt forbindes med fjernstyring. Oplysningerne bygger på udtalelser fra ukrainske embedsmænd, militærpersoner og retsmedicinske undersøgere – ikke på en offentligt fremlagt, uafhængig international undersøgelse. 4911

Den begrænsning bør også afspejles i konklusionen. “Det første dokumenterede tilfælde” er en beskrivelse, som nogle eksperter og medier bruger; det er ikke en endelig fastslåelse fra en international domstol eller et traktatorgan. 2513

Er den moralske røde linje allerede overskredet?

Der er grundlæggende to forskellige røde linjer i debatten:

1. En maskine udvælger og angriber mennesker direkte. Det er den tydeligste form for autonom måludvælgelse mod personer.
2. En maskine udvælger et andet mål autonomt, men mennesker bliver dræbt under angrebet. Det er det, de tilgængelige rapporter ser ud til at beskrive i Zaporizjzja.

Det andet scenarie opfylder måske ikke den snævre definition af autonom måludvælgelse mod mennesker. Men det udfordrer forestillingen om, at et våben er under reel kontrol, blot fordi et menneske har sendt det af sted eller udpeget en bred destination.

Hvis softwaren vælger det afgørende sigtepunkt, kan operatøren muligvis ikke vide præcis, hvad der bliver ramt, om der befinder sig civile i nærheden, eller om angrebet i situationen kan overholde kravene om sondring mellem civile og militære mål samt proportionalitet. Den Internationale Røde Kors-Komité har advaret om, at brugere af visse autonome våben kan have svært ved i tilstrækkelig grad at forstå, forudsige eller forklare systemernes virkninger.

Det er den praktiske svaghed, som den rapporterede aktion synliggør: Den etiske risiko opstår ikke først, når et system specifikt er trænet til at genkende et menneske. Risikoen opstår også, når et system får lov til at træffe en beslutning med alvorlige konsekvenser i et komplekst civilt miljø, uden at virkningerne kan forudses pålideligt.

Hvad folkeretten allerede kræver

Autonome våben befinder sig ikke uden for den humanitære folkeret. Ifølge Den Internationale Røde Kors-Komité er sådanne systemer fortsat omfattet af eksisterende forbud og begrænsninger, herunder regler mod vilkårlige virkninger. Det er stater og militære chefer – ikke softwaren – der har ansvaret for, at våben anvendes lovligt.

Det uafklarede spørgsmål er, om de eksisterende regler er tilstrækkeligt præcise for våben, der selv udvælger og angriber mål uden yderligere menneskelig indgriben. Røde Kors-Komitéen mener, at stater bør vedtage nye bindende regler, herunder et udtrykkeligt forbud mod autonome våben, hvis funktion og virkninger ikke kan forstås, forudsiges eller forklares tilstrækkeligt.

Det er ikke det samme som at sige, at ethvert våben med en autonom funktion bør forbydes. Forslaget skelner mellem uacceptable systemer og andre systemer, der kan være underlagt stramme begrænsninger.

FN og Røde Kors peger på to forbud

I august 2026 gentog FN’s generalsekretær og formanden for Den Internationale Røde Kors-Komité deres opfordring til et juridisk bindende internationalt instrument om autonome våben. Deres forslag bygger på to hovedkategorier:

• Uforudsigelige autonome våben: Systemer, hvis virkninger brugerne ikke i tilstrækkelig grad kan forstå eller forudse.
• Autonome våben mod personer: Systemer, der er designet eller anvendes til direkte at udvælge og angribe mennesker.

Den anden kategori er bredere end de rapporterede omstændigheder i Zaporizjzja. Anklagen handler om et system, der tilsyneladende udvalgte infrastruktur som mål, mens civile blev dræbt i den efterfølgende eksplosion. Et traktatforbud mod autonom måludvælgelse mod personer ville trække grænsen, før en maskine får lov til selv at træffe den direkte beslutning om at angribe et menneske – også hvis udviklerne hævder, at systemet er teknisk pålideligt.

Røde Kors-Komitéen har desuden argumenteret for strenge begrænsninger på autonome våben, der ikke forbydes direkte. Begrænsningerne kan blandt andet omfatte måltyper, operationens varighed og geografiske område, det miljø systemet må anvendes i, graden af menneskelig overvågning samt muligheden for at gribe ind eller deaktivere systemet.

Derfor bliver novembermødet i Genève vigtigt

Den syvende gennemgangskonference for Konventionen om Visse Konventionelle Våben – på engelsk Convention on Certain Conventional Weapons, CCW – skal efter planen afholdes i Genève i november 2026. Røde Kors-Komitéen ser mødet som en mulighed for at indlede forhandlinger om en ny protokol om autonome våben.

Tidspunktet er vigtigt, fordi FN og Røde Kors-Komitéen fremsatte en fælles opfordring til konkrete forbud og begrænsninger tre år tidligere. Den fornyede appel siger, at regeringerne bør bevæge sig fra fortsatte drøftelser til egentlige forhandlinger om bindende regler.

Om staterne rent faktisk indleder forhandlinger, bliver derfor en konkret målestok for fremskridt. Diplomatiske erklæringer kan skabe en fælles forståelse af problemet, men en protokol skal definere de forbudte systemer, fastsætte begrænsninger for tilladte anvendelser og placere klare forpligtelser hos stater og militære chefer.

Våbenkapløbet går i den modsatte retning

Kravet om begrænsninger kommer samtidig med en hurtigere militær indførelse af AI. USA’s præsident Donald Trumps nationale sikkerhedsmemorandum NSPM-11 fra 5. juni 2026 pålægger det amerikanske sikkerhedsapparat at fremskynde udviklingen og anvendelsen af AI til nationale sikkerhedsformål. Memorandummet kræver også en opdatering af den eksisterende amerikanske politik for autonome våben. 17

Direktivet er ikke i sig selv en tilladelse til autonom måludvælgelse med dødelig udgang. Men det illustrerer det strategiske pres omkring spørgsmålet: Stater ønsker de operationelle fordele ved AI, mens fortalere for våbenkontrol mener, at konkurrencen gør fælles sikkerhedsregler mere nødvendige – ikke mindre.

Den centrale politiske udfordring er derfor ikke blot, om AI vil blive brugt i krig. Spørgsmålet er, om regeringerne kan fastlægge håndhævelige grænser, før billig og kommercielt tilgængelig computerkraft gør det lettere at opskalere autonom måludvælgelse. Oplysningerne om Molnija-dronens indbyggede hardware gør bekymringen mere konkret, selv om de tilgængelige kilder ikke uafhængigt fastslår systemets fulde pris eller den bredere produktionsskala. 615

Den mest præcise konklusion

Den rapporterede droneaktion i Zaporizjzja bør ikke fremstilles som et endeligt bevis på, at maskiner er begyndt autonomt at jage enkeltpersoner. Den tilgængelige beskrivelse peger i stedet på autonom udvælgelse af et sandsynligt infrastrukturanlæg, hvorefter civile blev dræbt, da angrebet gik galt. 24

Den snævrere beskrivelse gør ikke hændelsen juridisk eller moralsk banal. Den viser, hvorfor testen “et menneske var involveret et sted i beslutningskæden” ikke er tilstrækkelig. Hvis et våben selv vælger det afgørende sigtepunkt, og virkningerne ikke kan forudsiges pålideligt i et civilt område, kan menneskets rolle være for fjern til at opfylde formålet med en meningsfuld vurdering.

Derfor styrker hændelsen – uden at afgøre hele spørgsmålet – argumentet for FN’s og Røde Kors-Komitéens forslag i to niveauer: Forbyd uforudsigelige systemer og våben, der er designet til direkte at angribe mennesker, og indfør samtidig strenge, håndhævelige begrænsninger for andre autonome våben. Det næste store spørgsmål bliver, om regeringerne vil omsætte princippet til bindende regler på CCW’s gennemgangskonference i november.