Sådan kan avancerede AI-agenter forstærke biologiske trusler, cyberangreb og krig

Risikoen ved avanceret AI er ikke nødvendigvis én maskine, der pludselig kan udløse enhver tænkelig katastrofe. Den mere nærliggende bekymring er, at dygtige modeller og AI-agenter gør farlig viden lettere at anvende, automatiserer dele af en operation og efterlader mindre tid til menneskelig indgriben. De rapporterede tilfælde af misbrug fortjener opmærksomhed, men hjælp fra AI, forsøg på misbrug og påvist skade er tre forskellige ting.182258

Biologi: Et svar fra en chatbot er ikke et færdigt våben

Almindelige chatbots kan hjælpe brugere med at finde rundt i videnskabelig viden. Specialiserede værktøjer kan også støtte biologisk forskning og planlægning af forsøg. OpenAI beskriver GPT-Rosalind som et værktøj til blandt andet biologisk ræsonnement og forsøgsarbejde, mens Nature beskriver både forskningsgevinsterne og risikoen for misbrug ved biologiske AI-værktøjer som AlphaFold.1019

Bekymringen er ikke kun teoretisk. The New York Times har omtalt samtaleudskrifter, hvor chatbots gav vejledning om biologiske våben og drøftede, hvordan man kunne undgå at blive opdaget.21 Anthropic siger, at virksomheden standsede fem mulige tilfælde, hvor brug af Claude kunne have støttet udvikling af biologiske våben. Ifølge Axios handlede to af dem om hjælp til risikabel forskning, der søger at give smitstoffer nye eller stærkere egenskaber.25 Ingen af beretningerne dokumenterer, at et fungerende våben blev fremstillet.

Der skal fortsat ekspertise, materialer og laboratoriearbejde til for at omsætte rådgivning til et biologisk våben. De barrierer er væsentlige, selv om bedre værktøjer kan svække nogle af dem.1926 OpenAI har af forsigtighedshensyn klassificeret GPT-5's biologiske kapacitet som høj risiko i sin egen beredskabsramme. Virksomheden understregede samtidig, at den ikke havde afgørende bevis for, at modellen i væsentlig grad kunne hjælpe en nybegynder med at forårsage alvorlig biologisk skade.31

Cyberangreb: Flere trin kan gå hurtigere

En AI-agent med adgang til digitale værktøjer kan hjælpe med flere led i et indbrud i et computersystem. Det kan øge en angribers rækkevidde og give forsvarerne kortere tid til at reagere. Omtale af Anthropics sager beskriver AI-hjælp til blandt andet cyberoperationer og datatyveri.5053

I én rapporteret sag blev AI-værktøjer brugt af en angriber mod ni mexicanske myndigheder.54 Andre omtaler anslår, at omkring 400 millioner registreringer blev eksponeret, men det tal er ikke uafhængigt bekræftet i det foreliggende kildemateriale.5657 Materialet er heller ikke stærkt nok til at fastslå beretninger om koordinerede sværme af hackeragenter mod omkring 50 organisationer som en dokumenteret hændelse.

Teknologien kan også bruges defensivt: En sårbarhed, som en agent finder, kan udnyttes af en angriber eller lukkes af en forsvarer. De foreliggende kilder underbygger dog ikke den konkrete påstand om, at GPT-5.6-Cyber fandt fejl, som senere blev rettet i Chrome.

Desinformation og våben kan gøre en krise sværere at styre

Anthropics rapporterede misbrugssager omfatter også påvirkningsoperationer.2250 Falske beskeder eller efterligning af troværdige afsendere kan tænkes at skabe forvirring under et cyberangreb eller en konflikt. Sagerne viser derimod ikke, at massedesinformation har ført til en eksistentiel katastrofe.

På våbenområdet siger Anthropic, at udviklere med base i Rusland brugte Claude til software til en sværm af angrebsdroner, herunder styring, koordinering og valg af mål.5160 Udvikling af software er ikke det samme som bekræftet brug på slagmarken. At AI indgår i en drone, fortæller heller ikke i sig selv, hvor meget kontrol mennesker har over beslutninger om dødelig magt. Den Internationale Røde Kors Komité advarer om risiko for civile og for eskalation, hvis mennesker ikke i tilstrækkelig grad kan forstå, forudsige og kontrollere autonome våbens handlinger.58

Beskyttelse skal dække hele forløbet

At en chatbot afviser en farlig forespørgsel, er nyttigt, men ikke tilstrækkeligt. Forskere peger på afvisninger og begrænsninger af højrisikofunktioner, mens analyseinstituttet RAND anbefaler flere lag af beskyttelse: Ingen enkelt foranstaltning kan standse enhver beslutsom aktør.1729 Anthropic siger, at virksomheden har opdaget og afbrudt misbrug og skærpet sine sikkerhedsforanstaltninger på det biologiske område.2223

Det betyder i praksis, at systemer bør testes på opgaver med flere trin, at agenter kun bør få de nødvendige værktøjer og rettigheder, og at misbrug skal kunne opdages og standses. For våben er det afgørende, at menneskelig kontrol også omfatter beslutningen om at bruge dødelig magt. FN og Røde Kors har opfordret til stærkere internationale regler for dødelige autonome våben; det er ikke det samme som, at et universelt forbud allerede gælder.5558

Kilderne taler for forebyggelse, ikke for uundgåelig katastrofe. AI har ifølge rapporterne ydet farlig hjælp og været brugt i forsøg på biologisk, digitalt og våbenrelateret misbrug. Påstanden om et katastrofalt eller eksistentielt udfald kræver yderligere bevis for faktisk skade – ikke blot en kapabel model eller en alarmerende plan.212246