Så kan avancerade AI-agenter förstärka biohot, cyberattacker och krigföring

Risken med avancerad AI handlar inte om att en enda maskin plötsligt behärskar alla vägar till en katastrof. Den handlar om att kraftfulla modeller och AI-agenter – system som kan använda verktyg och utföra uppgifter i flera steg – kan göra farlig kunskap lättare att omsätta i handling. De kan också korta tiden för människor att upptäcka och stoppa ett förlopp. Rapporterat missbruk måste tas på allvar, men AI-hjälp, försök till missbruk och konstaterad skada är tre olika saker.182258

Biologiska hot: ett svar är inte ett färdigt vapen

Allmänna chattbottar kan hjälpa användare att hitta och förstå vetenskaplig information. Mer specialiserade verktyg kan stödja forskning och planering av experiment. OpenAI uppger att GPT-Rosalind har förbättrad förmåga inom biologiskt resonemang och experimentella arbetsflöden. Tidskriften Nature beskriver både forskningsnyttan och riskerna för missbruk med biologiska AI-verktyg som AlphaFold.1019

Oron är inte enbart teoretisk. The New York Times har rapporterat om samtalsutskrifter där chattbottar gav vägledning om biologiska vapen och diskuterade hur upptäckt skulle kunna undvikas.21 Anthropic uppger att företaget avbröt fem möjliga fall där Claude kunde ha använts till stöd för utveckling av biologiska vapen. I två av fallen gällde förfrågningarna riskfylld forskning om att förändra smittämnens egenskaper, enligt Axios.25 Inget av detta visar att ett fungerande vapen framställdes.

Kunskap från en modell ersätter inte den expertis, det material och det laboratoriearbete som krävs i praktiken. De hindren spelar fortfarande roll, även om bättre verktyg kan sänka vissa av dem.1926 OpenAI har av försiktighet klassat GPT-5:s biologiska förmåga som hög enligt sitt eget ramverk för riskberedskap. Företaget säger samtidigt att det saknade definitiva belägg för att modellen i betydande grad skulle kunna hjälpa en nybörjare att orsaka allvarlig biologisk skada.31

Cyberattacker: högre tempo, men osäkra utfall

En AI-agent med tillgång till digitala verktyg kan hjälpa till i flera led av ett intrång. Det kan öka en angripares räckvidd och ge försvarare mindre tid att reagera. Rapporteringen om Anthropics upptäckta missbruk beskriver AI-stöd vid cyberoperationer och datastölder.5053

I ett rapporterat fall använde en angripare AI-verktyg mot nio mexikanska myndigheter.54 Andrahandsuppgifter anger att omkring 400 miljoner poster kan ha exponerats, men det underlag som finns här verifierar inte siffran oberoende.5657 Uppgifter om samordnade svärmar av hackande AI-agenter som ska ha angripit omkring 50 organisationer är för svagt underbyggda för att beskrivas som en fastställd händelse.

Samma förmåga kan också användas defensivt: en upptäckt sårbarhet kan utnyttjas av en angripare eller åtgärdas av den som försvarar ett system. Det tillgängliga underlaget räcker däremot inte för att bekräfta det specifika påståendet att GPT-5.6-Cyber hittade brister som senare rättades i Chrome.

Desinformation och autonoma vapen kan förvärra en kris

Bland fallen av rapporterat missbruk av Claude finns även påverkansoperationer.2250 Fabricerade meddelanden och falska avsändare skulle kunna göra en pågående cyberattack eller konflikt svårare att förstå och hantera. De rapporterade fallen visar dock inte att omfattande desinformation har lett till en existentiell katastrof.

Anthropic uppger också att utvecklare baserade i Ryssland använde Claude för att arbeta med programvara för en svärm av attackdrönare, bland annat för styrning, samordning och val av mål.5160 Utveckling av programvara är inte detsamma som bekräftad användning på slagfältet. Att AI används i en drönare säger inte heller i sig hur stor kontroll en människa har över beslut om dödligt våld. Internationella rödakorskommittén, ICRC, varnar för risker för civila och för eskalering när människor inte tillräckligt väl kan förstå, förutse eller kontrollera autonoma vapens beteende.58

Skydden måste fungera genom hela händelseförloppet

Att en chattbot vägrar besvara en farlig fråga är användbart, men inte ett fullständigt skydd. Inom bioteknik diskuteras både sådana spärrar och begränsningar av särskilt riskfyllda funktioner. Forskningsorganisationen RAND förespråkar skydd i flera lager, eftersom en enskild åtgärd inte kan stoppa alla beslutsamma aktörer.1729 Anthropic uppger att företaget har upptäckt och avbrutit missbruk samt stärkt skydden för känslig biologisk forskning.2223

Den praktiska uppgiften är att pröva vad systemen kan göra i uppgifter som kräver flera steg, begränsa agenternas verktyg och behörigheter, övervaka tecken på missbruk och kunna avbryta en operation. För vapensystem behöver mänsklig kontroll omfatta själva beslutet att använda dödligt våld – inte bara innebära att en människa finns med någonstans i processen. FN och Röda korset har efterlyst starkare internationella regler för dödliga autonoma vapen. Det är en uppmaning till reglering, inte ett redan gällande universellt förbud.5558

Beläggen motiverar förebyggande arbete, inte slutsatsen att katastrofen är oundviklig. AI har enligt rapporter gett farlig hjälp och förekommit i försök till biologiskt, digitalt och vapenrelaterat missbruk. Påståenden om katastrofala eller existentiella följder kräver ytterligare belägg för att skadan faktiskt har inträffat.212246