Slik kan avanserte KI-agenter forsterke biologiske trusler, cyberangrep og krigføring

Faren er ikke nødvendigvis at én KI-modell plutselig kan gjennomføre enhver tenkelig katastrofe. Den mer nærliggende bekymringen er at kraftige modeller og KI-agenter – systemer som kan bruke verktøy og utføre oppgaver på egen hånd – gjør skadelig kunnskap lettere å ta i bruk, automatiserer deler av en operasjon og gir mennesker kortere tid til å gripe inn. Rapporter om misbruk er alvorlige, men bistand, forsøk på misbruk og dokumentert skade er ikke det samme.182258

Biologi: Et svar fra en chatbot er ikke et ferdig våpen

Generelle chatboter kan hjelpe brukere med å finne fram i vitenskapelig informasjon. Spesialiserte verktøy kan støtte biologisk forskning og planlegging av forsøk. OpenAI sier at GPT-Rosalind er utviklet for biologisk resonnering og forskningsarbeid, mens Nature beskriver både nytten og risikoen for misbruk ved biologiske KI-verktøy som AlphaFold.1019

Bekymringen er ikke bare teoretisk. The New York Times har omtalt samtaleutskrifter der chatboter ga veiledning om biologiske våpen og diskuterte hvordan man kunne unngå å bli oppdaget.21 Anthropic sier på sin side at selskapet stanset fem mulige tilfeller der bruk av Claude kunne ha støttet utvikling av biologiske våpen. I to av tilfellene gjaldt forespørslene farlig forskning som kan gi smittestoffer nye eller forsterkede egenskaper, ifølge Axios.25 Ingen av rapportene fastslår at et fungerende våpen ble laget.

Å få et svar fra en modell er heller ikke det samme som å ha kompetansen, materialene og laboratoriearbeidet som trengs for å produsere et biologisk våpen. Slike praktiske hindringer er viktige, selv om bedre verktøy kan svekke noen av dem.1926 OpenAI har av føre-var-hensyn klassifisert GPT-5s biologiske kapasitet som høy innenfor sitt beredskapsrammeverk. Selskapet sier samtidig at det ikke har avgjørende bevis for at modellen i vesentlig grad kan hjelpe en nybegynner med å forårsake alvorlig biologisk skade.31

Cyberangrep: Høyere tempo, men usikre skadeomfang

En KI-agent med tilgang til digitale verktøy kan bistå i flere ledd av et datainnbrudd. Det kan øke rekkevidden til en angriper og forkorte tiden forsvarere har til å reagere. Omtaler av Anthropics rapporter om misbruk beskriver KI-bistand til cyberoperasjoner og datatyveri.5053

I ett rapportert tilfelle brukte en angriper KI-verktøy mot ni meksikanske offentlige etater.54 Andre omtaler oppgir at rundt 400 millioner oppføringer ble eksponert, men kildene som er lagt fram her, bekrefter ikke dette tallet uavhengig.5657 Påstander om koordinerte svermer av hackeragenter mot rundt 50 organisasjoner er heller ikke godt nok dokumentert her til å omtales som en fastslått hendelse.

Den samme evnen til å finne sårbarheter kan brukes til angrep eller til å tette sikkerhetshull. Kildene her underbygger ikke den konkrete påstanden om at GPT-5.6-Cyber fant feil som senere ble rettet i Chrome. Det bør derfor ikke brukes som et bekreftet eksempel på defensiv nytte.

Desinformasjon og droner kan gjøre en krise verre

Blant misbrukstilfellene Anthropic har omtalt, er også påvirkningsoperasjoner.2250 Falske meldinger eller etterligning av avsendere kan i prinsippet gjøre det vanskeligere å forstå og håndtere et cyberangrep eller en væpnet konflikt. De omtalte tilfellene viser ikke at massiv desinformasjon har ført til en eksistensiell katastrofe.

Anthropic har dessuten sagt at utviklere basert i Russland brukte Claude til å arbeide med programvare for en sverm av angrepsdroner, blant annet målstyring, koordinering og valg av mål.5160 Utvikling av programvare er ikke det samme som bekreftet bruk på slagmarken. At en drone bruker KI, sier heller ikke i seg selv hvor mye kontroll et menneske har over beslutningen om å bruke dødelig makt. Den internasjonale Røde Kors-komiteen advarer om at autonome våpen kan true sivile og øke faren for opptrapping når mennesker ikke i tilstrekkelig grad kan forstå, forutse eller kontrollere hvordan våpnene virker.58

Vernet må dekke mer enn chatbotens svar

At en chatbot avviser en farlig forespørsel, er nyttig, men ikke tilstrekkelig. Bioteknologiske fagmiljøer drøfter både avslag på skadelige forespørsler og begrensninger på høyrisikofunksjoner. RAND argumenterer for flere lag med tiltak fordi ett enkelt vern ikke kan stoppe en målbevisst aktør.1729 Anthropic sier at selskapet har oppdaget og stanset misbruk og skjerpet beskyttelsen rundt sensitiv biologisk forskning.2223

Det betyr i praksis å teste KI-systemer på oppgaver som går over flere trinn, begrense hvilke verktøy og tillatelser agenter får, følge med på tegn til misbruk og kunne stanse en operasjon. For våpensystemer må menneskelig kontroll gjelde beslutninger om dødelig makt – ikke bare bety at et menneske formelt er med i prosessen. FN og Røde Kors har etterlyst sterkere internasjonale regler for dødelige autonome våpen. Det er ikke det samme som at et universelt forbud allerede finnes.5558

Kildene gir grunn til forebygging, ikke til å slå fast at katastrofen kommer. KI har ifølge rapportene gitt farlig bistand og vært brukt i forsøk knyttet til biologi, cyberangrep og våpenutvikling. Påstanden om en katastrofal eller eksistensiell følge krever mer: dokumentasjon på at alvorlig skade faktisk har skjedd, ikke bare en kapabel modell eller en urovekkende plan.212246