Ledere i Anthropic, OpenAI og andre AI-selskaper skal ikke bare prøve å se for seg en katastrofal hendelse knyttet til kunstig intelligens. Ifølge Axios diskuterer de også «dagen derpå»: hvordan selskapene, bransjen og politikerne kan håndtere reaksjonene dersom AI forbindes med alvorlig skade i den virkelige verden.
1
2
7
Scenarioet som trekkes fram som mest sannsynlig, er et omfattende cyberangrep som forstyrrer finansielle tjenester, internettilgang, strømforsyning eller vannforsyning. Dette er beredskapsplanlegging – ikke bevis på at en slik hendelse er nært forestående eller uunngåelig.
1
2
7
Øver også på det politiske etterspillet
Ifølge Axios ser øvelsene ut til å rette blikket forbi den umiddelbare tekniske håndteringen. Selskapene skal også forberede seg på hvordan offentligheten og myndighetene kan reagere dersom AI blir knyttet til stor skade. Rapporteringen omtaler dessuten et arbeid med å orientere medlemmer av den amerikanske Kongressen. Andre omtaler beskriver såkalt red-teaming av verstefallsscenarioer – en metode der man prøver å avdekke svakheter ved å simulere et angrep.
17
21
38
Tidsanslaget bør leses med forbehold. Enkelte bransjefolk skal ha sagt at de venter en stor hendelse i løpet av seks til tolv måneder. Det er en prognose som tilskrives kilder i bransjen, ikke en bekreftet spådom eller et uttrykk for at selskapene regner en katastrofe som sikker.
3
5 OpenAI sier at beredskapsøvelsene dekker ulike scenarioer, og at selskapet ikke behandler dem som uunngåelige.
6
Hvorfor cyberangrep står sentralt
Axios omtaler cyberangrep som den mest sannsynlige utløsende hendelsen og viser til mulige forstyrrelser i bank- og finansielle tjenester, internettilgang, strøm og vann. Utdragene fra rapporteringen forklarer ikke hvorfor lederne vurderer cyberangrep som mer sannsynlig enn andre katastroferisikoer. De beskriver scenarioet som vurderes, men ikke begrunnelsen for rangeringen.
1
2
7
Det finnes også rapporterte eksempler på at angripere bruker AI-verktøy. Forbes har beskrevet en kinesisktalende hacker som brukte AI-agenter, blant annet verktøy knyttet til DeepSeek, Kimi og Anthropic, i angrep mot opptil 100 organisasjoner. Axios har separat meldt at en angriper brukte Claude Code til å be om hjelp med å finne steder å selge stjålne data, med henvisning til cybersikkerhetsselskapet CrowdStrike.
17
35
Disse opplysningene gjelder verktøy brukt i en angivelig kriminell kampanje. De viser ikke at systemene på egen hånd bestemte seg for å angripe, eller at kampanjen førte til den typen bortfall av infrastruktur som selskapene frykter.
17
35
Tillit og politisk ansvar står på spill
Ifølge Axios frykter ledere at den første tydelige saken der utrygg AI fører til alvorlig skade i den virkelige verden, kan svekke en allerede lunken offentlig tillit til teknologien og bransjens profiler. Rapporten trekker fram Anthropic-sjef Dario Amodei, OpenAI-sjef Sam Altman og president Trump, som ifølge omtalen har vært tilbakeholden med å regulere AI. Dette er en vurdering av hvordan en krise kan påvirke tillit og politikk – ikke dokumentasjon på at en slik motreaksjon allerede har funnet sted.
7
17
At selskapene skal arbeide med å orientere Kongressen, tyder på at de også tenker på hvordan lovgiverne kan reagere etter en krise. Men rapporteringen som er tilgjengelig, fastslår ikke hvilke lover selskapene ønsker seg, hvilke konkrete politiske tiltak de fremmer, eller om Kongressen vil vedta noe av dette.
17
21
Hva vi vet – og hva vi ikke vet
Anthropic ville ikke kommentere saken i den omtalte dekningen. Det tilgjengelige materialet oppgir ikke hvorfor.
30
31 Rapportene beskriver privat scenarioarbeid og OpenAIs beredskapsøvelser, men viser ikke om noen av sikkerhetstiltakene som vurderes, faktisk vil fungere i en reell krise.
Det etterlater flere praktiske spørsmål for politikere og offentligheten: Hvem kan stanse et AI-system under en hendelse? Bør rapportering og testing være obligatorisk? Hvem har ansvaret dersom en AI-agent forårsaker skade? Og hvordan kan uavhengige fagmiljøer kontrollere at selskapenes sikkerhetstiltak virker?
Hovedpoenget er mer avgrenset enn de mest dramatiske spådommene: Ledende AI-selskaper skal planlegge for en alvorlig hendelse og konsekvensene etterpå. Opplysningene som foreligger, viser ikke at en katastrofe er uunngåelig – eller at planene gir svar på de vanskelige spørsmålene om kontroll, ansvar og håndheving.
1
6
7