Slik prøver KI-laboratorier å hindre at vitenskapelige modeller senker terskelen for biovåpen

Spørsmålet er om KI gir en målbar «kapasitetsøkning»

Vitenskapelig KI kan gjøre viktig arbeid innen biologi, medisin og legemiddelutvikling raskere. Samtidig kan mer kapable modeller senke deler av kunnskaps- og koordineringsbarrieren for kjemisk og biologisk misbruk.

Det sentrale spørsmålet er derfor ikke om en offentlig chatbot kan gi en komplett oppskrift på et biologisk våpen. Det handler om hvorvidt modellen kan gjøre et farlig prosjekt vesentlig enklere – ved å redusere tiden, behovet for spesialistkompetanse, feilsøkingen eller koordineringen som kreves på tvers av flere trinn.

Biologisk skade oppstår ikke av tekstgenerering alene. Det krever også materialer, utstyr, ekspertise og praktisk gjennomføring. Et arbeidsnotat om dagens grunnmodeller rammer risikoen inn som spørsmålet om modeller kan veilede brukere gjennom teknisk krevende utviklingsprosesser, ikke som om én enkelt prompt utgjør hele trusselen.

Fra avslag til et lagdelt forsvar

Sikkerhetsarbeidet hos laboratorier som utvikler de mest kapable modellene, samler seg i økende grad om flere tiltak som utfyller hverandre:

• Kapabilitetstester: Modeller prøves med relevante fagmiljøer og motstandsorienterte scenarioer for å undersøke om hjelp innen biologi eller kjemi går meningsfullt utover vanlig tilgang til informasjon.
• Avpassede sperrer: Systemer skal avslå, omdirigere eller begrense forespørsler i høyrisikoområder med dobbelt anvendelse, samtidig som lavrisikospørsmål om undervisning, helse og forskning kan besvares når det er mulig.
• Trinnvis utrulling: De mest sensitive evnene gis bare til kontrollerte brukere eller organisasjoner, på definerte vilkår, framfor å gjøres allment tilgjengelige.
• Løpende justering: Klassifikatorer og tilgangsregler må oppdateres både når legitime spørsmål stoppes feilaktig, og når modellene blir kraftigere.
• Barrierer utenfor modellen: Kontrollene må også beskytte de praktiske stegene der et mulig misbruk må omsettes i fysisk handling – særlig anskaffelse av biologisk materiale.

Dette er en mer realistisk tilnærming enn å behandle modellens egne svarregler som den eneste forsvarslinjen.

Anthropic: færre feilblokkeringer, fortsatt restriksjoner

Anthropics oppdatering for Fable 5 viser hvor vanskelig avveiningen er. Selskapet opplyser at det reduserte biologirelaterte «fallbacks» – tilfeller der forespørselen sendes videre til en annen modell – med om lag 85 prosent på tvers av produktene sine. Det skal gjøre modellen tilgjengelig for et bredere spekter av biologioppgaver.

Samtidig sier Anthropic at Fable 5 fortsatt sender forespørsler som klassifiseres som dobbelt anvendelige, blant annet innen virologi, toksikologi og molekylærdesign, til Opus 5, en modell som er mindre kapabel for disse formålene. Modellen er dermed foreløpig ikke tilgjengelig for profesjonell biologiforskning og legemiddelutvikling i disse sensitive kategoriene.

Poenget er ikke først og fremst den konkrete tekniske løsningen. En sperre som rammer alle biologispørsmål, kan stenge ute legitim læring, klinisk tolkning og ordinært vitenskapelig arbeid. Et system som behandler alle biologispørsmål som ufarlige, kan derimot overse sensitiv veiledning. Bedre treffsikkerhet er derfor en del av sikkerhetsarbeidet – ikke et alternativ til det.

Kontrollert tilgang til de mest kapable modellene

Anthropic har også benyttet begrenset tilgang for Mythos-modellene. Selskapets Mythos-side opplyser at Mythos 5.1 har forbedringer innen biologi og cybersikkerhet, men fortsatt bare er tilgjengelig for en liten gruppe kvalitetssikrede organisasjoner. 1

Da Anthropic lanserte Mythos 5, beskrev selskapet den som samme underliggende modell som Fable 5, men med enkelte sikkerhetstiltak fjernet. Den første utrullingen var begrenset til en liten gruppe cybersikkerhetsaktører og leverandører av infrastruktur gjennom Project Glasswing. 7

Denne formen for utrulling fjerner ikke risikoen. Godkjenning av brukere, logging, styring av videre bruk og håndtering av hendelser er fortsatt nødvendig. Men den peker mot et alternativ til valget mellom full offentlig lansering og ingen bruk: Kapabiliteter med høyere risiko kan først brukes i avgrensede miljøer, der formål, brukere og tilsyn er tydeligere definert.

Hvorfor modellens egne sperrer ikke kan stå alene

Sperrer på modellnivå kan omgås eller svekkes gjennom alternative modeller, finjustering, stjålne brukerkontoer, verktøyintegrasjoner eller arbeidsflyter der flere personer og systemer håndterer ulike deler av oppgaven. Tilgangskontroll er derfor ikke en fullstendig biosecurity-strategi alene.

RANDs rapport fra 2026 om «forsvar i dybden» slår dette fast: Ingen enkelt sikkerhetsmekanisme kan hindre KI-assistert biologisk misbruk. Rapporten identifiserer ni tiltak som skal redusere risikoen på ulike punkter i en angrepskjede og overfor ulike aktører.

I praksis innebærer det en kombinasjon av:

1. modellevalueringer og terskler for utrulling;
2. forholdsmessige begrensninger og programmer for pålitelig tilgang;
3. kundekontroll, sporbarhet og rapportering der det er relevant;
4. screening og tilsyn ved anskaffelse av biologiske materialer;
5. bedre utbruddsoppdagelse, folkehelseovervåking og beredskap.

Når flere lag fungerer sammen, blir en svakhet i ett av dem mindre avgjørende.

Screening av DNA- og RNA-syntese er en viktig fysisk barriere

KI-genererte ideer må fortsatt omsettes i faktiske materialer og laboratoriearbeid. Derfor er syntese av nukleinsyrer – DNA og RNA – et viktig punkt for forebygging.

Et innspill til U.S. AI Safety Institutes høring anbefaler blant annet databaser over DNA-, RNA- og proteinsekvenser som bør vekke bekymring, slik at verktøy kan flagge potensielt skadelige bestillinger. 17 RAND har også vist til det amerikanske rammeverket for screening av nukleinsyresyntese og bransjens praksis for kontroll av kommersielle bestillinger av biologisk materiale.

God screening er mer enn en liste over sekvenser. Den kan omfatte kundeidentifisering, vurdering av tvilsomme bestillinger, rutiner for eskalering og informasjonsdeling innenfor gjeldende lovverk. Slike kontroller løser ikke enhver risiko, men de kan gjøre det vanskeligere å omsette risikofylt digital veiledning til fysisk kapasitet.

Bioberedskap handler også om å bevare de nyttige anvendelsene

Utfordringen for myndigheter og selskaper er ikke bare å bremse biologisk KI. De samme egenskapene som skaper bekymring for dobbelt anvendelse, kan bidra til sykdomsovervåking, diagnostikk, utvikling av medisinske mottiltak og mikrobiell sporing.

I 2026 gjorde Bipartisan Commission on Biodefense ved Atlantic Council KI til den sekstende teknologiprioriteten i Apollo Program for Biodefense. Anbefalingene omfatter investeringer i KI-støttet overvåking og diagnostikk, medisinske mottiltak, attribusjon, modellevaluering og sikkerhetstiltak samt mer tilpasningsdyktig respons i folkehelsen.

Det er en nyttig ramme for debatten: redusere mulighetene for misbruk uten å miste potensialet for bedre beredskap og medisinsk forskning.

Kort sagt

Det finnes ikke offentlig dokumentasjon som tilsier at vanlige chatboter er en ferdig løsning for å lage et biologisk våpen fra start til slutt. Men det er heller ikke standarden laboratorier og beslutningstakere legger til grunn. De forbereder seg på at sterkere vitenskapelige modeller kan gi enkelte brukere en målbar biologisk kapasitetsøkning.

Det mest robuste svaret er derfor verken et generelt forbud mot biologi eller blind tillit til at chatboter sier nei. Det er forholdsmessig tilgang, grundig testing, presise sperrer for forespørsler med dobbelt anvendelse og forsvar i de fysiske og folkehelserelaterte leddene der skadelige planer til slutt må gjennomføres.