Sådan forsøger AI-laboratorier at mindske risikoen for biologiske våben

AI til forskning kan bidrage til biologisk og medicinsk udvikling, fra diagnostik til lægemiddelopdagelse. Men i takt med at modellerne bliver bedre, kan de også gøre enkelte dele af farligt kemisk eller biologisk arbejde lettere.

Det er derfor, de førende AI-laboratorier ikke kun satser på, at en chatbot siger nej til en farlig forespørgsel. Den tilgang, der er ved at tegne sig, er et forsvar i flere lag: test af modellernes evner, præcise værn, trinvis adgang og kontrol ved de steder, hvor digitale idéer skal omsættes til fysisk handling.

Det afgørende spørgsmål er, om AI giver reel "opgradering"

Debatten handler ikke først og fremmest om, hvorvidt en almindelig offentlig chatbot kan levere en komplet opskrift på et biologisk våben. Der er ikke offentlig dokumentation for, at den kan det.

I stedet undersøges det, om stærkere videnskabelige modeller kan gøre et skadeligt projekt mærkbart nemmere: mindske tidsforbrug, behovet for specialistviden, antallet af fejlslagne forsøg eller koordinationsbyrden på tværs af flere trin. Et forskningspaper om nutidige grundmodeller beskriver netop risikoen som modellernes evne til at guide brugere gennem teknisk krævende udviklingsforløb – ikke som resultatet af én enkelt prompt.

Biologisk skade opstår nemlig ikke af tekst alene. Den kræver også materialer, udstyr, praktiske kompetencer og udførelse.

Fra brede blokeringer til mere præcise værn

Laboratoriernes sikkerhedsarbejde samler sig om flere spor:

• Kapacitetstest: Modeller afprøves med eksperter og modstandsprægede scenarier for at vurdere, om deres hjælp inden for biologi eller kemi overstiger almindelig informationsadgang på en væsentlig måde.
• Kalibrerede begrænsninger: Systemerne kan afvise, omdirigere eller begrænse forespørgsler i højrisiko-områder med dobbelt anvendelse, samtidig med at lavrisikospørgsmål om undervisning, sundhed og forskning så vidt muligt fortsat kan besvares.
• Trinvis adgang: De mest følsomme kapaciteter gives kun til godkendte brugere eller organisationer under fastlagte vilkår.
• Løbende justering: Klassifikatorer og adgangsregler ændres, når de enten rammer legitim brug for hårdt eller modellerne får nye evner.
• Fysiske værn: Der sættes ind dér, hvor misbrug skal blive til handling – særligt ved anskaffelse af biologiske materialer.

Anthropic: Færre fejlagtige afslag uden fri adgang til følsomt arbejde

Anthropics opdatering af Fable 5 illustrerer den vanskelige balance. Virksomheden oplyser, at den reducerede antallet af biologi-relaterede omdirigeringer med omkring 85 % på tværs af sine produkter, så modellen kan hjælpe med en bredere gruppe biologiske opgaver.

Samtidig siger Anthropic, at forespørgsler, som systemet vurderer har dobbelt anvendelse – herunder virologi, toksikologi og molekylært design – fortsat sendes videre til Opus 5, en model der er mindre kapabel til dette formål. Fable 5 er derfor ifølge virksomheden endnu ikke tilgængelig til professionel biologisk forskning og lægemiddeludvikling i disse følsomme kategorier.

Pointen er ikke selve omdirigeringsmekanismen. Pointen er præcision: Et værn, der blokerer alle spørgsmål om biologi, kan også spænde ben for almindelig læring, klinisk forståelse og rutinearbejde. Et system, der behandler alle biologi-spørgsmål som harmløse, kan omvendt overse følsom hjælp. Færre falske positive er derfor en del af sikkerhedsarbejdet – ikke det modsatte.

Begrænset adgang til de stærkeste modeller

Anthropic har også anvendt kontrolleret adgang til sine Mythos-modeller. Virksomhedens Mythos-side oplyser, at Mythos 5.1 har forbedringer inden for biologi og cybersikkerhed, og at adgangen fortsat er begrænset til en lille gruppe verificerede organisationer. 1

Ved lanceringen af Mythos 5 beskrev Anthropic den som den samme underliggende model som Fable 5, men med visse værn ophævet. Den første udrulning blev begrænset til en mindre gruppe cyberforsvarere og infrastrukturudbydere gennem Project Glasswing. 7

En sådan model fjerner ikke risikoen. Verifikation af brugere, logning, regler for efterfølgende anvendelse og beredskab ved hændelser er stadig nødvendige. Men den bryder med det falske valg mellem fuld offentlig lancering og slet ingen brug: Kapaciteter med højere risiko kan først bruges i snævrere rammer, hvor brugere, formål og tilsyn er tydeligere defineret.

Ét sikkerhedslag er ikke nok

Værn på modelniveau kan svækkes eller omgås gennem andre modeller, finjustering, stjålne adgangsoplysninger, værktøjsintegrationer eller arbejdsforløb, hvor flere personer og systemer udfører hvert sit deltrin. Derfor er adgangskontrol alene ikke en fuld biosecurity-strategi.

RAND skriver i en rapport fra 2026, at intet enkelt værn kan forhindre AI-assisteret biologisk misbrug. Organisationen identificerer ni indsatser, som skal reducere risikoen på forskellige punkter i et muligt angrebsforløb og over for forskellige aktører.

I praksis peger det mod en kombination af:

1. modeltest og klare tærskler for udrulning;
2. forholdsmæssige begrænsninger og programmer for betroet adgang;
3. kundeverifikation, sporbarhed og rapportering, hvor det er relevant;
4. screening og tilsyn ved anskaffelse af biologiske materialer;
5. bedre udbrudsopsporing, overvågning i sundhedsvæsenet og beredskab.

Hvis ét lag svigter, bliver svagheden mindre afgørende, når andre lag fortsat virker.

Screening af DNA- og RNA-syntese er et vigtigt fysisk værn

En idé genereret af AI skal stadig omsættes til virkelige materialer og laboratoriearbejde. Derfor er bestilling og syntese af nukleinsyrer – DNA og RNA – et centralt sted at gribe ind.

Et indspil til det amerikanske AI Safety Institute anbefaler blandt andet databaser over DNA-, RNA- og proteinsekvenser, der giver anledning til bekymring, så værktøjer kan markere potentielt skadelige bestillinger. 17 RAND har også peget på den amerikanske ramme for screening af nukleinsyresyntese samt branchens screening af kommercielle ordrer på biologiske materialer.

Effektiv screening er mere end en liste over sekvenser. Den kan omfatte kontrol af kunder, manuel vurdering af tvivlsomme ordrer, eskaleringsprocedurer og informationsdeling inden for gældende lovgivning. Det løser ikke enhver risiko, men kan gøre det sværere at omsætte farlig digital assistance til fysisk kapacitet.

Biologisk forsvar skal også bevare de gavnlige muligheder

Målet er ikke blot at undertrykke biologisk AI. De samme evner, der kan skabe bekymring om dobbelt anvendelse, kan også støtte sygdomsovervågning, diagnostik, udvikling af medicinske modforanstaltninger og mikrobiel forensik.

I 2026 udpegede Bipartisan Commission on Biodefense under Atlantic Council AI som den 16. teknologiske prioritet i sit Apollo Program for Biodefense. Anbefalingerne omfatter investeringer i AI-understøttet overvågning og diagnostik, medicinske modforanstaltninger, attribution, modelevakuering og værn samt et mere tilpasningsdygtigt sundhedsberedskab.

Bundlinjen

Den mest robuste tilgang er hverken et totalt forbud mod AI i biologien eller blind tillid til chatbotters afslag. Den er forholdsmæssig adgang, grundig test, præcise værn mod forespørgsler med dobbelt anvendelse og beskyttelse ved de fysiske og sundhedsmæssige led, hvor skadelige planer i sidste ende skal føres ud i livet.