Tekoälyn biouhkariskiä torjutaan usealla suojakerroksella – ei vain chatbotin estoilla

Tieteellinen tekoäly voi nopeuttaa biologian, lääketieteen ja lääkeaineiden kehitystyötä. Samalla yhä kyvykkäämmät mallit voivat madaltaa osaa kemialliseen tai biologiseen väärinkäyttöön liittyvästä tietämyksen, ongelmanratkaisun ja koordinoinnin kynnyksestä.

Siksi turvallisuusratkaisu ei ole yksi yleinen kielto. Kehittyvä käytäntö on kerroksittainen puolustus: mallien kyvykkyyttä arvioidaan, herkkiä toimintoja annetaan vain rajatusti käyttöön, käyttöä valvotaan ja suojauksia rakennetaan myös niihin fyysisiin vaiheisiin, joissa suunnitelma voisi muuttua todelliseksi toiminnaksi.

Kyse on mitattavasta kyvykkyysedusta

Keskeinen kysymys ei ole, pystyykö tavallinen julkinen chatbot antamaan valmiin ohjeen biologisen aseen valmistamiseen. Olennaisempaa on, voisiko malli tehdä vaarallisesta hankkeesta tuntuvasti helpomman: lyhentää aikaa, vähentää tarvittavaa erikoisosaamista, auttaa virheiden selvittämisessä tai keventää monivaiheisen työn koordinointia.

Pelkkä tekstin tuottaminen ei itsessään synnytä biologista haittaa. Tarvitaan myös materiaaleja, laitteita, osaamista ja käytännön toteutusta. Nykyisiä perusmalleja käsittelevä työpaperi tarkastelee riskiä nimenomaan sen kautta, kykenevätkö mallit opastamaan käyttäjää teknisesti vaativissa kehitysprosesseissa – eivät vain yksittäisen vaarallisen kehotteen kautta.

Miltä laboratorioiden toimintamalli näyttää

Huippumallien turvallisuustyössä on hahmottumassa useita rinnakkaisia käytäntöjä:

• Kyvykkyysarvioinnit: malleja testataan asiantuntijoiden ja haastavien käyttöskenaarioiden avulla, jotta nähdään, ylittääkö niiden biologia- tai kemia-apu tavanomaisesti saatavilla olevan tiedon merkityksellisellä tavalla.
• Tarkasti kohdennetut suojaukset: korkean riskin kaksikäyttöisiin pyyntöihin voidaan kieltäytyä vastaamasta, ohjata turvallisempaan tietoon tai rajoittaa pääsyä, mutta vähäriskinen opetus-, terveys- ja tutkimuskäyttö pyritään mahdollisuuksien mukaan säilyttämään.
• Portaittainen käyttöönotto: herkimmät kyvykkyydet tarjotaan ensin tarkastetuille käyttäjille tai organisaatioille määritellyin ehdoin, eikä kaikille avoimesti.
• Jatkuva säätö: luokittelijoita ja käyttöehtoja muutetaan, jos ne estävät liikaa perusteltua käyttöä tai jos mallit kehittyvät.
• Fyysiset suojapisteet: huomio kohdistuu myös esimerkiksi biologisten materiaalien hankintaan, jossa digitaalisen avun pitäisi muuttua konkreettiseksi toiminnaksi.

Tämä on käytännöllisempi lähtökohta kuin ajatus siitä, että mallin käytöksen hallinta yksin olisi koko bioturvallisuusstrategia.

Anthropic pyrkii vähentämään turhia estoja avaamatta riskialtista tutkimuskäyttöä

Anthropicin Fable 5 -päivitys kuvaa turvallisuuden ja hyödyllisyyden välistä tasapainoa. Yhtiö kertoo vähentäneensä biologisiin kysymyksiin liittyviä niin sanottuja fallback-tilanteita – joissa järjestelmä vaihtaa vähemmän kyvykkääseen malliin – noin 85 prosenttia eri tuotteissaan. Näin Fable 5 voi auttaa aiempaa laajemmissa biologian tehtävissä.

Samalla Anthropic kertoo ohjaavansa kaksikäyttöisiksi luokittelemansa pyynnöt, kuten virologiaa, toksikologiaa ja molekyylisuunnittelua koskevat kyselyt, edelleen Opus 5 -mallille. Yhtiön mukaan Fable 5 ei siksi ole vielä käytettävissä ammattimaiseen biologian tutkimukseen tai lääkeainekehitykseen näillä herkiksi katsotuilla alueilla.

Ajatus ei ole kiinni vain tästä yhdestä teknisestä reitityksestä. Jos suojaus estää jokaisen biologisen kysymyksen, se voi hankaloittaa perusteltua opiskelua, kliinisen tiedon tulkintaa ja tavanomaista tieteellistä työtä. Jos taas kaikki biologiset pyynnöt katsotaan harmittomiksi, järjestelmä voi tarjota apua, jonka riski on aidosti suurempi. Turhien osumien vähentäminen voi siten olla osa turvallisuutta, ei sen vastakohta.

Kyvykkäämmille malleille rajattu pääsy

Anthropic on käyttänyt rajattua pääsyä myös Mythos-luokan malleissaan. Yhtiön Mythos-sivun mukaan Mythos 5.1 on kehittynyt kyberturvallisuudessa ja biologiassa, ja pääsy on edelleen rajattu pienelle joukolle tarkastettuja organisaatioita. 1

Mythos 5:n julkistuksen yhteydessä Anthropic kertoi mallin perustuvan samaan taustamalliin kuin Fable 5, mutta joiltakin osin kevennetyin suojauksin. Ensivaiheessa käyttöönotto rajattiin Project Glasswing -ohjelmassa pieneen joukkoon kyberpuolustajia ja infrastruktuuritoimijoita. 7

Rajattu käyttö ei poista riskiä. Tarkastetun pääsyn lisäksi tarvitaan esimerkiksi käytön lokitusta, jatkokäytön hallintaa ja toimintaa mahdollisten poikkeamien varalta. Malli kuitenkin tarjoaa vaihtoehdon kahdelle ääripäälle: täydelle julkiselle julkaisulle ja sille, ettei mallia käytetä lainkaan. Suuremman riskin kyvykkyyksiä voidaan kokeilla ensin ympäristöissä, joissa käyttäjät, käyttötarkoitukset ja valvonta ovat selvemmin määriteltyjä.

Miksi mallin suojaukset eivät yksin riitä

Mallitasoinen suojaus voidaan joissain tilanteissa kiertää tai sen teho voi heikentyä vaihtoehtoisten mallien, hienosäädön, varastettujen tunnusten, työkaluliitäntöjen tai hajautetun työnkulun vuoksi. Eri ihmiset tai järjestelmät voivat hoitaa haitallisen prosessin eri osia.

RANDin vuoden 2026 kerroksittaista puolustusta käsittelevä raportti tiivistää asian suoraan: mikään yksittäinen suojaus ei voi estää tekoälyavusteista biologista väärinkäyttöä. Raportti tunnistaa yhdeksän toimenpidettä, joiden tarkoitus on pienentää riskiä hyökkäyspolun eri kohdissa ja eri toimijoiden osalta.

Käytännössä vahva suoja muodostuisi esimerkiksi näistä osista:

1. mallien arvioinneista ja käyttöönoton kynnysarvoista;
2. riskin mukaisista rajoituksista ja luotetun pääsyn ohjelmista;
3. asiakkaiden tunnistamisesta, auditointimahdollisuuksista ja tarvittaessa raportoinnista;
4. biologisten materiaalien hankinnan seulonnasta ja valvonnasta;
5. tautiryppäiden havaitsemisen, kansanterveysseurannan ja reagointikyvyn vahvistamisesta.

Jos yksi kerros pettää, muut voivat silti vaikeuttaa haitallisen hankkeen etenemistä.

DNA- ja RNA-synteesin seulonta on fyysinen turvaverkko

Tekoälyn synnyttämät ideat on vielä muutettava materiaaleiksi ja laboratoriotyöksi. Siksi nukleiinihappojen synteesi on merkittävä puuttumiskohta.

Yhdysvaltain AI Safety Institute -aloitteeseen toimitetussa lausunnossa esitetään muun muassa huolta aiheuttavien DNA-, RNA- ja proteiinisekvenssien tietokantoja. Ne voisivat auttaa työkaluja havaitsemaan mahdollisesti haitallisia tilauksia. 17 RAND on puolestaan nostanut esiin Yhdysvaltain nukleiinihapposynteesin seulontakehyksen sekä kaupallisten biologisten materiaalitilausten alan seulontakäytäntöjä.

Toimiva seulonta on muutakin kuin sekvenssiluettelo. Siihen voi kuulua asiakkaan henkilöllisyyden varmistamista, epäselvien tilausten arviointia, eskalointimenettelyjä ja lainsäädännön puitteissa toteutettavaa tiedonjakoa. Keinot eivät ratkaise kaikkia riskejä, mutta ne voivat tehdä vaarallisen laskennallisen avun muuttamisesta fyysiseksi kyvykkyydeksi vaikeampaa.

Biopuolustuksessa rajoituksia yhdistetään hyödyllisiin käyttötapoihin

Politiikan haaste ei ole vain biologisen tekoälyn tukahduttaminen. Samat kyvykkyydet, joihin liittyy kaksikäyttöriski, voivat tukea tautiseurantaa, diagnostiikkaa, lääketieteellisten vastatoimien kehitystä ja mikrobiforensiikkaa.

Atlantic Councilin yhteydessä toimiva Bipartisan Commission on Biodefense nimesi tekoälyn vuonna 2026 kuudenneksitoista teknologiakärjekseen Apollo Program for Biodefense -ohjelmassa. Suosituksissa kehotetaan investoimaan tekoälyavusteiseen seurantaan ja diagnostiikkaan, lääketieteellisiin vastatoimiin, alkuperän selvittämiseen, mallien arviointiin ja suojauksiin sekä mukautuvaan kansanterveysvasteeseen.

Laajemman keskustelun kannalta kehys on selkeä: väärinkäytön mahdollisuuksia on vähennettävä, mutta samalla on säilytettävä mahdollisuus parantaa varautumista ja lääketieteellistä tutkimusta.

Johtopäätös

Julkisesti saatavilla oleva näyttö ei tue väitettä, että tavallinen chatbot olisi valmis väylä biologisen aseen suunnittelusta toteutukseen. Se ei kuitenkaan ole se mittari, jota laboratorioissa ja päätöksenteossa käytetään. Valmistautuminen kohdistuu mahdollisuuteen, että tulevat tieteelliset mallit tuottavat joillekin käyttäjille mitattavaa biologista kyvykkyysetua.

Siksi vahvin vastaus ei ole biologian yleiskielto eikä luottamus pelkkiin chatbotin kieltäytymisiin. Se on suhteutettu pääsy, huolellinen testaus, kaksikäyttöisten pyyntöjen täsmäsuojaukset sekä fyysisiin ja kansanterveyden kerroksiin ulottuva puolustus, joissa haitallinen suunnitelma olisi lopulta pantava toimeen.