Exin Therapeuticsin toimitusjohtaja Gabriel Ocana Santero kertoo, että tekoälyagentti valitsi geeniterapian ja ohjasi sen pistämistä epilepsiaa sairastavan hiiren aivoihin. Kokeessa yhdistyivät tekoälyn tekemät valinnat ja moottoroitu leikkauslaite, mutta kyse ei ollut täysin itsenäisestä toimenpiteestä: mukana oli ihmiskirurgi ja eläinlääketieteellinen valvonta.
2
5
7 Hiiren kerrotaan toipuneen, mutta saatavilla olevista tiedoista ei käy ilmi, vähensikö hoito sen kohtauksia.
3
6
Mitä Exinin mukaan tapahtui?
San Franciscossa toimiva Exin on startup-yritys, joka käyttää tekoälyä aivojen toiminnan analysointiin ja kehittää hoitoja epilepsiaan sekä hermoston rappeumasairauksiin.
2 Santeron mukaan kokeessa agentille annettiin epilepsiaa sairastavan hiiren malli, taulukko 19 geeniterapiavaihtoehdosta, pääsy kameralla varustettuun leikkauslaitteistoon ja tavoitteeksi kohtausten vähentäminen.
4
5
Agentti valitsi hoidon, jonka tarkoituksena oli vahvistaa GABA-välittäjäaineen toimintaa. GABA on hermoston estävään viestintään liittyvä järjestelmä, joka hillitsee hermosolujen aktiivisuutta. Agentti valitsi kohteeksi lateraalisen entorinaalisen aivokuoren ja määritti pistoksen koordinaatit kolmen tieteellisen artikkelin perusteella.
4
7
14
Raporttien mukaan agentti ohjasi laitetta, joka annosteli 250 nanolitraa viiden minuutin aikana. Se valitsi myös moottorin nopeuden ja odotusajat. Kamera välitti agentille näkymän pistosalueesta, jotta se saattoi tarkkailla esimerkiksi verenvuotoa tai nesteen takaisinvirtausta.
18
19
20
Miksi tekoälylle annettiin pääsy laboratoriolaitteisiin?
Kokeessa testattiin muutakin kuin sitä, osaako tekoäly ehdottaa hoitoa tai analysoida tuloksia. Santero kuvaili laitteiden suoraa käyttöoikeutta askeleeksi kohti agentteja, jotka voivat toimia laboratoriossa eivätkä vain auttaa kokeiden suunnittelussa tai tulkinnassa.
11 Exinin laajempi ilmoitettu tavoite on käyttää tekoälyä aivotoiminnan tutkimiseen ja uusien hermostoon vaikuttavien hoitojen kehittämiseen.
2
Ero on olennainen: kun agentti pystyy käyttämään fyysisiä laitteita, sen valinnat voivat vaikuttaa käynnissä olevaan kokeeseen reaaliajassa. Tässä tapauksessa tehtävään kuului hoitovaihtoehdon ja kohdealueen valinta, koordinaattien laskeminen sekä pistoslaitteen ohjaaminen.
4
18
Ihmisten rooli ja koordinaattivirhe
Agentti ei tehnyt toimenpiteen kaikkia vaiheita. Ihmiskirurgi avasi hiiren kallon, ja raporttien mukaan ihminen hyväksyi suunnitelman sekä eläinlääkäri valvoi kriittisiä vaiheita.
5
7
18 Saatavilla olevat kuvaukset eivät kuitenkaan kerro kattavasti, miten turvallisuusjärjestelyt oli toteutettu, joten niiden perusteella ei voi muodostaa täydellistä kuvaa riskien hallinnasta.
Toimenpiteessä ilmeni myös laitteen asemointiin liittyvä ongelma. Raporttien mukaan laskettu Y-akselin tavoite oli 34 millimetriä, vaikka laitteen ilmoitettu liikerata ulottui 30 millimetriin. Agentti kieltäytyi jatkamasta myös kalibrointiyrityksen jälkeen.
17
20 Kuvauksissa mainitaan sekä uudelleenkalibrointi että erillinen koodimuutos, mutta niistä ei käy luotettavasti ilmi, missä järjestyksessä korjaukset tehtiin tai kuinka paljon ongelma pidensi toimenpidettä.
17
25
Claude-mallien kerrotaan toimineen eri tavoin
Kuvausten mukaan Claude Opus 5.5 kieltäytyi aluksi ohjaamasta neulaa. Se perusteli ratkaisuaan riskillä, että toimenpide voisi keskeytyä kesken kaiken. Raporttien mukaan laitetta ohjasi lopulta Claude Sonnet 5.
4
5
9
Claude Opus 5:n rooli on epäselvempi. Yhden raportin mukaan se kieltäytyi tekemästä varsinaista toimenpidettä kuivaharjoituksen jälkeen. Toisessa kuvauksessa erillinen Opus 5 -agentti muutti laitteiston koodia tietämättä, että käynnissä oli elävälle eläimelle tehtävä toimenpide.
23
25 Saatavilla olevat tiedot eivät sovita näitä kuvauksia yhteen eivätkä selvennä tapahtumien tarkkaa järjestystä, joten Opus 5:n osuudesta on syytä puhua varauksin.
Toipuminen ei vielä kerro hoidon tehosta
Hiiren kerrotaan toipuneen toimenpiteestä.
6
8 Se ei kuitenkaan osoita, että geeniterapia olisi vähentänyt kohtauksia. Aikalaisraporttien mukaan kohtaustuloksia ei ollut saatavilla, eikä käytettävissä oleva aineisto vahvista hoidon tehoa.
3
6
Kokeesta on siksi perusteltua puhua raportoituna esimerkkinä siitä, että tekoälyagentti teki hoitoon ja laitteiden käyttöön liittyviä päätöksiä elävällä eläimellä tehdyssä toimenpiteessä – ei näyttönä siitä, että ehdotettu epilepsiahoito toimisi. Saatavilla olevat lähteet eivät myöskään osoita, että tulokset olisi vertaisarvioitu tai että niistä olisi julkaistu tutkimusartikkeli.
6
28
Mitä vielä ei tiedetä?
Tekoälyagentin päästäminen ohjaamaan laitteita eläinkokeessa herättää kysymyksiä valvonnasta, eläinten hyvinvoinnista ja vastuunjaosta. Kysymykset korostuvat, jos järjestelmä kohtaa teknisen vian tai jos toinen agentti muuttaa laitteiston toimintaa ymmärtämättä toimenpiteen olevan käynnissä. Nämä ovat kokeen kuvauksen herättämiä kysymyksiä, eivät todiste siitä, että sääntöjä olisi rikottu tai asianmukainen hyväksyntä puuttunut.
17
25
Keskeiset väitteet perustuvat Exinin ja sen toimitusjohtajan kertomukseen. Menettelyn, turvajärjestelyjen ja hoidon mahdollisen vaikutuksen arviointi edellyttäisi tarkempia protokollia ja julkaistuja tulostietoja.