Sampura Research rakentaa ihmisen ja tekoälyn yhteistä valvontaa

Sampura Research on Lontoossa toimiva tekoälyn turvallisuuteen keskittyvä voittoa tavoittelematon järjestö. Sen perustivat entiset Google DeepMind -tutkijat Rishub Jain ja Josh Jacob – järjestön oman julkistuksen perusteella Alex Adams ei ole perustaja. Sampura julkistettiin 25. elokuuta 2026, ja Coefficient Giving on luvannut sille aluksi 11 miljoonan dollarin avustuksen: 7 miljoonaa ensimmäiselle vuodelle ja 4 miljoonaa myöhempää käyttöä varten. Adams mainitaan julkistuksessa palautteen antajana. 4

Miksi Sampura suhtautuu kriittisesti ajatukseen tekoälyn valvomasta tekoälystä?

Tekoälyn turvallisuustutkimuksessa puhutaan usein skaalautuvasta valvonnasta. Tavoitteena on valvoa yhä monimutkaisempia ja autonomisempia malleja ilman, että ihminen joutuu tarkistamaan jokaisen vastauksen tai toimintaketjun.

Käytännössä tämä voi tarkoittaa, että yksi suuri kielimalli arvioi toisen mallin vastauksia. Menetelmä on nopea ja halpa, mutta Sampuran mukaan siinä on perustavanlaatuinen ongelma: ihmisillä on edelleen ominaisuuksia, joita tekoälyllä ei välttämättä ole. Ihmiset voivat esimerkiksi havaita mallien epätasaisia eli niin sanottuja ”rosoisia” virheitä, toimia riippumattomana vastatarkistuksena ja arvioida uusia tai muuttuvia inhimillisiä arvoja.

Sampura varoittaa myös tilanteesta, jossa valvottava malli ja sitä arvioiva malli oppivat kiertämään valvontaa yhdessä. Ihmisen mukanaolo voisi tarjota tähän toisenlaisen näkökulman. 4

Mitä hybridituomarit käytännössä ovat?

Sampuran käyttämä tuomari ei tarkoita välttämättä yhtä tiettyä ohjelmaa. Se voi olla ihminen, tekoälyjärjestelmä tai näiden yhdistelmä, joka arvioi, onko tekoälyn vastaus tai agentin toimintaketju oikea, turvallinen ja tavoitteiden mukainen.

Järjestön suunnitelmassa tekoälytuomarin varmuutta pyritään arvioimaan. Jos järjestelmä vaikuttaa epävarmalta tai tehtävä on erityisen riskialtis, tapaus voidaan siirtää ihmiselle. Erilaiset reitittimet puolestaan voisivat jakaa tehtäviä ja niiden osia ihmisille tai tekoälylle sen perusteella, kumpi soveltuu tilanteeseen paremmin.

Ihmiselle voitaisiin antaa myös tehtäväkohtaista tekoälyapua. Tarkoitus ei siis ole, että ihminen tarkistaa kaiken käsin, vaan että ihmisen työ kohdistetaan kohtiin, joissa se tuottaa eniten turvallisuushyötyä. 4

Tulostaulu ja yli 20 testiaineistoa

Sampuran ensimmäinen kuuden kuukauden ohjelma keskittyy parempien arvioijien rakentamiseen. Järjestö aikoo julkaista jatkuvasti päivittyvän tulostaulun, jossa on yli 20 osa-aineistoa. Niissä tarkastellaan muun muassa:

• petollisen toiminnan tunnistamista
• kulttuurisia vinoumia
• vaarallisia tekoälyagenttien toimintoja
• mallien kykyä arvioida toistensa käyttäytymistä.

Arviointia ei ole tarkoitus tehdä vain valmiilla, staattisilla esimerkeillä. Sampura haluaa testata myös tilanteita, joissa valvottava malli voi vahvistusoppimisen aikana optimoida toimintaansa arvioijaa vastaan. Tämä on tärkeä testi niin sanotun palkkiohakkeroinnin kannalta: malli voi oppia tavoittelemaan arvioinnissa hyvää tulosta sen sijaan, että se todella toimisi halutulla tavalla.

Sampura kertoo julkaisevansa tutkimusartikkeleita, koodia, aineistoja ja tulostauluja avoimesti. 4

Tutkimus ulottuu ”karanneita malleja” laajemmalle

Hankkeen aihepiiri ei rajoitu perinteiseen kuvastoon hallitsemattomasta tai ”karanneesta” tekoälystä. Julkistuksessa mainitaan myös vinoumat, vaaralliset vuorovaikutustilanteet lasten kanssa ja riippuvuus tekoälypohjaisista kumppaneista.

Myöhemmin Sampura haluaa siirtyä vastausten arvioinnista myös niitä ohjaavien ohjeiden, arviointikriteerien ja testitapausten tuottamiseen ja arviointiin. Tavoitteena on ennakoida vikaantumisia jo ennen kuin ne näkyvät käytössä.

Tässä on kuitenkin tärkeä rajaus: kyse on tutkimusohjelmasta, ei osoitetusta kyvystä pitää kehittyneitä tekoälyjärjestelmiä varmasti hallinnassa. 4

Miten ratkaisuja aiotaan testata käytännössä?

Sampura aikoo selvittää, vähentävätkö paremmat tuomarit todella palkkiohakkerointia ja milloin niitä on koulutettava uudelleen mallien muuttuessa. Samalla järjestö joutuu tasapainoilemaan kolmen tekijän välillä: ihmisen osallistumisen kustannusten, arvioinnin nopeuden ja turvallisuuden laadun.

Aluksi järjestelmiä saatetaan testata ulkopuolisten arvioijien avulla. Pidemmän aikavälin tavoitteena on, että niitä voitaisiin käyttää edistyneiden tekoälymallien kehityksessä, arvioinneissa ja käytön aikaisessa valvonnassa. 4

Miksi rekrytointi on osa turvallisuuskysymystä?

Tekoälyn arviointiin perehtyneistä ihmisistä on pulaa. METR-järjestön julkaisemassa arviointitehtävässä vuosipalkaksi ilmoitetaan 285a0548–503a0116 Yhdysvaltain dollaria, ja poikkeuksellisen kokeneille hakijoille voidaan tarjota vielä enemmän. Tämä havainnollistaa, kuinka vaikeaa alan osaajien löytäminen on. 9

Sampura kertoo rekrytoivansa Lontooseen teknistä perustajajoukkoa. Sen sijaan väitteelle, että järjestö palkkaisi varmasti vähintään kuusi tutkijaa 100a0000–290a0000 punnan vuosipalkoilla, ei tässä aineistossa ole riittävää ensisijaista lähdetukea. Sampuran oma ilmoitus puhuu teknisen henkilöstön rekrytoinnista Lontoossa, mutta ei vahvista näitä tarkkoja määriä tai palkkoja. 4

Yhteys vaatimuksiin tekoälyn hidastamisen mahdollisuudesta

Yli 1a0100 tekoälyalan työntekijää allekirjoitti heinäkuussa 2026 avoimen kirjeen, jossa vaadittiin kansainvälisiä teknisiä ja hallinnollisia valmiuksia hidastaa kehittyneiden tekoälyjärjestelmien kehitystä, jos se etenee ihmisten turvallisen valvonnan edelle. Kirje ei vaatinut välitöntä kehityskieltoa, vaan mahdollisuutta hidastaa tahtia tarvittaessa. 1

Sampuran työ voisi tarjota yhden teknisen edellytyksen tällaiselle päätöksenteolle: luotettavampia ja paremmin auditoitavia arviointeja. Se ei kuitenkaan yksin pysty luomaan lainsäädäntövaltaa, kansainvälistä koordinointia, pääsyä malleihin tai keinoja sääntöjen toimeenpanemiseksi. Siksi järjestön työ täydentää hallintoa ja sääntelyä, ei korvaa niitä.

Entä DeepMindin tutkijoiden lähdöt?

Jainin lähtö ajoittui aikaan, jolloin Google DeepMindistä raportoitiin useista merkittävistä henkilövaihdoksista. Väite viiden keskeisen tutkijan lähtemisestä kuuden päivän sisällä näyttää kuitenkin perustuvan heikkolaatuisempaan toissijaiseen raportointiin, eikä sitä pidä pitää tässä aineistossa itsenäisesti varmistettuna. 5

Samoin käytettävissä olevat lähteet eivät todista laajaa väitettä siitä, etteivät tekoäly-yhtiöt pystyisi hallitsemaan rakentamiaan järjestelmiä. Varovaisempi johtopäätös on tämä: yhä kyvykkäämpien mallien luotettava valvonta on edelleen osoittamatta, arviointiosaajista on pulaa, ja Sampura yrittää tehdä ihmisen osallistumisesta skaalautuvampaa ja kestävämpää.

Sen perusajatus on siis vastakkainen kuin ”tekoäly valvoo tekoälyä” -mallissa: ihmistä ei haluta poistaa valvontaketjusta, vaan käyttää hänen panostaan siellä, missä se tuo eniten lisäturvaa.