Sampura Research haluaa ihmisten säilyttävän viimeisen sanan tekoälyn arvioinnissa

Sampura Research on Lontoossa toimiva tekoälyn turvallisuuteen keskittyvä voittoa tavoittelematon tutkimusjärjestö. Sen lähtökohta on käytännöllinen mutta vaikea kysymys: kuka päättää, toimiiko yhä kyvykkäämpi tekoälyjärjestelmä oikein ja turvallisesti?

Järjestön vastaus ei ole ihmisten poistaminen valvontaketjusta. Sen sijaan Sampura haluaa rakentaa järjestelmiä, joissa ihmiset ja tekoäly jakavat arviointivastuuta. Järjestö kertoo saaneensa Coefficient Givingiltä aluksi 11 miljoonan dollarin apurahan: 7 miljoonaa dollaria ensimmäiselle vuodelle ja lisäksi 4 miljoonaa dollaria luvattuna. 1

Julkistus on päivätty 25. elokuuta 2026, ei 24. elokuuta. Tiedotteessa perustajiksi nimetään Rishub Jain ja Josh Jacob. Aiemmissa sosiaalisen median julkaisuissa mainittiin myös Alex Adams, mutta julkistustiedote ei vahvista, että kaikki kolme perustivat järjestön muodollisesti. 112

Mitä Sampura tarkoittaa tekoälyä arvioivalla ”tuomarilla”?

Sampuran käyttämä judge, eli tuomari tai arvioija, voi olla ihminen, tekoälymalli tai näiden yhdistelmä. Sen tehtävänä on arvioida, onko toisen tekoälyjärjestelmän toiminta oikeellista ja linjassa sille asetettujen tavoitteiden kanssa. Arvioitavana voi olla yksittäinen vastaus, kokonainen keskustelu tai tekoälyagentin useista vaiheista koostuva toimintaketju. 1

Tällä erottelulla on merkitystä, koska valvonta käsitellään usein eri ongelmana kuin mallin kyvykkyys. Tekoäly voi tuottaa sujuvia vastauksia ja suorittaa monimutkaisia tehtäviä, mutta samalla johtaa arvioijaa harhaan, hyödyntää palkkiojärjestelmän aukkoja tai tehdä vaarallisen päätöksen pitkän toimintasarjan aikana.

Sampura kutsuu tutkimuslinjaansa nimellä human–AI complementarity for scalable oversight – ihmisen ja tekoälyn täydentävä yhteistyö skaalautuvassa valvonnassa. Ajatuksena on automatisoida se, missä tekoäly toimii luotettavasti, mutta säilyttää ihmiset mukana tilanteissa, joissa tarvitaan tulkintaa, harkintaa tai arvoihin liittyviä päätöksiä. 1

Miksi pelkkä tekoälyvalvonta ei riitä?

Tekoälyvalvojat ovat houkuttelevia, koska niitä voidaan käyttää nopeasti ja edullisesti suuressa mittakaavassa. Nopeus ei kuitenkaan yksin takaa, että arvioija on luotettava. Sampura nostaa julkistuksessaan esiin useita riskejä:

• Epätasainen suorituskyky: tekoälyn kyvykkyys voi olla ”rosoista”. Malli voi onnistua erinomaisesti yhdessä tehtävässä ja olla yllättävän heikko toisessa.
• Päällekkäiset virheet: ihmiset ja tekoäly voivat tehdä samankaltaisia arviointivirheitä, etenkin jos valvottava malli optimoidaan arviointiprosessia vastaan.
• Manipulointi ja yhteispeli: valvottava järjestelmä voisi yrittää hyödyntää, harhauttaa tai muuten vaikuttaa automaattiseen arvioijaan.
• Uudet tilanteet: ennennäkemättömät tai epäselvät tapaukset voivat vaatia ihmisen harkintaa arvoista sen sijaan, että niissä vain sovellettaisiin opittuja mieltymyksiä.

Tämä ei tarkoita, että ihmisarvioijat olisivat aina tekoälyä parempia. Se kertoo, miksi Sampura haluaa selvittää, millainen ihmisten ja koneiden yhdistelmä toimii parhaiten paineen alla, eikä olettaa, että jompikumpi voisi hoitaa kaikki tilanteet yksin. 1

Miten arvioijia aiotaan testata?

Sampuran ensimmäinen kuuden kuukauden ohjelma keskittyy monipuoliseen arvioijavertailuun, jossa on yli 20 aladatasettiä. Suunniteltuihin aiheisiin kuuluvat petoksen ja harhaanjohtamisen tunnistaminen, kulttuurinen vinouma sekä tekoälyagenttien vaaralliset toimet. 1

Arvioinnit eivät rajoitu staattisiin kysymys–vastaustesteihin. Sampura aikoo myös luoda tilanteita, joissa valvottava malli optimoi toimintaansa suoraan arvioijaa vastaan vahvistusoppimisen aikana. Näin voidaan tutkia, säilyykö arvioijan toimintakyky, kun arvioitavalla järjestelmällä on kannustin löytää ja hyödyntää sen heikkouksia. 1

Tutkimuksessa verrataan kolmea päälinjaa:

1. Ihmisarvioijia, jotka tekevät arvioinnin suoraan.
2. Pelkästään tekoälyyn perustuvia arvioijia, jotka ovat nopeampia ja helpommin skaalattavia.
3. Hybridiarvioijia, joissa ihmiset ja tekoäly jakavat tai koordinoivat arviointityötä.

Tavoitteena ei ole saada korkeaa pistemäärää vain yhdessä kapeassa testissä. Sampura haluaa arvioijia, jotka toimivat luotettavasti laajassa testijoukossa ja kestävät myös tilanteet, joissa valvottavat mallit oppivat hyödyntämään arvioinnin heikkouksia. 1

Miltä ihmisen ja tekoälyn yhteisvalvonta voisi näyttää?

Sampura on hahmotellut useita tapoja yhdistää ihmisen ja koneen arviointia:

• Tekoäly voisi arvioida oman varmuutensa ja siirtää epäselvät tapaukset ihmiselle.
• Reititysjärjestelmä voisi ohjata kokonaisen valvontatehtävän joko ihmiselle tai tekoälylle.
• Monimutkainen tehtävä voitaisiin jakaa pienempiin osiin, joista eri osat annettaisiin ihmisille tai koneille.
• Ihmisarvioijille voitaisiin tarjota käyttöliittymiä ja työkaluja, jotka nopeuttavat vaikeita arviointeja ja tekevät niistä yhdenmukaisempia.

Tässä mallissa ihmisen mukanaolo ei ole joko–tai-vaatimus, vaan optimoitava resurssi. Osa tapauksista voi soveltua halpaan ja luotettavaan automaattiseen tarkistukseen, kun taas toiset oikeuttavat hitaamman ihmisharkinnan. Olennaista ei siis ole ”ihminen vastaan tekoäly”, vaan oikeellisuuden, kustannusten, nopeuden ja tarkoituksellisen huijaamisen kestävyyden välinen tasapaino. 1

Pidemmän aikavälin suunnitelmat

Kun arvioijia on kehitetty paremmiksi, Sampura aikoo tutkia, voivatko ne vähentää palkkioiden manipulointia tekoälymallien koulutuksessa. Lisäksi järjestö haluaa selvittää, kuinka paljon ihmisen osallistumista eri tilanteissa tarvitaan, miten valvontajärjestelmien pitäisi mukautua mallien oppiessa kiertämään niitä ja voidaanko arvioijia käyttää muuhunkin kuin tuotosten luokitteluun. 1

Tämä voisi tarkoittaa esimerkiksi tekoälyjärjestelmien koulutuksessa ja arvioinnissa käytettävien määrittelyjen, ohjeiden, arviointikriteerien ja testitapausten laatimista tai tarkastamista. Sampura kertoo aikovansa julkaista työnsä tutkimusartikkeleina, koodina, datasetteinä ja vertailutaulukoina. 1

Julkistuksen perusteella voidaan vahvistaa yleinen datasetti-, vertailu-, reititys- ja ihmisavusteisen arvioinnin ohjelma. Sen sijaan aineisto ei vahvista kaikkia järjestöön liitettyjä tarkempia hankekuvauksia. Esimerkiksi nimettyä ”forward-looking harm” -datasettiä tai varmistettua avointa ihmisarviointialustaa ei ole ilmoitettu virallisina tuotteina, joten niitä on syytä pitää vahvistamattomina.

Miksi rekrytointi kertoo alan haasteista?

Sampura kertoo palkkaavansa Lontooseen teknisen henkilöstön perustajajoukkoa. Ohjelma vaatii osaamista koneoppimisesta, arviointien suunnittelusta, ihmisen ja tietokoneen vuorovaikutuksesta, datatoiminnoista ja järjestelmien käyttöönotosta. 1

Aiemmissa julkisissa julkaisuissa puhuttiin vähintään kuuden uuden tutkijan palkkaamisesta ja 100 000–290 000 punnan vuosipalkoista, mutta järjestön julkistustiedote ei vahvista näitä tarkkoja lukuja. 1213

Sampura kilpailee samoista asiantuntijoista kuin muutkin tekoälyn arviointiin keskittyvät toimijat. METR:n teknisen henkilöstön arviointitehtävän ilmoituksessa peruspalkaksi ilmoitetaan 285 548–503 116 dollaria vuodessa, ja poikkeuksellisen kokeneille hakijoille voidaan harkita tätä korkeampaa palkkaa. 18

Vertailu havainnollistaa Sampuran haastetta: luotettava valvonta vaatii sekä teknistä tutkimusta että huolellista käytännön arviointia, samalla kun samoista osaajista kilpailevat organisaatiot toimivat nopeasti kasvavalla alalla.

Osa laajempaa huolta siitä, pysyykö valvonta kehityksen mukana

Sampuran julkistus osuu hetkeen, jolloin huoli tekoälyn kehityksen karkaamisesta valvonnan edelle on laajentunut. Heinäkuussa 2026 yli 1 100 suurten tekoäly-yhtiöiden työntekijää allekirjoitti avoimen kirjeen, jossa Yhdysvaltoja pyydettiin tukemaan kansainvälisiä teknisiä ja hallinnollisia välineitä. Niiden avulla tekoälyn eturintaman kehitystä voitaisiin tarvittaessa hidastaa tarkoituksellisesti. Kirje ei vaatinut tekoälyn kehityksen välitöntä pysäyttämistä. 40

Reuters on lisäksi raportoinut Googlen tekoälydivisioonan johtomuutoksista sekä tunnettujen insinöörien ja tutkijoiden siirtymisistä muihin yhtiöihin ja startup-yrityksiin. 49 Nämä tapahtumat tarjoavat taustaa Sampuran perustamiselle, mutta eivät osoita, että järjestö olisi ratkaissut tekoälyn turvallisuuden perusongelmaa.

Mitä Sampura voi tässä vaiheessa luvata – ja mitä ei?

Vahvin saatavilla oleva näyttö tukee kuvaa Sampurasta varhaisvaiheen tutkimusjärjestönä, joka rakentaa tekoälyn valvonnan mittaus- ja päätösinfrastruktuuria. Sen vertailut ja hybridiarvioinnin menetelmät voisivat tulevaisuudessa olla hyödyllisiä tekoälylaboratorioille, riippumattomille arvioijille ja muille mallien toimintaa testaaville organisaatioille. 1

Se on eri asia kuin osoittaa, että Sampura pystyisi hallitsemaan niin sanottuja eturintaman tekoälyjärjestelmiä. Järjestön lähiajan tehtävä on tutkia, miten valvonta pitäisi suunnitella ja testata tilanteessa, jossa valvottava malli on kyvykäs, mukautuva ja mahdollisesti motivoitunut läpäisemään arviointinsa keinolla millä hyvänsä.

Sampuran keskeinen oletus onkin kaksijakoinen: turvallisuuden skaalaaminen vaatii automaatiota, mutta automaation ei pidä poistaa ihmisiä tärkeimpien päätösten ääreltä.