OpenAI haluaa riippumattomat turvallisuusarviot mukaan jo ennen mallin julkaisua

OpenAI kertoo aikovansa tukea riippumattomia teknisiä turvallisuusarvioita aiempaa varhaisemmassa vaiheessa tehokkaiden eli niin sanottujen frontier-tekoälymallien kehitystä. Ulkopuolisten organisaatioiden olisi tarkoitus arvioida malleja koulutuksen, testauksen ja käyttöönoton aikana – ei vain juuri ennen julkaisua. Tavoitteena on testata turvallisuusväitteitä, löytää kehitystyön katveita ja selvittää, toimivatko riskienhallintatoimet todella. 5

Muutos laajentaa tavanomaista ennen julkaisua tehtävää red team -testausta, jossa asiantuntijat pyrkivät löytämään mallista vaarallisia tai ei-toivottuja toimintatapoja. Kyse on silti toistaiseksi vapaaehtoisesta toimintakehyksestä, ei ulkopuolisesta lupajärjestelmästä eikä sitovasta velvollisuudesta keskeyttää käyttöönotto. Käytännön merkitys riippuu siitä, millaisen pääsyn arvioijat saavat, kuinka riippumattomia he ovat ja mitä tapahtuu, jos he löytävät vakavan riskin.

Mitä ulkopuolisten arvioijien on tarkoitus tutkia?

OpenAI kuvaa kolmannen osapuolen arvioinnit keinoksi tarkistaa riippumattomasti näyttöä, jolla perustellaan väitteitä mallien kyvykkyyksistä, riskeistä ja suojatoimista. Yhtiön mukaan arvioijille pitäisi tarjota syvällinen pääsy koulutuksen, arvioinnin ja käyttöönoton eri vaiheisiin. 5

Kehyksestä kertovan raportoinnin mukaan yksi painopiste on tekoälylaboratorion turvallisuustapauksen riippumaton arviointi. Tarkastelu ulottuisi koulutukseen, sisäiseen käyttöön ja ulkoiseen käyttöönottoon. Kehys sisältää neljä arviointialuetta ja seitsemän toimintaperiaatetta; laboratorioille annettaisiin aikaa korjata löydöksiä ennen niiden julkaisemista, ja ne voisivat pyytää tietojen peittämistä julkisista raporteista. 2

Varhainen pääsy on tärkeää, koska vasta kehityksen lopussa tehty arvio voi paljastaa ongelmia siinä vaiheessa, kun teknisiä ja kaupallisia päätöksiä on jo vaikea perua. Toisaalta varhainen tarkastus voi merkitä pääsyä arkaluonteisiin mallipainoihin, kyvykkyystietoihin ja testimateriaaleihin. Tämä luo aidon tietoturvahaasteen, jota arviointijärjestelyn on hallittava.

Neljä ehtoa uskottavalle arvioinnille

OpenAI nimeää toimivan ulkopuolisen arvioinnin neljäksi perusvaatimukseksi vahvat riippumattomuusmekanismit, tieteellisen tarkkuuden, kestävät tietoturvakäytännöt sekä selkeän vastuunjaon. 5

Riippumattomuus

Arviointi ei ole aidosti riippumatonta, jos mallin kehittäjä voi sanella menetelmät, kaventaa pääsyä epämieluisan tuloksen jälkeen tai lopettaa rahoituksen, koska ei pidä johtopäätöksistä. Riippumattomuus koskee siis hallintoa, rahoitusta, arvioinnin laajuutta ja viestintää – ei vain sitä, onko arvioija muodollisesti yrityksen ulkopuolella.

Arvioijien koalitio on vaatinut sisällöllistä riippumattomuutta: arvioijien ei pitäisi olla arvioitavien yhtiöiden omistuksessa tai määräysvallassa, ja niillä pitäisi olla oikeus julkaista keskeiset havainnot vain tarkasti rajattuja tietoturvapeittelyjä lukuun ottamatta. 1734

Tieteellinen tarkkuus

Arviointi tarvitsee pätevät asiantuntijat, toimivat menetelmät ja näytön, jota voidaan tarkastella tai toistaa. Future of Life Instituten AI Safety Index katsoo, että arviointien menetelmiä ja riippumattomuutta on vahvistettava: irrallisten, heikosti pätevien tehtävätestien sijaan tarvitaan uskottavia ulkopuolisia arvioijia. 812

Tietoturva

Ulkopuolisten varhaisempi pääsy huippuluokan järjestelmiin voi itsessään kasvattaa riskejä. OpenAI korostaa, että kehittäjien on mahdollistettava merkityksellinen tarkastelu samalla, kun arkaluonteista tietoa suojataan. 5 Tietoturvatoimien pitäisi vähentää tarpeetonta altistumista, mutta niiden ei pitäisi muodostua yleisperusteeksi, jolla arviointi estetään tai olennaiset havainnot salataan.

Selkeät vastuut ja tilivelvollisuus

Uskottavassa prosessissa on määriteltävä, kuka tarjoaa pääsyn tietoihin, kuka valitsee menetelmät, kuka vastaanottaa löydökset, kuka päättää ovatko korjaukset riittäviä ja mitä tehdään, jos vakava ongelma jää ratkaisematta. Tarvitaan myös selkeät raportointi- ja eskalointikanavat. Muussa tapauksessa arviointi voi jäädä neuvoksi, jonka johto voi sivuuttaa ilman julkista jälkeä.

Arviointi ei ratkaise kohdistamisongelmaa

Kolmannen osapuolen arviointi on valvontamekanismi, ei tekninen ratkaisu tekoälyn kohdistamiseen ihmisten tavoitteisiin ja arvoihin. Sen tehtävä on testata, tukeeko näyttö yrityksen väitteitä riskeistä ja niitä lieventävistä toimista.

Erillisessä Yhdysvaltain liittovaltiotason politiikkalinjauksessaan OpenAI esittää, että huippumallien kehittäjien tulisi arvioida ja lieventää kyberkyvykkyyksiin, kemiallisiin, biologisiin, radiologisiin ja ydinriskeihin (CBRN), hallinnan menettämiseen, kohdistamattomuuteen sekä rekursiiviseen itseparantamiseen (RSI) liittyviä riskejä. Yhtiö vaatii myös julkisia turvallisuuskehyksiä ja läpinäkyvyysraportteja, joista voidaan peittää tietoturvan ja liikesalaisuuksien kannalta arkaluonteisia tietoja. 7

Ulkopuoliset arvioijat voisivat tässä asetelmassa auttaa varmistamaan, ovatko kehittäjän omat testit ja suojatoimet uskottavia. Ne eivät kuitenkaan yksin ratkaise hallinnan menettämiseen, kohdistamiseen tai RSI:hin liittyviä riskejä.

Miten OpenAI:n malli eroaa Anthropicin upotetuista arvioijista?

Anthropicin toimitusjohtaja Dario Amodei on esittänyt jatkuvampaa mallia: kolmannen osapuolen arvioijille annettaisiin tekoälylaboratorioissa työntekijämäisen jatkuva pääsy. He tarkastelisivat valmiiden mallien lisäksi koulutusputkia, käyttöönoton käytäntöjä, sisäisiä suojatoimia ja merkittäviä turvallisuuspoikkeamia. 1821

Anthropic on ilmoittanut järjestelystä, jossa Accenturen henkilöstöä työskentelee yhtiön sisällä arvioimassa malleja ja yhtiön toimintatapoja. Samalla yhtiö on kertonut keskustelevansa pilottihankkeista muiden organisaatioiden kanssa. Anthropic on myös myöntänyt, ettei arvioijien pääsystä tai viestinnästä ole vielä vakiintuneita standardeja. 1922

OpenAI:n julkaistu kehys tavoittelee samoin aiempaa ja syvempää tarkastelua. Sen julkinen kuvaus painottuu kuitenkin teknisiin arviointeihin kehityksen eri vaiheissa. Se, tarjoaako malli Anthropicin esittämän kaltaista jatkuvaa pääsyä, riippuu toteutuksen yksityiskohdista, joita ei ole vielä julkistettu kattavasti. 5

Yhteiset standardit ovat osa kiistaa

Raporttien mukaan Anthropic, OpenAI ja Google DeepMind ovat keskustelleet yhteisestä, vapaaehtoisesta tekoälytietoturvan standardointielimestä. 20 Yhteiset standardit voisivat helpottaa arviointimenetelmien vertailua, riskikynnysten määrittelyä ja yhtenäisten käytäntöjen luomista turvallisuuspoikkeamien raportointiin.

Pelkkä standardointielin ei kuitenkaan automaattisesti poista eturistiriitoja eikä luo valvontaa tai sanktioita. Vapaaehtoinen standardi on vahvimmillaan, kun sitä tukevat läpinäkyvä mittaaminen, riippumaton varmistus ja merkitykselliset seuraukset sääntöjen rikkomisesta.

Miksi kriitikot epäilevät vapaaehtoista valvontaa?

Kriitikot eivät välttämättä vastusta ulkopuolista testausta. Epäily kohdistuu siihen, voiko yhtiön hallitsema järjestely tuottaa aitoa ulkopuolista valvontaa. Huolena on, että kehittäjä voi edelleen valita arvioijat, määrittää pääsyn laajuuden, viivyttää työtä, pyytää peittelyjä tai ottaa mallin käyttöön kielteisistä löydöksistä huolimatta.

Keskeiset kysymykset ovat:

• Rahoitus ja institutionaalinen riippumattomuus: Arvioijat tarvitsevat suojan taloudellista painostusta ja epämieluisista johtopäätöksistä seuraavaa yhteistyön lopettamista vastaan. 1734
• Oikea-aikainen ja riittävä pääsy: Testauksen on ulotuttava olennaisiin malleihin, järjestelmiin ja kehityspäätöksiin tarpeeksi varhain, jotta se voi vaikuttaa lopputulokseen.
• Vapaus kertoa löydöksistä: Tietoturvasyistä tehdyt peittelyt voivat olla perusteltuja, mutta niiden on oltava kapeasti rajattuja. Säännöt eivät saa antaa yhtiölle mahdollisuutta häivyttää haitallisen löydöksen ydinsisältöä. 217
• Eskalointi ja seuraukset: Arvioinnilla on oltava reitti päätöksentekijöille sekä ennalta määritelty toimintatapa tilanteisiin, joissa riski ylittää sovitun kynnyksen.

Entinen OpenAI-tutkija Daniel Kokotajlo on arvostellut johtavia laboratorioita siitä, että ne etenevät nopeasti markkinaosuuksien tavoittelussa. Tämä heijastaa laajempaa huolta siitä, että kilpailu- ja rahoituspaineet tekevät vapaaehtoisista viivästyksistä kalliita. 3640 Kyse on rakenteellisesta ongelmasta: jos yhtiö säilyttää yksipuolisen vallan pääsyyn, julkaisemiseen ja käyttöönottoon, ulkopuolinen arviointi voi parantaa saatavilla olevaa näyttöä ilman, että siitä tulee riippumatonta valvontaa.

Johtopäätös

OpenAI:n ehdotus tuo turvallisuusarvioinnin aiempaan vaiheeseen, jossa havainnot voivat periaatteessa vielä vaikuttaa koulutus- ja käyttöönoton päätöksiin. Yhtiön neljä periaatetta – riippumattomuus, tieteellinen tarkkuus, tietoturva ja selkeä vastuunjako – ovat järkeviä mittapuita. 5

Ratkaisevaa on, muuttuvatko ne käytännön, sitoviksi toimintatavoiksi: säilyykö arvioijilla pääsy tietoihin, saavatko he valita menetelmänsä, voiko haitallisista löydöksistä raportoida suojatusti, miten peittelypyynnöt käsitellään ja onko vakaviin havaintoihin uskottava reagointiprosessi. Ilman näitä suojauksia varhainen ulkopuolinen arviointi voi olla hyödyllistä red team -testausta, mutta se ei vielä vastaa sitä riippumatonta valvontaa, jota kriitikot vaativat.