OpenAI:n Private Safety Processing yhdistää väärinkäytön merkit ilman asiakassisällön säilyttämistä

OpenAI esittelee Private Safety Processing -järjestelmää, jonka tarkoitus on tunnistaa tekoälypalvelujen väärinkäyttöä myös silloin, kun riskin merkit jakautuvat useisiin keskusteluihin. Ratkaisu on suunnattu sovellusrajapinnan eli API:n hyväksytyille asiakkaille, jotka käyttävät Zero Data Retention -mallia (ZDR), jossa kehotteita ja mallin vastauksia ei säilytetä normaalisti pyynnön käsittelyn jälkeen.

Lupaus on kaksiosainen: OpenAI haluaa havaita pitkälle hajautettuja väärinkäyttökuvioita, mutta samalla pitää asiakassisällön asiakkaan hallinnassa eikä antaa yhtiön työntekijöille oletusarvoista pääsyä siihen.

Mikä ongelma yksittäisten pyyntöjen valvonnassa on?

Tavalliset ZDR-suojaukset arvioivat pyynnöt ja vastaukset yksitellen. Se toimii, jos haitallinen tavoite näkyy jo yhdessä pyynnössä. Kehittyneemmissä ja pidemmissä työnkuluissa näin ei kuitenkaan aina ole.

Käyttäjä tai haitallinen tekoälyagentti voi esimerkiksi jakaa toiminnan useisiin tileihin, istuntoihin tai pyyntöihin. Yksi pyyntö saattaa näyttää harmittomalta, vaikka useiden pyyntöjen kokonaisuus muodostaisi yrityksen kiertää suojakaiteita tai rakentaa haittaohjelmaa vaiheittain. Private Safety Processing on suunniteltu tunnistamaan juuri tällaisia usean vuorovaikutuksen välisiä yhteyksiä.

Näin Private Safety Processing toimii

OpenAI:n mukaan järjestelmä laajentaa aiempaa automaattista valvontaa yksittäisistä vuorovaikutuksista toisiinsa liittyvien vuorovaikutusten kokonaisuuksiin. Automaattiset järjestelmät arvioivat toimintamalleja ja etsivät mahdollisia väärinkäytön merkkejä ilman, että OpenAI:n henkilöstö näkee taustalla olevia kehotteita tai vastauksia.

ZDR-käyttöönotossa asiakassisältö voidaan OpenAI:n mukaan pitää asiakkaan hallinnoimassa infrastruktuurissa. Toisessa, OpenAI:n isännöimässä tallennusmallissa sisältö salataan avaimilla, joita asiakas hallitsee OpenAI:n henkilöstön sijaan.

Tärkeä ero on analyysin ja säilyttämisen välillä: järjestelmä voi analysoida liittyvää toimintaa turvallisuustarkoituksessa, vaikka alkuperäistä sisältöä ei säilytetä OpenAI:n henkilöstön luettavassa muodossa.

Käytännössä prosessi voidaan kuvata näin:

1. Automaattiset järjestelmät tarkastelevat toisiinsa liittyviä vuorovaikutuksia ja etsivät haitallista kokonaiskuviota.
2. Jos riski ylittää määritellyn raja-arvon, järjestelmä tuottaa rajatun turvallisuusluokituksen.
3. OpenAI saa luokituksen tai hälytyksen, ei kehotteita, vastauksia tai koko keskusteluhistoriaa.
4. Asiakas voi tutkia alkuperäistä toimintaa omassa ympäristössään.

Mitä tietoa OpenAI saa uhasta?

OpenAI:n esikatselukuvauksen mukaan yhtiölle lähetetään rajattu ilmoitus toiminnan tyypistä. Yhtiön järjestelmäkaaviossa tulos kuvataan hälytysluokkana ja vakavuustasona, ei itse keskusteluna.

Signaalia voidaan käyttää turvallisuus- tai täytäntöönpanopäätösten tukena. Se ei kuitenkaan tarkoita, että OpenAI saisi automaattisesti koko istunnon sisällön.

Kyse on silti vasta esikatselusta. Yritysasiakkaille olennaisia yksityiskohtia ovat muun muassa hälytysten tarkat kynnysarvot, virheellisten osumien käsittely ja se, miten asiakas voi haastaa päätöksen. OpenAI on kertonut suunnittelevansa laajempaa käyttöönottoa ja teknistä white paper -julkaisua syyskuulle 2026.

Miksi OpenAI:n työntekijät eivät normaalisti näe merkittyä keskustelua?

Pelkkä turvallisuushälytys ei OpenAI:n kuvauksen mukaan anna yhtiön työntekijöille pääsyä keskusteluun. ZDR-järjestelyissä OpenAI ei säilytä asiakassisältöä, ja OpenAI:n isännöimässä tallennusmallissa yhtiön henkilöstöllä ei ole asiakkaan hallitsemia salauksen purkuavaimia.

Asiakas voi kuitenkin halutessaan jakaa asiaankuuluvaa materiaalia. Näin voidaan toimia esimerkiksi silloin, kun asiakas haluaa valittaa käyttörajoituksesta, selittää laillista käyttötapausta tai auttaa vahvistetun väärinkäytön tutkinnassa. Ilman tällaista vapaaehtoista luovutusta OpenAI:lle välittyy vain koneellisesti tuotettu turvallisuustieto.

Ratkaisu erottaa toisistaan asiakkaan hallitseman todistusaineiston ja palveluntarjoajan saaman riskisignaalin. Tämä voi vähentää arkaluonteisen materiaalin määrää, jota palveluntarjoajan on käsiteltävä, mutta säilyttää mahdollisuuden havaita kuvioita, jotka yksittäisiin pyyntöihin keskittyvä suodatus voisi ohittaa.

Ketkä testaavat järjestelmää?

OpenAI on maininnut esikatselun kehittämiseen tai testaamiseen osallistuviksi asiakkaiksi Gleanin, Databricksin, Abridgen ja Microsoftin. Myös muu raportointi on nostanut Microsoftin ja Databricksin varhaisiin testaajiin.

Ominaisuutta ei ole esitelty tavalliseksi kuluttaja-asetukseksi. Se on suunnattu hyväksytyille API-käyttöönottoihin, joissa organisaatiot haluavat käyttää kehittyneitä malleja säilyttäen tiukan hallinnan kehotteisiin ja vastauksiin.

OpenAI ja Anthropic tekevät erilaisen kompromissin

OpenAI:n malli painottaa väärinkäytön havaitsemista samalla, kun palveluntarjoajan pääsy asiakassisältöön pyritään minimoimaan. Anthropic on Covered Models -malleissaan valinnut toisenlaisen kompromissin: kehotteet ja vastaukset säilytetään 30 päivän ajan turvallisuustyötä varten, ja niitä voidaan käsitellä valvotussa ihmistarkastelussa.

Anthropicin dokumentaation mukaan vaatimus koskee Covered Models -malleja, kuten Mythos-luokan malleja, eikä näitä malleja voi käyttää ZDR-järjestelyssä. Anthropic kertoo myös, ettei säilytettyä dataa käytetä mallien kouluttamiseen ilman asiakkaan nimenomaista lupaa.

Käytännön ero on näin selvä:

• OpenAI:n Private Safety Processing: automaattinen analyysi useista toisiinsa liittyvistä vuorovaikutuksista; OpenAI saa esikatselukuvauksen mukaan rajatun turvallisuussignaalin alkuperäisen sisällön sijaan.
• Anthropicin Covered Models -käytäntö: kehotteita ja vastauksia säilytetään 30 päivän ajan turvallisuustyötä ja valvottua tarkastelua varten.

Kumpikaan ratkaisu ei poista asiakkaan oman hallinnon tarvetta. Ennen arkaluonteisten työkuormien siirtämistä organisaation on tarkistettava esimerkiksi mallin ja käyttöönoton ZDR-kelpoisuus, käsittelypaikka, salausavainten hallinta, säilytysajat, pääsynvalvonta, alueelliset vaatimukset, muutoksenhakuprosessi ja sopimusehdot.

Miksi ero kiinnostaa finanssi-, terveys- ja lakialaa?

Finanssialan, terveydenhuollon ja lakipalvelujen organisaatiot käsittelevät tietoja, joihin voi liittyä sopimuksellista luottamuksellisuutta, yksityisyydensuojaa, salassapitovelvollisuuksia tai toimialakohtaisia vaatimuksia. Palveluntarjoajan mahdollisuus säilyttää ja tarkastella kehotteita vaikuttaa siksi esimerkiksi tietojen minimointiin, sisäisiin hyväksyntöihin, auditointeihin ja toimittajariskin arviointiin.

30 päivän säilytys ei automaattisesti tarkoita, että käyttö olisi kiellettyä, eikä ZDR yksin takaa sääntelyn mukaista toteutusta. Ratkaisut kuitenkin synnyttävät erilaiset kysymykset turvallisuus- ja lakitiimeille. Anthropicin Covered Models -ehdot edellyttävät palveluntarjoajan säilytyksen ja tarkastelun huomioimista, kun taas OpenAI asemoi ZDR:n ja Private Safety Processingin mallina, jossa palveluntarjoajan pääsy itse sisältöön pyritään rajoittamaan.

Yritysasiakkaan kannattaa kysyä ainakin seuraavaa:

• Onko käytettävä malli ja käyttöönotto ZDR-kelpoinen?
• Missä sisältöä käsitellään ja kuka hallitsee salausavaimia, jos sisältöä tallennetaan?
• Mitkä täsmälliset kentät sisältyvät turvallisuushälytykseen?
• Voiko asiakas tarkastaa tai riitauttaa hälytyksen luovuttamatta koko keskustelua?
• Mitä tapahtuu, jos palveluntarjoaja epäilee vakavaa väärinkäyttöä?
• Vastaavatko säilytys- ja tarkasteluehdot organisaation sopimus- ja sääntelyvelvoitteita?

Turvallisuusominaisuudesta tulee osa tuotetta

Private Safety Processing kertoo laajemmasta muutoksesta tekoälypalveluissa: yksityisyydensuoja ei ole enää vain sopimusehto, vaan osa turvallisuustuotteen rakennetta.

Kysymys ei ole ainoastaan siitä, osaako malli estää vaarallisen yksittäisen pyynnön. Yhtä tärkeää on, pystyykö palveluntarjoaja havaitsemaan koordinoidun väärinkäytön pitkissä työnkuluissa ilman pääsyä jokaiseen asiakkaan keskusteluun.

OpenAI:n esikatselussa vastaus on automaattinen, useiden vuorovaikutusten yli ulottuva analyysi, jossa sisältö pysyy asiakkaan hallinnassa tai asiakkaan hallitsemilla avaimilla suojattuna ja palveluntarjoajalle lähetetään vain rajattu riskiluokitus.

Anthropic on puolestaan valinnut mallin, jossa asiaankuuluvat kehotteet ja vastaukset säilytetään rajoitetun ajan, jotta turvallisuustiimit voivat tutkia mahdollista väärinkäyttöä valvotusti.

Yritysten valinta riippuu viime kädessä työkuormien arkaluonteisuudesta, organisaation riskinsietokyvystä ja siitä, kuinka paljon tutkinnallista näkyvyyttä se katsoo tarvitsevansa. OpenAI:n lupaama tekninen white paper ja laajempi käyttöönotto ovat seuraavat tärkeät testit sille, miten järjestelmä toimii käytännössä.