Vuotiko Google Gemini salaisen pelihahmon nimen?

Nimi oli ”Vantage Tripod”.

Tapaus levisi nopeasti verkossa. Se johti Googlen viralliseen kiistoon, toimittajien ja yhteisön epäonnistuneisiin uusintatesteihin sekä uuteen keskusteluun tekoälyn harjoitusdatan rajoista, chatbotien luotettavuudesta ja pilvipalveluihin tallennettujen liikesalaisuuksien suojasta.

Mitä väitetysti tapahtui?

Klub Kofta Studio on Steamissä julkaistun Operation Octo -tornipuolustuspelin taustalla toimiva yhden kehittäjän studio. Kehittäjän mukaan pelin Discord-yhteisössä ollut pelaaja esitti Geminille ensin ”tyhmiä kysymyksiä” pelin tulevasta sisällöstä.

Kehittäjä jakoi keskustelusta kuvakaappauksia, joiden perusteella Gemini vastasi täsmällisellä nimellä ”Vantage Tripod”. Kehittäjä vakuutti, ettei ollut maininnut nimeä kenellekään julkisesti .

”Jotenkin tekoäly sylkäisi ulos täsmälleen oikean ja erittäin yksityiskohtaisen hahmon nimen ’Vantage Tripod’, jota en ollut maininnut kenellekään”, kehittäjä kirjoitti Redditissä. Hänen mukaansa tieto oli digitaalisessa muodossa vain yhdessä hänen omista Google-dokumenteistaan, eikä hän itse ollut keskustellut tekoälyn kanssa .

Fanit tiesivät ennestään, että peliin oli suunnitteilla ”Tripod Fish” -hahmo. Koko nimeä ”Vantage Tripod” ei kuitenkaan ollut kehittäjän mukaan kerrottu. Lisäksi hän sanoi Geminin toistaneen oikein tietoja julkaisemattomista pelimekaniikoista, jotka oli lisätty samaan Google-dokumenttiin vain päivää ennen pelaajan keskustelua .

Google kiistää yksityisten dokumenttien käytön

Google kiisti Polygonille, Android Authoritylle ja PC Guidelle antamissaan kommenteissa tulkinnan, jonka mukaan Gemini olisi käyttänyt kehittäjän yksityisiä tiedostoja. Yhtiön mukaan se ei skannaa yksityisiä Google Workspace -dokumentteja, kuten Google Docs -tiedostoja, tekoälymallien kouluttamista varten .

Googlen mukaan Gemini voi käyttää käyttäjän Google Drive- tai Docs-sisältöä vain tämän nimenomaisella luvalla tiettyä tehtävää varten, kuten yhteenvedon laatimiseen .

Yhtiö ei kuitenkaan kertonut vaihtoehtoista selitystä sille, miten Gemini olisi voinut tuottaa juuri merkkijonon ”Vantage Tripod”, jos kehittäjän kuvaus tapahtumista pitää paikkansa .

Uusintatestit eivät tuottaneet samaa tulosta

Reddit-julkaisun jälkeen riippumattomat toimittajat, kehittäjät ja yhteisön jäsenet yrittivät saada Geminin vastaamaan vastaaviin kysymyksiin Operation Octosta. Kukaan ei onnistunut saamaan esiin nimeä ”Vantage Tripod” tai vastaavia julkaisemattomia yksityiskohtia .

Myös alkuperäisen vastauksen saanut pelaaja ei kehittäjän mukaan pystynyt toistamaan tulosta . Julkisuuteen ei ole tullut teknistä auditointia, kontrolloitua testiä tai täydellistä keskustelulokia, joka vahvistaisi Geminin päässeen käsiksi yksityiseen dokumenttiin .

Numerama ja The Hook ovat arvioineet, että kyse saattoi olla kertaluonteisesta hallusinaatiosta: tekoäly saattoi muodostaa uskottavalta kuulostavan nimen omien hahmonmuodostus- ja ennustemalliensa perusteella sen sijaan, että se olisi hakenut tiedon yksityisestä tiedostosta .

Tulos saatiin tiettävästi vain kerran, eikä sille ole vahvistettua selitystä. Siksi tapaus herättää epäilyksiä, mutta ei tällä hetkellä todista tietomurtoa tai yksityisen dokumentin luvatonta käyttöä.

Miksi tapaus on silti merkittävä?

Vaikka ”Vantage Tripod” osoittautuisi sattumaksi, tapaus nostaa esiin useita tekoälyyn ja tietosuojaan liittyviä ongelmia.

Harjoitusdatan ja käyttäjädatan rajat ovat vaikeasti hahmotettavia

Googlen kiistosta huolimatta käyttäjien on vaikea arvioida itsenäisesti, mitä yksityistä tai puoliyksityistä sisältöä tekoälyjärjestelmät voivat käsitellä. Ulkopuolinen käyttäjä ei yleensä pysty varmistamaan, onko jokin tieto ollut mallin harjoitusdatassa, haettu erillisestä lähteestä vai syntynyt vastauksessa sattumalta .

Jo tämä epäselvyys voi horjuttaa luottamusta pilvipohjaisiin työkaluihin silloin, kun niissä käsitellään keskeneräisiä suunnitelmia tai luottamuksellista liiketoimintatietoa.

Tekoälyn hakumekanismit eivät ole käyttäjälle läpinäkyviä

Nykyiset tekoälypohjaiset hakutyökalut voivat hyödyntää esimerkiksi indeksoituja verkkosivuja, välimuistissa olevaa sisältöä, jaettuja linkkejä tai laajempaa palveluekosysteemiä. Jos järjestelmä ei kerro selkeästi, mistä vastaus on peräisin, kehittäjien ja yritysten on vaikea arvioida, ovatko ennakkojulkaisut ja liikesalaisuudet todella turvassa pilveen tallennettuina .

Hallusinaatio voi aiheuttaa todellisen kriisin

Tekoälyn ei tarvitse paljastaa oikeaa salaisuutta aiheuttaakseen vahinkoa. Jos se keksii vakuuttavasti nimen, joka kuulostaa aidolta vuodolta, käyttäjät voivat päätellä yksityisten tietojen joutuneen vääriin käsiin. Tällaista väärää hälytystä ei välttämättä ole helppo kumota .

Liikesalaisuuksien suoja joutuu paineeseen

Liikesalaisuuden suoja perustuu siihen, että tieto pidetään salassa. Jos tieto voi uskottavasti ilmestyä chatbotin vastaukseen, salassapidon toteutumista on vaikeampi osoittaa – riippumatta siitä, saiko tekoäly tiedon oikeasti käyttöönsä vai keksikö se sen.

Tämä voi tehdä yrityksistä ja yksittäisistä kehittäjistä varovaisempia käyttäessään pilvipalveluita luottamukselliseen suunnitteluun .

Lopputulos: avoin arvoitus, joka paljastaa luottamusongelman

”Vantage Tripod” -tapaus on edelleen ratkaisematon. Kehittäjän väitettä ei ole vahvistettu riippumattomasti, Google kiistää yksityisten dokumenttien väärinkäytön, eikä alkuperäistä tulosta ole onnistuttu toistamaan.

Todennäköinen selitys saattaa olla yksittäinen, uskottavalta kuulostanut tekoälyn hallusinaatio ja keskustelusta puuttuva taustatieto. Varmaa vastausta ei kuitenkaan ole.

Tapaus toimii silti muistutuksena: läpinäkymättömien tekoälyjärjestelmien synnyttämä luottamusvaje voi olla yrityksille ja kehittäjille ongelma jo ennen kuin varsinaisesta tietovuodosta on näyttöä.