Googlen AI-kuvageneraattori Google Earthissa kesti alle vuorokauden – ja miksi OSINT-asiantuntijat puhuivat luottamuskriisistä

Mitä toiminto teki

"Create image" -painike ilmestyi Google Earthin verkkoversioon. Kun käyttäjä lähensi kartalla haluamaansa paikkaan, hän pystyi napauttamaan painiketta, kirjoittamaan tekstikomennon ja Nano Banana 2 tuotti valokuvamaisen kuvan, joka rakentui Googlen satelliitti-, ilma- ja 3D-kuvamateriaalista kyseisestä koordinaatista . Google esitteli toiminnon luovana maantieteen työkaluna, mutta käytännössä se mahdollisti geospatiaalisen todistusaineiston väärentämisen massoittain .

Miksi toiminto poistettiin

Välittömästi syntyi sääntöjä rikkovia väärennöksiä. Käyttäjät loivat uskottavia kuvia muun muassa pommituksen kraatterista Los Angelesissa, tulvivasta Yhdysvaltain kongressitalosta, tulipalosta Iranin Kharg-saarella ja – asiantuntijoiden mukaan kaikkein hälyttävimpänä – väärennetyn kuvan Iranin ydinvoimalasta ja venäläisten panssarivaunujen etenemisestä Kiovassa .

BBC Verify ja OSINT-tutkijat osoittivat riskin julkisesti. Tekoälytutkija Henk van Ess ja BBC Verify tuottivat väärennettyjä satelliittikuvia arkaluontoisista geopoliittisista kohteista ja osoittivat, miten helppoa on luoda harhaanjohtavaa ja autenttisen näköistä kuvamateriaalia .

Google myönsi luottamusongelman suoraan. Yhtiön vetäytymisilmoituksessa todettiin: "Tiedämme, että ihmiset luottavat Google Earthiin juuri siksi, että se tarjoaa luotettavan kuvan maailmasta. Olemme nähneet geospatiaalisten ammattilaisten käyttävän tätä toimintoa moniin hyödyllisiin tarkoituksiin" mutta että "peruutamme tämän toiminnon Google Earthissa, kunnes saamme vahvistettua turvamenetelmiä" .

OSINT-luottamuskriisi

Satelliittikuvat ovat olleet avoimen lähdekoodin tiedustelun (OSINT), ihmisoikeustutkinnan ja sotarikosten dokumentoinnin kultainen standardi. Asiantuntijat varoittivat, että tekoälykuvien lisääminen suoraan Google Earthiin – kaikkein luotetuimpaan satelliittikarttapalveluun – voisi romahduttaa kaiken ilmakuvamateriaalin uskottavuuden todisteena .

Toiminto hämärsi rajan aidon ja väärennetyn välillä itse lähteessä. Koska tekoälykuvat luotiin Google Earthin sisällä ja kytkettiin todellisiin koordinaatteihin, ne saivat autenttisuuden vaikutelman, jota on paljon vaikeampi kumota kuin sosiaalisessa mediassa jaettua geneeristä tekoälykuvaa .

Ihmisoikeustutkijat käyttävät varmennettuja satelliittikuvia dokumentoidakseen ihmisoikeusrikkomuksia, konfliktien aiheuttamia vahinkoja ja ympäristörikoksia. Jos jopa Google Earthin omaan tuotokseen voidaan suhtautua epäillen, koko avoimen lähdekoodin tutkinnan todistusketju vahingoittuu ja pahantahtoisten toimijoiden on helpompi väittää aitoa materiaalia tekoälyn luomaksi .

OSINT-yhteisö kuvaili tapausta "luottamuskriisiksi" digitaalisen todistusaineiston kannalta. OSINT-ammattilaisten nopea takaisku oli keskeinen syy sille, että Google päätti peruuttaa toiminnon muutamassa tunnissa .

Googlen puolustus ja sen rajat

Google huomautti, että kaikki tekoälykuvat sisälsivät SynthID-vesileiman, joka on suunniteltu merkitsemään tekoälyn tuottama sisältö . Tutkijat kuitenkin osoittivat, että tunnistusmenetelmiä voidaan huijata ja että kuvakaappaukset – jotka ovat yleisin tapa väärennetyille kuville levitä – poistavat alustakohtaiset vesileimat ja kontekstitietot . Puolustus ei riittänyt estämään uskottavien väärennösten tulvaa, joka syntyi heti toiminnon käynnistymisen jälkeen.

Laajemmat vaikutukset

Tapaus on yksi Googlen historian nopeimmista tuotteiden peruutuksista ja varoittava esimerkki siitä, mitä tapahtuu, kun generatiivinen tekoäly liitetään luotettuihin tietoalustoihin ilman riittäviä turvatoimia. OSINT-yhteisölle se oli jyrkkä muistutus siitä, että satelliittikuvien uskottavuus – modernin digitaalisen todistusaineiston kulmakivi – voi murentua yhdellä tuotelanseerauksella .