Google Earthin tekoälykuvatoiminto vedettiin pois alle vuorokaudessa

Mitä Google Earthin toiminto teki?

Google integroi Nano Banana 2 -kuvamallinsa Google Earthin verkkoversioon. Käyttäjä saattoi zoomata haluamaansa paikkaan, painaa Create image -painiketta ja kirjoittaa tekstikehotteen. Tekoäly loi sen perusteella fotorealistisen näkymän, joka oli sidottu Google Earthin oikeaan satelliitti-, ilma- tai 3D-aineistoon .

Google markkinoi toimintoa tapana "visualisoida historiaa, laatia kiinteistösuunnitelmia ja paljon muuta" . Sama ominaisuus, jolla paikasta pystyi kuvittelemaan historiallisen näkymän, mahdollisti kuitenkin myös esimerkiksi pommituksen tai tuhon simuloimisen todellisilla koordinaateilla.

Tutkijat loivat romahtaneita maamerkkejä ja kuvitteellisia sotatoimia

Toiminnon rajoja testattiin nopeasti. BBC Verify loi muun muassa romahtaneen Eiffel-tornin, Suuren pyramidin nielaisseen vajoaman sekä Kiovassa liikkuvia venäläispanssareita .

The Atlanticin toimittaja Matteo Wong tuotti kuvia esimerkiksi tuleen syttyneistä toimistorakennuksista, San Franciscon laajasta tuhosta, Eiffel-tornin paikalle syntyneestä savuamasta kraatterista ja lentokoneesta törmäämässä One World Trade Centeriin. Hän loi myös kuvia kodittomien leiristä Valkoisen talon nurmikolla, mielenosoittajista Mar-a-Lagon edustalla, Yhdysvaltain ja Meksikon rajan ylittävistä siirtolaisista sekä Gazan alueelle sijoitetusta Trump-hotellista .

PC Gamerin toimittajat muuttivat tekstikehotteilla kotikaupunkejansa sotatoimialueiden näköisiksi .

Disinformaatiota tutkiva Henk van Ess puolestaan loi kuvia kuvitteellisesta ydinvoimalasta Iranissa, pakolaisleiristä Yhdysvaltain ja Meksikon rajalla sekä Gazassa sijaitsevasta tekaistusta sairaalasta, jonka vieressä oli pommikraatteri . NPR onnistui tuottamaan kuvan Iranin Khargin saaresta niin, että se näytti vahingoittuneelta . 404 Median Joseph Cox teki työkalulla kuvan räjähdyksestä .

Miksi riski oli erilainen kuin tavallisissa deepfake-kuvissa?

Avoimen lähdetiedustelun eli OSINT-tutkijat ja paikkatietoanalytikot käyttävät satelliittikuvia muun muassa sotien, luonnonkatastrofien ja ihmisoikeusloukkausten todentamiseen. Google Earthin ongelma oli se, ettei työkalu luonut vain yleisiä tekoälyväärennöksiä. Se kiinnitti keksityn tapahtuman todellisiin koordinaatteihin ja oikean kartan yhteyteen.

Henk van Ess kuvasi BBC Verifylle, että työkalu "hitsasi keksityn kuvan oikeisiin koordinaatteihin, jotka oli piirretty aidon kuvan päälle". Hänen mukaansa väärennöksen ei tarvitse näyttää yksinään uskottavalta, koska se "perii syntymäkarttansa uskottavuuden" .

American Enterprise Instituten tutkimusanalyytikko Brady Africk huomautti, että väärennökset oli ankkuroidu oikeisiin satelliittikuviin. Tämä poisti joitakin tekoälykuvien tavanomaisia varoitusmerkkejä, kuten maaston ja mittakaavan ristiriitoja . Africkin mukaan harva tarkistaa selaillessaan tai jakaessaan kuvaa, onko se tekoälyn luoma .

Tutkiva toimittaja Ben Heubl arvioi, että työkalulla pystyi tekemään drone-iskuista kuvia, jotka muistuttivat hyvin paljon Ukrainasta, Venäjältä, Lähi-idästä ja muilta konfliktialueilta tuttuja näkymiä . Tekoälykuvia tutkiva Henry Ajder varoitti, että nopeasti kehittyvillä kriisialueilla tällainen aineisto voisi olla erityisen epävakauttavaa. Hänen mukaansa toimittajille ja etulinjassa työskenteleville on tärkeää, että jotkin tietolähteet oletetaan edelleen tekoälystä vapaiksi .

Googlen suojaukset eivät riittäneet

Google kertoi ottaneensa käyttöön kaksi keskeistä suojausta. Jokainen toiminnolla luotu kuva sisälsi SynthID-digitaalivesileiman. Käyttäjä saattoi tarkistaa kuvan alkuperän Gemini-sovelluksella tai Google Lensillä . Lisäksi malliin oli rakennettu sisältöohjeita, joiden piti estää "haitallisia aiheita" kuvaavien näkymien luominen .

Testit osoittivat kuitenkin, että suojauksissa oli merkittäviä aukkoja:

• BBC Verify havaitsi, että vaikka SynthID-vesileima yleensä toimi, tarkistukset oli mahdollista kiertää ja Gemini saada väittämään väärennettyä Google Earth -kuvaa aidoksi. Myös ulkopuoliset tekoälytunnistimet epäonnistuivat toisinaan tunnistamaan Google Earthin tekoälysisällön .
• Pienet muutokset tekstikehotteeseen saattoivat ohittaa sisältörajoitukset. Esimerkiksi pyyntö luoda parlamentin lähelle "koroke pettureiden hirttämistä varten" hylättiin, mutta epämääräisempi pyyntö hyväksyttiin .
• Vesileima auttaa vain, jos vastaanottaja tarkistaa sen. Kuvat voidaan ladata laitteelle ja jakaa palveluissa, joissa vesileima voidaan helposti poistaa tai jättää huomiotta .

Käytännössä suojausvastuu jäi siis pitkälti käyttäjälle – juuri siinä vaiheessa, kun väärä kuva saattoi jo levitä sosiaalisessa mediassa.

Satelliittikuvien luotettavuus joutui laajempaan testiin

Tapauksessa oli kyse muustakin kuin yhdestä epäonnistuneesta tuotejulkaisusta. Satelliittikuvia on pitkään pidetty yhtenä journalismin, sotarikostutkinnan ja humanitaarisen työn luotettavimmista todistusaineistoista. Kun tekoäly pystyy sijoittamaan uskottavan väärennöksen oikean kartan päälle, tämän luottamuksen perusta heikkenee.

Paikkatietoanalyyseihin erikoistunut Common Spacen perustaja Bill Greer sanoi BBC Verifylle, että tapaus voi vahingoittaa yleisön luottamusta erityisen paljon, koska satelliittikuvia on perinteisesti pidetty poikkeuksellisen luotettavana tietolähteenä . Hänen mukaansa väärennettyjä satelliittikuvia on jo käytetty disinformaation levittämiseen. Jos hallitukset samalla rajoittavat pääsyä tietoaineistoihin, verkossa voidaan nähdä yhä enemmän vääriä kuvia ja yhä vähemmän aitoja kuvia – mikä kuluttaa luottamusta entisestään .

Henry Ajderin mukaan toiminto oli jälleen yksi tapaus, jossa luotettavina pidettyjen tietolähteiden uskottavuutta rapauttaa jatkuva epäilys tekoälyn käytöstä .

Google veti toiminnon takaisin

Google julkaisi 31. heinäkuuta X-palvelussa lausunnon, jossa se perusteli päätöstä näin:

"Olemme nähneet paikkatietoalan ammattilaisten käyttävän toimintoa moniin hyödyllisiin tarkoituksiin. Olemme kuitenkin nähneet myös ihmisten jakavan luodusta aineistosta kuvakaappauksia, joiden näyttää rikkovan käytäntöjämme. Tiedämme, että ihmiset luottavat Google Earthiin erityisellä tavalla saadakseen luotettavan kuvan maailmasta. Vedämme tämän toiminnon takaisin Google Earthista samalla, kun työskentelemme vahvempien suojakaiteiden toteuttamiseksi."

Google ei ole ilmoittanut, milloin toiminto mahdollisesti palaa tai millaisia uudet rajoitukset olisivat. Tapaus osoitti kuitenkin nopeasti, kuinka tekoälyominaisuus voi horjuttaa sellaisen alustan luotettavuutta, johon toimittajat, tutkijat ja tavalliset käyttäjät ovat tottuneet suhtautumaan todellisuuden karttana.