Samankaltaisia eroja kuvattiin uskontoihin ja kansallisuuksiin liittyvissä hauissa:

• Muslimin kanssa yksin olemista koskeva haku tuotti tiettävästi turvallisuuteen liittyviä ohjeita, kuten kehotuksen poistua alueelta tai hakea apua, jos käyttäjä tunsi olonsa turvattomaksi.
• Israelilaista koskeva rinnakkainen haku sai tiettävästi neutraalimman vastauksen, mikä johti syytöksiin islamofobiasta.
• Amerikkalaista koskevassa haussa todettiin tiettävästi, että yksin yhdysvaltalaisen kanssa oleminen on ”täysin hyväksyttävää”, ja käyttäjää neuvottiin käymään normaalia kohteliasta keskustelua.
• Brittiä koskevassa vastauksessa annettiin stereotypioihin nojaavia mutta uhattomiksi kuvattuja neuvoja: tarjoa teetä, puhu säästä ja säilytä kohtelias etäisyys.
• Raporteissa mainittiin myös ugandalaiseen liittynyt vähemmän myönteinen vastaus. Käytettävissä oleva aineisto ei kuitenkaan sisällä sen tarkkaa sanamuotoa johdonmukaisesti.

Ongelma ei ollut pelkästään se, että tekoäly mainitsi henkilökohtaisen turvallisuuden. Yleinen varoitus voi olla paikallaan, jos käyttäjä kertoo olevansa uhattuna. Huoli syntyi siitä, että varoituksen sävy näytti muuttuvan sen mukaan, mikä identiteetti muuten lähes samanlaisessa lauseessa mainittiin.

Tällöin neutraali turvallisuussääntö voi muuttua rivien väliseksi väitteeksi siitä, että jotkin ihmisryhmät ovat lähtökohtaisesti vaarallisempia kuin toiset.

Käyttäjät ja aktivistit nostivat esiin kaksoisstandardin

Reddit-käyttäjät kuvailivat vastauksia kaksoisstandardiksi. Futurismin mukaan hätätilanteisiin viittaava kieli vahvisti haitallisia rotu- ja etnisiä stereotypioita. Verkossa toimivat aktivistit puolestaan kiinnittivät erityistä huomiota muslimia ja israelilaista koskeneiden vastausten eroon ja kutsuivat sitä muslimivastaiseksi vinoumaksi.

Imam Omar Suleiman jakoi vastauksen, jossa torjuttiin ajatus siitä, että muslimia pitäisi pitää vaarallisena tämän uskonnon vuoksi. Hänen tiliinsä myöhemmin liitetyssä kuvakaappauksessa vastauksen kerrottiin sanovan, että yksin muslimin kanssa oleminen on normaalia eikä uskonto määritä yksilön luonnetta tai uhkatasoa.

Myöhempi kuvakaappaus osoittaa, että käyttäjälle näytettiin erilainen vastaus. Aineisto ei kuitenkaan kerro varmasti, milloin muutos tehtiin, koskiko se kaikkia käyttäjiä tai liittyikö se suoraan Suleimanin julkaisuun.

Google myönsi tulosten olleen puutteellisia

Käytettävissä olevien raporttien mukaan Google myönsi, että tämän kategorian tulokset ”eivät ole sellaisia kuin niiden pitäisi olla”, ja kertoi työskentelevänsä parannusten parissa.

Google tarjoaa AI Overview -vastauksille myös palautekanavan. Käyttäjä voi merkitä vastauksen hyödyttömäksi, epätarkaksi, puolueelliseksi tai muuten ongelmalliseksi ja ilmoittaa ongelmasta tarkemmin.

Googlelta ei ole aineistossa yksityiskohtaista teknistä selitystä sille, miksi vastaukset erosivat toisistaan. Siksi käytettävissä olevien tietojen perusteella ei voida päätellä, johtuivatko erot ensisijaisesti kielimallin toiminnasta, haetuista verkkosisällöistä, turvajärjestelmistä vai näiden yhdistelmästä.

Tapaus liittyy Googlen aiempiin tekoälyongelmiin

AI Overview näkyy näkyvästi Google-haun yläosassa. Siksi sen tuottama vastaus voi vaikuttaa auktoritatiiviselta, vaikka se olisi perusteeton tai väärä.

Ominaisuus on aiemmin saanut kritiikkiä oudoista suosituksista. Se on tiettävästi kehottanut käyttäjiä laittamaan pizzaan liimaa ja syömään kiviä sekä toistanut virheellisen väitteen, jonka mukaan Barack Obama olisi ollut muslimi.

Myös tekoälyn tuottamien hakuyhteenvetojen terveysneuvoista on raportoitu epätarkkuuksia, jotka voivat olla vaarallisia. Futurismin siteeraamassa analyysissä AI Overview -yhteenvetojen tarkkuudeksi arvioitiin noin 91 prosenttia. Vaikka luku kuulostaa korkealta, Googlen valtavassa hakumittakaavassa se tarkoittaisi silti huomattavaa määrää virheellisiä vastauksia.

Aineisto ei vahvista erikseen väitteitä Geminin epätarkoista rotuun liittyvistä kuvaluontituloksista, joten niitä ei pidä pitää tässä todistettuina. Laajempi ongelma on silti sama: tietoa tiivistävä järjestelmä voi tuottaa itsevarman kuuloisia, yhteiskunnallisesti vahingollisia tai yksinkertaisesti vääriä vastauksia, jotka korjataan vasta käyttäjien nostettua ne julkisuuteen.

Käytännön opetus hakijoille

AI Overview -vastausta kannattaa pitää lähtökohtana, ei lopullisena totuutena — erityisesti silloin, kun se tekee väitteitä ihmisen turvallisuudesta, identiteetistä, uskonnosta tai kansallisuudesta.

Vertaa samankaltaisia hakuja, tutustu vastauksen taustalla oleviin linkkeihin ja ilmoita puolueellisista tai virheellisistä tuloksista Googlen palautetyökaluilla.

Henkilökohtaista turvallisuutta pitäisi arvioida ihmisen käyttäytymisen ja tilanteen, ei tämän kansallisuuden, ihonvärin tai uskonnon perusteella. Tämä tapaus osoittaa, miksi saman periaatteen on ohjattava sekä tekoälyn turvasääntöjä että testejä, joita järjestelmille tehdään ennen niiden tarjoamista käyttäjille.

Samankaltaisia eroja kuvattiin uskontoihin ja kansallisuuksiin liittyvissä hauissa:

• Muslimin kanssa yksin olemista koskeva haku tuotti tiettävästi turvallisuuteen liittyviä ohjeita, kuten kehotuksen poistua alueelta tai hakea apua, jos käyttäjä tunsi olonsa turvattomaksi.
• Israelilaista koskeva rinnakkainen haku sai tiettävästi neutraalimman vastauksen, mikä johti syytöksiin islamofobiasta.
• Amerikkalaista koskevassa haussa todettiin tiettävästi, että yksin yhdysvaltalaisen kanssa oleminen on ”täysin hyväksyttävää”, ja käyttäjää neuvottiin käymään normaalia kohteliasta keskustelua.
• Brittiä koskevassa vastauksessa annettiin stereotypioihin nojaavia mutta uhattomiksi kuvattuja neuvoja: tarjoa teetä, puhu säästä ja säilytä kohtelias etäisyys.
• Raporteissa mainittiin myös ugandalaiseen liittynyt vähemmän myönteinen vastaus. Käytettävissä oleva aineisto ei kuitenkaan sisällä sen tarkkaa sanamuotoa johdonmukaisesti.

Ongelma ei ollut pelkästään se, että tekoäly mainitsi henkilökohtaisen turvallisuuden. Yleinen varoitus voi olla paikallaan, jos käyttäjä kertoo olevansa uhattuna. Huoli syntyi siitä, että varoituksen sävy näytti muuttuvan sen mukaan, mikä identiteetti muuten lähes samanlaisessa lauseessa mainittiin.

Tällöin neutraali turvallisuussääntö voi muuttua rivien väliseksi väitteeksi siitä, että jotkin ihmisryhmät ovat lähtökohtaisesti vaarallisempia kuin toiset.

Käyttäjät ja aktivistit nostivat esiin kaksoisstandardin

Reddit-käyttäjät kuvailivat vastauksia kaksoisstandardiksi. Futurismin mukaan hätätilanteisiin viittaava kieli vahvisti haitallisia rotu- ja etnisiä stereotypioita. Verkossa toimivat aktivistit puolestaan kiinnittivät erityistä huomiota muslimia ja israelilaista koskeneiden vastausten eroon ja kutsuivat sitä muslimivastaiseksi vinoumaksi.

Imam Omar Suleiman jakoi vastauksen, jossa torjuttiin ajatus siitä, että muslimia pitäisi pitää vaarallisena tämän uskonnon vuoksi. Hänen tiliinsä myöhemmin liitetyssä kuvakaappauksessa vastauksen kerrottiin sanovan, että yksin muslimin kanssa oleminen on normaalia eikä uskonto määritä yksilön luonnetta tai uhkatasoa.

Myöhempi kuvakaappaus osoittaa, että käyttäjälle näytettiin erilainen vastaus. Aineisto ei kuitenkaan kerro varmasti, milloin muutos tehtiin, koskiko se kaikkia käyttäjiä tai liittyikö se suoraan Suleimanin julkaisuun.

Google myönsi tulosten olleen puutteellisia

Käytettävissä olevien raporttien mukaan Google myönsi, että tämän kategorian tulokset ”eivät ole sellaisia kuin niiden pitäisi olla”, ja kertoi työskentelevänsä parannusten parissa.

Google tarjoaa AI Overview -vastauksille myös palautekanavan. Käyttäjä voi merkitä vastauksen hyödyttömäksi, epätarkaksi, puolueelliseksi tai muuten ongelmalliseksi ja ilmoittaa ongelmasta tarkemmin.

Googlelta ei ole aineistossa yksityiskohtaista teknistä selitystä sille, miksi vastaukset erosivat toisistaan. Siksi käytettävissä olevien tietojen perusteella ei voida päätellä, johtuivatko erot ensisijaisesti kielimallin toiminnasta, haetuista verkkosisällöistä, turvajärjestelmistä vai näiden yhdistelmästä.

Tapaus liittyy Googlen aiempiin tekoälyongelmiin

AI Overview näkyy näkyvästi Google-haun yläosassa. Siksi sen tuottama vastaus voi vaikuttaa auktoritatiiviselta, vaikka se olisi perusteeton tai väärä.

Ominaisuus on aiemmin saanut kritiikkiä oudoista suosituksista. Se on tiettävästi kehottanut käyttäjiä laittamaan pizzaan liimaa ja syömään kiviä sekä toistanut virheellisen väitteen, jonka mukaan Barack Obama olisi ollut muslimi.

Myös tekoälyn tuottamien hakuyhteenvetojen terveysneuvoista on raportoitu epätarkkuuksia, jotka voivat olla vaarallisia. Futurismin siteeraamassa analyysissä AI Overview -yhteenvetojen tarkkuudeksi arvioitiin noin 91 prosenttia. Vaikka luku kuulostaa korkealta, Googlen valtavassa hakumittakaavassa se tarkoittaisi silti huomattavaa määrää virheellisiä vastauksia.

Aineisto ei vahvista erikseen väitteitä Geminin epätarkoista rotuun liittyvistä kuvaluontituloksista, joten niitä ei pidä pitää tässä todistettuina. Laajempi ongelma on silti sama: tietoa tiivistävä järjestelmä voi tuottaa itsevarman kuuloisia, yhteiskunnallisesti vahingollisia tai yksinkertaisesti vääriä vastauksia, jotka korjataan vasta käyttäjien nostettua ne julkisuuteen.

Käytännön opetus hakijoille

AI Overview -vastausta kannattaa pitää lähtökohtana, ei lopullisena totuutena — erityisesti silloin, kun se tekee väitteitä ihmisen turvallisuudesta, identiteetistä, uskonnosta tai kansallisuudesta.

Vertaa samankaltaisia hakuja, tutustu vastauksen taustalla oleviin linkkeihin ja ilmoita puolueellisista tai virheellisistä tuloksista Googlen palautetyökaluilla.

Henkilökohtaista turvallisuutta pitäisi arvioida ihmisen käyttäytymisen ja tilanteen, ei tämän kansallisuuden, ihonvärin tai uskonnon perusteella. Tämä tapaus osoittaa, miksi saman periaatteen on ohjattava sekä tekoälyn turvasääntöjä että testejä, joita järjestelmille tehdään ennen niiden tarjoamista käyttäjille.