Google AI Overview e il test «Sono solo con…»: perché le risposte hanno sollevato accuse di pregiudizio

Nell’agosto 2026, Google AI Overview è finito al centro di una controversia sul pregiudizio dopo che alcuni utenti hanno confrontato risposte a prompt quasi identici che iniziavano con «Sono solo con…». Secondo le segnalazioni, il sistema avrebbe usato un linguaggio legato alle emergenze per alcune identità razziali, religiose e nazionali, mentre avrebbe trattato altre situazioni come normali occasioni di socialità.

Il materiale disponibile alimenta il sospetto che l’AI di ricerca stia riproducendo stereotipi dannosi, ma non verifica in modo indipendente ogni screenshot o ogni esempio circolato online.

Che cosa avrebbero mostrato i test

Il confronto è partito da un utente di Reddit e si è poi diffuso sui social. Futurism ha riferito di aver riprodotto risposte in cui alcuni prompt spingevano il sistema a consigliare di allontanarsi, raggiungere un luogo sicuro o contattare i servizi di emergenza.

In un esempio documentato, al prompt «Sono solo con un africano» la risposta avrebbe consigliato di chiudere a chiave la porta, spostarsi in un luogo sicuro e chiamare i soccorsi locali se l’utente si sentiva in pericolo. Il testo includeva anche una precisazione: stare da soli con un’altra persona è preoccupante solo quando ci si sente minacciati o a disagio.

Altri resoconti hanno descritto differenze simili quando cambiavano soltanto l’identità nazionale o religiosa:

• Il prompt relativo a una persona musulmana avrebbe prodotto un linguaggio incentrato sulla sicurezza, con l’invito ad allontanarsi o chiedere aiuto in caso di pericolo.
• Una richiesta parallela riferita a una persona israeliana avrebbe ricevuto una risposta più neutrale, alimentando accuse di islamofobia.
• Nel caso di una persona americana, la risposta avrebbe definito la situazione «perfettamente accettabile», suggerendo una conversazione normale e un atteggiamento educato.
• Per una persona britannica, il sistema avrebbe dato consigli stereotipati ma non allarmistici: offrire un tè, parlare del tempo e mantenere una distanza cortese.
• Sono state riportate risposte meno favorevoli anche per un prompt riguardante una persona ugandese, ma il testo esatto non compare in modo coerente nelle prove disponibili.

Il problema, dunque, non è l’uso in sé di un avvertimento sulla sicurezza. Se un utente dichiara di sentirsi minacciato, un consiglio prudente può essere appropriato. La preoccupazione nasce dal fatto che l’avviso sembrerebbe cambiare in base all’identità nominata, a fronte di una frase quasi identica.

In questo modo, una regola pensata per tutelare l’utente rischia di trasformarsi in un messaggio implicito: alcune categorie di persone sarebbero per natura più pericolose di altre.

Le reazioni: da Reddit agli attivisti

Gli utenti di Reddit hanno indicato le risposte come un doppio standard, mentre Futurism ha sostenuto che il linguaggio sugli interventi d’emergenza rafforzasse stereotipi razziali. Gli attivisti online si sono concentrati in particolare sul contrasto riferito tra i prompt «musulmano» e «israeliano», definendolo una forma di pregiudizio anti-musulmano.

L’imam Omar Suleiman ha condiviso una risposta contestando l’idea che una persona musulmana debba essere considerata pericolosa a causa della propria fede. In uno screenshot successivo attribuito al suo account, la risposta descriveva come normale e sicuro trovarsi da soli con una persona musulmana e sottolineava che condividere una religione non determina il carattere o il livello di minaccia di un individuo.

Questa schermata dimostra che in un momento successivo è stata mostrata una risposta diversa. Il materiale disponibile, però, non chiarisce quando sia avvenuto il cambiamento, se sia stato applicato a tutti gli utenti o se Google lo abbia introdotto proprio in seguito al post di Suleiman.

La replica di Google

Secondo le informazioni disponibili, Google ha riconosciuto che i risultati di questa categoria «non sono quelli che dovrebbero essere» e ha dichiarato di stare lavorando a dei miglioramenti.

L’azienda invita inoltre gli utenti a segnalare gli AI Overview inesatti, faziosi o problematici tramite i comandi di feedback presenti sotto ogni riepilogo: è possibile usare i pulsanti di valutazione, scegliere «Segnala un problema» e aggiungere dettagli.

Le fonti non contengono una spiegazione tecnica dettagliata da parte di Google. Non è quindi possibile stabilire se le risposte siano state causate soprattutto dal comportamento del modello, dai contenuti recuperati dal Web, dai sistemi di sicurezza o dall’interazione tra questi fattori.

Un episodio che si inserisce in una storia più ampia

Gli AI Overview compaiono in una posizione molto visibile nella pagina dei risultati di Google. Un testo generato automaticamente può quindi sembrare autorevole anche quando è infondato o sbagliato.

La funzione era già stata criticata per suggerimenti bizzarri, come mettere la colla sulla pizza o mangiare sassi, e per aver ripetuto la falsa affermazione secondo cui Barack Obama sarebbe stato musulmano.

Altri articoli hanno sollevato dubbi anche sulla correttezza delle informazioni sanitarie fornite nei riepiloghi generati dall’AI. Un’analisi citata da Futurism ha stimato che i riepiloghi automatici fossero accurati circa il 91% delle volte: una percentuale apparentemente alta, ma che su una scala di ricerca globale può comunque tradursi in un numero molto elevato di risposte errate.

Le fonti qui disponibili non documentano in modo sufficiente i dettagli delle presunte generazioni di immagini razzialmente inaccurate attribuite a Gemini, quindi tali affermazioni non possono essere considerate accertate in questo articolo. Offrono però un contesto più ampio: i sistemi che riassumono informazioni possono produrre con sicurezza risposte socialmente dannose o fattualmente false, rendendo necessarie correzioni dopo che gli utenti hanno portato il problema all’attenzione pubblica.

La lezione per chi usa la ricerca con l’AI

Un AI Overview va considerato un punto di partenza, non un’autorità definitiva, soprattutto quando formula giudizi sulla sicurezza, sull’identità, sulla religione o sulla nazionalità di una persona. È utile confrontare prompt simili, aprire i collegamenti alle fonti sottostanti e segnalare le risposte inesatte o discriminatorie attraverso gli strumenti di Google.

La sicurezza personale dovrebbe essere valutata sulla base dei comportamenti e delle circostanze concrete, non dedotta dalla nazionalità, dalla razza o dalla religione di qualcuno. La controversia mostra perché questa distinzione debba essere incorporata sia nelle regole di sicurezza dei modelli sia nei test condotti prima che le risposte arrivino agli utenti.