一句「我和某人獨處」測試，為何讓 Google AI 陷入偏見爭議？

爭議的核心並不是 AI 提到人身安全。當使用者明確表示受到威脅時，一般性的安全提醒可以是恰當的；真正令人擔心的是，在幾乎相同的句子中，警告似乎隨著被點名的身分而改變。

換句話說，本來中性的安全政策，可能在輸出中變成一種暗示：某些群體天生比其他人更危險。這種暗示不僅可能傷害被指涉的群體，也可能讓搜尋使用者誤把模型的偏見當成客觀判斷。

Reddit 使用者、Futurism 與活動人士如何回應？

Reddit 使用者把這些答案形容為「雙重標準」；Futurism 則認為，要求使用者鎖門或聯絡緊急服務的措辭，會強化種族刻板印象。

網上活動人士尤其關注穆斯林與以色列人提示之間的差異，並將其描述為反穆斯林偏見。 由於相關回答是由搜尋頁面上的 AI 摘要直接呈現，批評者認為問題不只是模型「答錯一句話」，而是偏見可能以看似權威的搜尋結果形式被放大。

伊瑪目 Omar Suleiman 亦分享了一個回應，反駁不應僅因一個人的宗教信仰，就把對方視為危險人物。在其帳戶後來被歸屬的截圖中，系統把與穆斯林人士獨處描述為正常情況，並表示共同信仰不會決定一個人的性格或威脅程度。

這個後來的版本顯示，使用者確實看過不同答案；但現有資料無法確定它何時改變、是否已普遍套用，也無法證明 Google 是因應 Suleiman 的貼文而特別修改結果。

Google 承認結果不理想，但技術原因仍不明

現有報道引述 Google 表示，這類結果「不是應有的樣子」，並稱公司正努力改善。 Google 也一向鼓勵使用者透過 AI Overview 下方的意見回饋功能，回報不準確、有偏見或其他問題的摘要。

不過，現有證據沒有提供 Google 對這次不平等輸出的詳細技術說明。因此，目前無法判定問題主要來自生成模型本身、系統擷取的網頁內容、安全規則，還是這幾個部分互相作用的結果。

同樣地，現有材料不足以證實外界所提及的 Gemini 不準確種族圖像生成細節，這些說法不應在沒有更完整證據的情況下被當成既定事實。較能確定的是，這次事件與過往 Google AI 爭議呈現相同的治理難題：系統可能從訓練資料或擷取內容中放大偏見，再以肯定語氣輸出，最後要等使用者公開指出問題後才進行修正。

這不是 Google AI Overview 第一次出現離譜答案

AI Overview 會出現在 Google 搜尋結果頂部，生成式答案因此容易被使用者視為可信摘要，即使內容實際上沒有充分根據，甚至完全錯誤。

過去，該功能曾因提供古怪建議而受批評，例如建議在披薩上塗膠水、吃石頭；它也曾重複「巴拉克・奧巴馬是穆斯林」的錯誤說法。

其他調查則指出，AI 生成的搜尋摘要可能包含不準確、甚至有潛在危險的健康資訊。 Futurism 引述一項由 AI 新創公司 Oumi 受《紐約時報》委託進行的分析，指 AI 生成摘要的準確率約為 91%；即使這個比例看似不低，放到 Google 巨大的搜尋規模上，仍代表會有大量錯誤答案出現。

這些背景說明，今次事件的風險不只在於某一組冒犯性的提示。當搜尋系統把有爭議的社會聯想整理成簡潔、直接、位於頁面頂部的答案時，錯誤便可能被誤認為中立判斷，並進一步影響使用者對特定群體的看法。

使用 AI 搜尋時，應該記住什麼？

AI Overview 應被視為查找資料的起點，而不是最終權威，尤其當它涉及一個人的安全、身分、宗教或國籍時。使用者可以比較相同句式的不同提示、查看摘要下方的原始連結，並透過 Google 的回饋工具回報偏見或不準確內容。

更重要的是，對個人安全的判斷應建立在具體行為與當下情境，而不是某人的國籍、種族或宗教。這次爭議提醒人們，這項原則不僅要寫進 AI 的安全規則，也必須成為產品推出前測試搜尋結果的一部分。