問題並不在於 AI 提到人身安全。假如用戶明確表示自己受到威脅,一般安全提示可以是合理的。真正令人擔心的是,在幾乎一樣的句式之下,警告似乎會因為句中所指的身份而改變。
換句話說,本來應該只根據「當事人是否感到受威脅」而觸發的安全政策,可能被解讀成:某些群體天生比其他人危險。這種暗示正是爭議的核心。
Reddit 用戶將這些答案形容為雙重標準;Futurism 則指,涉及報警及逃離現場的措辭,可能加深針對種族的有害刻板印象。 網上社運人士尤其關注穆斯林與以色列人問題之間的對比,並指控系統存在反穆斯林偏見。
伊瑪目奧馬爾・蘇萊曼(Imam Omar Suleiman)亦分享了一個回應,反駁因為一個人的信仰而把穆斯林視為危險人物。其後一張被指來自他帳戶的截圖顯示,系統曾以較中性的方式回答,形容與穆斯林人士獨處屬正常情況,並指出共同宗教信仰不代表一個人的性格或威脅程度。
這張截圖可以證明曾經出現過另一種答案,但現有資料未能確定答案何時改變、是否已普遍套用,亦未能證明 Google 是因為蘇萊曼的貼文才作出調整。
現有報道指,Google 承認這一類結果「並非應有的表現」,並表示正着手改善。 Google 亦一向鼓勵用戶透過 AI Overview 下方的意見按鈕,舉報不準確、有偏見或其他有問題的答案。
至於系統為何會產生不平等輸出,現有證據沒有提供 Google 的詳細技術解釋。因此,目前無法判斷問題主要源於模型本身、搜尋到的網頁內容、安全系統邏輯,還是幾者互相作用。
同樣地,雖然蘇萊曼分享的後續截圖顯示穆斯林相關答案變得較中性,但資料不足以確認這是否代表 Google 已全面修正相關結果。
AI Overview 會顯示在 Google 搜尋結果頂部,生成式答案即使沒有足夠根據,也很容易給人一種官方、權威的感覺。這項功能過往亦曾因提供古怪建議而受批評,例如叫人把膠水放上薄餅、食石頭,以及重複「巴拉克・奧巴馬是穆斯林」的錯誤說法。
另有報道關注 AI 生成的搜尋摘要可能提供不準確、甚至危險的健康資訊。 Futurism 引述一項由 AI 初創公司 Oumi 進行、應《紐約時報》要求完成的分析,估計 AI 生成摘要約有 91% 準確率。 即使這個比例聽起來不低,放到 Google 巨大的搜尋規模之下,仍然代表會有大量錯誤答案出現。
至於 Gemini 被指曾經生成不準確的種族圖像,現有資料沒有記錄足夠具體細節,不能把相關說法當成已證實事實。不過,今次事件與過往爭議共同指出一個更廣泛的問題:AI 系統可以用非常肯定的語氣,輸出帶有社會傷害的內容或事實錯誤;往往要等到用戶公開測試及指出問題後,才作出補救。
AI Overview 應該只當作開始查資料的入口,而不是最後定論;尤其當答案涉及某人的安全、身份、宗教或國籍時,更加要保持警覺。用戶可以比較相近問題的答案、查看原始連結,並透過 Google 的意見工具舉報偏頗或不準確結果。
最重要的是,人身安全應該根據實際行為及當時情況判斷,而不是從一個人的國籍、種族或宗教推斷。今次爭議正正說明,這個分別不但要寫入 AI 的安全規則,亦應在系統推出前透過有系統的測試驗證清楚。
問題並不在於 AI 提到人身安全。假如用戶明確表示自己受到威脅,一般安全提示可以是合理的。真正令人擔心的是,在幾乎一樣的句式之下,警告似乎會因為句中所指的身份而改變。
換句話說,本來應該只根據「當事人是否感到受威脅」而觸發的安全政策,可能被解讀成:某些群體天生比其他人危險。這種暗示正是爭議的核心。
Reddit 用戶將這些答案形容為雙重標準;Futurism 則指,涉及報警及逃離現場的措辭,可能加深針對種族的有害刻板印象。 網上社運人士尤其關注穆斯林與以色列人問題之間的對比,並指控系統存在反穆斯林偏見。
伊瑪目奧馬爾・蘇萊曼(Imam Omar Suleiman)亦分享了一個回應,反駁因為一個人的信仰而把穆斯林視為危險人物。其後一張被指來自他帳戶的截圖顯示,系統曾以較中性的方式回答,形容與穆斯林人士獨處屬正常情況,並指出共同宗教信仰不代表一個人的性格或威脅程度。
這張截圖可以證明曾經出現過另一種答案,但現有資料未能確定答案何時改變、是否已普遍套用,亦未能證明 Google 是因為蘇萊曼的貼文才作出調整。
現有報道指,Google 承認這一類結果「並非應有的表現」,並表示正着手改善。 Google 亦一向鼓勵用戶透過 AI Overview 下方的意見按鈕,舉報不準確、有偏見或其他有問題的答案。
至於系統為何會產生不平等輸出,現有證據沒有提供 Google 的詳細技術解釋。因此,目前無法判斷問題主要源於模型本身、搜尋到的網頁內容、安全系統邏輯,還是幾者互相作用。
同樣地,雖然蘇萊曼分享的後續截圖顯示穆斯林相關答案變得較中性,但資料不足以確認這是否代表 Google 已全面修正相關結果。
AI Overview 會顯示在 Google 搜尋結果頂部,生成式答案即使沒有足夠根據,也很容易給人一種官方、權威的感覺。這項功能過往亦曾因提供古怪建議而受批評,例如叫人把膠水放上薄餅、食石頭,以及重複「巴拉克・奧巴馬是穆斯林」的錯誤說法。
另有報道關注 AI 生成的搜尋摘要可能提供不準確、甚至危險的健康資訊。 Futurism 引述一項由 AI 初創公司 Oumi 進行、應《紐約時報》要求完成的分析,估計 AI 生成摘要約有 91% 準確率。 即使這個比例聽起來不低,放到 Google 巨大的搜尋規模之下,仍然代表會有大量錯誤答案出現。
至於 Gemini 被指曾經生成不準確的種族圖像,現有資料沒有記錄足夠具體細節,不能把相關說法當成已證實事實。不過,今次事件與過往爭議共同指出一個更廣泛的問題:AI 系統可以用非常肯定的語氣,輸出帶有社會傷害的內容或事實錯誤;往往要等到用戶公開測試及指出問題後,才作出補救。
AI Overview 應該只當作開始查資料的入口,而不是最後定論;尤其當答案涉及某人的安全、身份、宗教或國籍時,更加要保持警覺。用戶可以比較相近問題的答案、查看原始連結,並透過 Google 的意見工具舉報偏頗或不準確結果。
最重要的是,人身安全應該根據實際行為及當時情況判斷,而不是從一個人的國籍、種族或宗教推斷。今次爭議正正說明,這個分別不但要寫入 AI 的安全規則,亦應在系統推出前透過有系統的測試驗證清楚。