Google AI Overviews「Disregard」Bug 解釋：點解搜尋字會被當成指令

點解 AI 會將字詞當成「指令」

Google 已經承認，AI Overviews 正在「錯誤解讀某啲動作型查詢」，但暫時未公開完整技術原因。

不過從現象嚟睇，問題好似同 指令分類（command classification） 有關。

大型語言模型本身係為理解指令而設計。例如以下 prompt 喺 AI 系統中非常常見：

• “ignore previous instructions”
• “disregard earlier message”

當搜尋內容只係一個動詞，例如 ignore 或 dismiss，系統可能誤判為使用者喺落指令。

結果係：

• AI 將搜尋字當作命令
• 嘗試「執行」佢
• 而唔係解釋個字

呢種情況同 AI 安全領域入面嘅 prompt injection 問題有少少相似：模型可能會跟隨輸入中嘅指令，而唔係完成原本任務。

不過今次唔係惡意攻擊，而係語言本身有歧義。

點解會出現空白或聊天式回覆

問題另一個原因係 AI Overviews 會接管搜尋結果頁最上面的位置。

當系統覺得自己可以生成摘要時，就會顯示 AI 面板。

但如果模型錯誤理解搜尋字為指令：

• AI 只會回覆一句對話式內容
• 面板幾乎冇實際資訊
• 頁面頂部出現大量空白

於是正常搜尋結果被推到下面，用戶就會覺得 Google 突然唔識解釋單字。

AI Overviews 之前都試過出奇怪答案

其實 AI Overviews 自推出以來，已經出現過幾次爆紅嘅錯誤。

2024 年推出初期，就曾經出現過幾個經典例子：

• 建議喺 pizza 醬加 無毒膠水 令芝士黐得更好
• 建議人 每日食一粒細石頭 以補充礦物質

呢啲答案之後被廣泛嘲笑，Google 亦承認部分 AI 回覆「奇怪、不準確或冇幫助」，原因包括：

• 誤解查詢
• 網絡資料不足
• 誤用諷刺或玩笑內容做來源

今次「disregard bug」其實都屬於同一類問題：

AI 太靈活解讀語言，反而誤判用戶真正意圖。

Google 未修復前可以點避開

暫時未有正式關閉 AI Overviews 嘅設定，但可以用幾個方法繞過。

1. 切換到 Web 分頁
搜尋後按「Web」，只顯示傳統連結結果，通常唔會出 AI Overview。

2. 喺搜尋字後加「-ai」
例如：

disregard -ai

3. 直接捲過 AI 面板
好多時字典結果仍然喺下面，只係被 AI 區塊遮住。

4. 用更明確嘅搜尋句
例如：

• define disregard
• disregard meaning

呢類查詢比較少被誤判為指令。

呢個 Bug 反映 AI 搜尋嘅一個核心難題

傳統搜尋引擎同 AI 模型其實有兩種完全唔同嘅思維模式：

• 搜尋引擎：將輸入當成 資訊查詢
• AI 模型：將輸入當成 指令

當兩者融合時，語言歧義就會變成問題。

一個單字可以係：

• 查字典
• 又或者係命令

而 如何準確分辨用戶意圖，仍然係 AI 搜尋設計中未完全解決嘅挑戰。

Google 表示已經知道問題並正在修復，但呢次事件再次提醒：

當搜尋引擎變成 AI 介面，連最簡單嘅查字都可能出現意想不到嘅錯誤。