Google AI 連自己個名都串錯？拆解 LLM 數唔到字嘅底層原因

2026 年 5 月底，Google 旗下嘅 AI 搜尋功能「AI Overviews」再次成為網民嘲笑對象，因為大家發現佢連幼稚園級數嘅任務都搞唔掂：數字母。

你問佢「Google」呢個字入面有幾多個「P」，AI 會好有信心咁答你「兩個」——但正確答案係一個。問佢「poop」有幾多個「R」，佢堅持「exactly 1」，事實上有兩個。仲會話「journalism」有兩個「D」，然後將個字串成 「j-o-u-r-n-a-d-i-s-m」 。

呢啲唔係獨立嘅技術失誤，而係一個近期尷尬篇章——特別係當 Google 一直將呢個功能定位做搜尋引擎嘅未來。問題根源追溯到同一種架構上嘅拉扯，之前就係因為呢個問題，令 AI 叫人食石頭、喺 Pizza 上面落膠水，甚至只要打一個英文字就洩漏咗自己嘅系統指令。

Google AI Overviews 係點運作？

Google AI Overviews 係直接整合咗入 Google 搜尋嘅生成式 AI 功能。佢喺 2024 年 5 月向過億美國用戶推出，隨後擴展到更多地區，背後用緊同 ChatGPT 一樣嘅大型語言模型技術，會喺搜尋結果頁頂部直接出 AI 寫嘅撮要，而唔係單單列出藍色連結 。Google 嘅野心係想令搜尋變得對話式同直接啲，但執行起嚟就不斷曝露 LLM 處理資訊時嘅基本弱點。

點解 LLM 數唔到字母：拆解 Tokenization（標記化）問題

呢啲串字失敗嘅根本原因，唔係普通嘅軟件 Bug，而係一個有大量學術研究記錄、大型語言模型架構層面嘅先天性限制——子詞標記化。多份同行評審嘅論文都詳細剖析過呢種失敗模式 。

以下係背後發生緊嘅事：

LLM 唔係睇一個個字母。 佢哋會將文字打散做「標記」——一個或以上嘅字元組合——用嘅係 Byte-Pair Encoding (BPE) 之類嘅演算法。一個常見嘅字例如「Google」可能會變成一個單一標記，而「journalism」就可能會拆開做子詞組件，例如

['journ', 'alism']

先天冇字母感知能力。 因為訓練數據全部都係標記化咗嘅文字，模型根本冇學識過點樣原生咁去數個別字母。佢只可以靠喺訓練語料庫入面見過嘅串字模式，去約略估算同字元層級相關嘅知識 。當你要佢數字母嘅時候，你即係迫個模型要由一啲從來都冇逐個字元咁儲存起嚟嘅文字入面，逆向推算返字母嘅資訊出嚟。

嵌入層未能充分表達到字元結構。 研究顯示，標記嵌入並冇完整編碼字元層級嘅資訊，特別係每個標記第一個字元之後嘅部分。呢樣嘢令到關於字母嘅組合式推理變得唔可靠 。

理論上嘅限制。 Transformer 架構喺計算複雜度上屬於 TC0 呢個類別，理論上佢哋係冇可能解決到一啲當輸入長度增加、就需要更深層次推理嘅任務——呢個係精確序列計數嘅數學限制 。

Google 透過電郵向 TechCrunch 回應表示：「單詞入面嘅字母計數一直係大型語言模型嘅已知難題，我哋正著手修正呢個特定問題。」 但正如研究人員所指，即使係擁有數千億參數、用數萬億標記訓練出嚟嘅模型，都要苦苦掙扎先數得準「strawberry」入面有幾多個「R」 。呢個問題係結構性嘅，唔係加大規模就解決到。

一連串尷尬失誤嘅模式

呢單串字大頭佛，只係 Google AI Overviews 呢兩年嚟一系列高調出錯事件入面最新嘅一集，呢啲錯失全部都源於同一個矛盾：流暢嘅文字生成能力，同搜尋引擎需要精準執行嘅操作之間嘅脫節。

2024 年推出初期嘅災難：膠水 Pizza 同食石頭餐單

2024 年 5 月喺美國推出唔夠幾日，AI Overviews 就生成咗一堆瘋傳嘅荒謬答案 ：

• 建議喺 Pizza 加**「無毒膠水」**嚟令芝士黐實啲，來源係一個 11 年前嘅 Reddit 笑話 。
• 同用戶講地質學家建議每日食一粒石頭嚟吸取維生素，內容來自一篇諷刺文章 。
• 犯啲基本歷史錯誤，例如聲稱美國有過穆斯林總統 。

Google 搜尋主管 Liz Reid 承認有「個別」例子係「荒謬嘅」，並歸咎於「資訊缺口」同 AI 引用咗諷刺同低質素來源 。公司話已經作出修正，包括限制 AI Overviews 處理健康同敏感相關嘅查詢 。

「Disregard」指令洩漏事件（2026 年 5 月）

2026 年 5 月 22 號，用戶發現只要搜尋 「disregard」 呢個字——仲有「ignore」、「dismiss」、「skip」、「stop」呢類相關字眼——就會觸發 AI Overviews 輸出一個 chatbot 風格嘅回應：「Understood. I have disregarded your previous prompt. How can I help you today?」（收到。我已經忽略你之前嘅指令。今日有咩可以幫到你？） 。

AI 冇俾到字典解釋，反而將一個簡單查詢演繹成系統級別嘅指令覆寫。呢個 Bug 仲會令 Google 搜尋介面對於嗰啲關鍵字一片空白，出唔到搜尋結果 。Google 承認咗問題，話會推出修正 。

保安研究人員認為呢個情況係一種經典嘅「提示注入」情境——模型將正常嘅搜尋字眼，誤當成俾 AI 助手嘅指令 。

串字失敗事件（2026 年 5 月底）

就喺「disregard」事件發生幾日之後，數字母嘅錯誤就浮上水面。AI 串唔到自己母公司嘅名，數錯簡單生字入面嘅字母，甚至將「Trump」串錯做「t-r-p-u-m」 。多間新聞媒體獨立驗證咗呢啲錯誤 。

呢啲事件反映咗 AI 搜尋嘅咩問題？

貫穿呢三類失敗嘅共通點係架構性嘅，唔係個別事件。Google 用一個擅長生成流暢文字嘅生成式 LLM，取代咗傳統嘅關鍵字配對搜尋引擎，但呢個模型天生就缺乏以下幾樣嘢嘅處理能力：

• 精準嘅字元層級操作（即係串字失敗嗰瓣）
• 來源可靠性判斷（即係膠水 Pizza 同食石頭餐單嗰瓣）
• 指令邊界執行（即係「disregard」指令洩漏嗰瓣）

模型好有信心咁俾出錯誤答案，係因為由最根本層面嚟講，佢本身就唔係設計嚟處理呢啲喺即時搜尋環境入面被叫去做嘅任務。每次瘋傳嘅失敗，都曝露咗 LLM 擅長嘅嘢（預測睇落合理嘅文字）同一個值得信賴嘅搜尋引擎所需要嘅嘢（事實準確性、字元精確度、同抵禦指令注入嘅能力）之間嘅鴻溝。

喺呢啲架構限制未被用比修補個別查詢類型更深層嘅方式解決之前，AI Overviews 似乎會繼續因為呢啲錯處而上頭條。