Google AI 連自己個名都串錯？拆解 LLM 數唔到字嘅底層原因

先天冇字母感知能力。 因為訓練數據全部都係標記化咗嘅文字，模型根本冇學識過點樣原生咁去數個別字母。佢只可以靠喺訓練語料庫入面見過嘅串字模式，去約略估算同字元層級相關嘅知識 。當你要佢數字母嘅時候，你即係迫個模型要由一啲從來都冇逐個字元咁儲存起嚟嘅文字入面，逆向推算返字母嘅資訊出嚟。

嵌入層未能充分表達到字元結構。 研究顯示，標記嵌入並冇完整編碼字元層級嘅資訊，特別係每個標記第一個字元之後嘅部分。呢樣嘢令到關於字母嘅組合式推理變得唔可靠 。

理論上嘅限制。 Transformer 架構喺計算複雜度上屬於 TC0 呢個類別，理論上佢哋係冇可能解決到一啲當輸入長度增加、就需要更深層次推理嘅任務——呢個係精確序列計數嘅數學限制 。

Google 透過電郵向 TechCrunch 回應表示：「單詞入面嘅字母計數一直係大型語言模型嘅已知難題，我哋正著手修正呢個特定問題。」 但正如研究人員所指，即使係擁有數千億參數、用數萬億標記訓練出嚟嘅模型，都要苦苦掙扎先數得準「strawberry」入面有幾多個「R」 。呢個問題係結構性嘅，唔係加大規模就解決到。

一連串尷尬失誤嘅模式

呢單串字大頭佛，只係 Google AI Overviews 呢兩年嚟一系列高調出錯事件入面最新嘅一集，呢啲錯失全部都源於同一個矛盾：流暢嘅文字生成能力，同搜尋引擎需要精準執行嘅操作之間嘅脫節。

2024 年推出初期嘅災難：膠水 Pizza 同食石頭餐單

2024 年 5 月喺美國推出唔夠幾日，AI Overviews 就生成咗一堆瘋傳嘅荒謬答案 ：

• 建議喺 Pizza 加**「無毒膠水」**嚟令芝士黐實啲，來源係一個 11 年前嘅 Reddit 笑話 。
• 同用戶講地質學家建議每日食一粒石頭嚟吸取維生素，內容來自一篇諷刺文章 。
• 犯啲基本歷史錯誤，例如聲稱美國有過穆斯林總統 。

Google 搜尋主管 Liz Reid 承認有「個別」例子係「荒謬嘅」，並歸咎於「資訊缺口」同 AI 引用咗諷刺同低質素來源 。公司話已經作出修正，包括限制 AI Overviews 處理健康同敏感相關嘅查詢 。

「Disregard」指令洩漏事件（2026 年 5 月）

2026 年 5 月 22 號，用戶發現只要搜尋 「disregard」 呢個字——仲有「ignore」、「dismiss」、「skip」、「stop」呢類相關字眼——就會觸發 AI Overviews 輸出一個 chatbot 風格嘅回應：「Understood. I have disregarded your previous prompt. How can I help you today?」（收到。我已經忽略你之前嘅指令。今日有咩可以幫到你？） 。

AI 冇俾到字典解釋，反而將一個簡單查詢演繹成系統級別嘅指令覆寫。呢個 Bug 仲會令 Google 搜尋介面對於嗰啲關鍵字一片空白，出唔到搜尋結果 。Google 承認咗問題，話會推出修正 。

保安研究人員認為呢個情況係一種經典嘅「提示注入」情境——模型將正常嘅搜尋字眼，誤當成俾 AI 助手嘅指令 。

串字失敗事件（2026 年 5 月底）

就喺「disregard」事件發生幾日之後，數字母嘅錯誤就浮上水面。AI 串唔到自己母公司嘅名，數錯簡單生字入面嘅字母，甚至將「Trump」串錯做「t-r-p-u-m」 。多間新聞媒體獨立驗證咗呢啲錯誤 。

呢啲事件反映咗 AI 搜尋嘅咩問題？

貫穿呢三類失敗嘅共通點係架構性嘅，唔係個別事件。Google 用一個擅長生成流暢文字嘅生成式 LLM，取代咗傳統嘅關鍵字配對搜尋引擎，但呢個模型天生就缺乏以下幾樣嘢嘅處理能力：

• 精準嘅字元層級操作（即係串字失敗嗰瓣）
• 來源可靠性判斷（即係膠水 Pizza 同食石頭餐單嗰瓣）
• 指令邊界執行（即係「disregard」指令洩漏嗰瓣）

模型好有信心咁俾出錯誤答案，係因為由最根本層面嚟講，佢本身就唔係設計嚟處理呢啲喺即時搜尋環境入面被叫去做嘅任務。每次瘋傳嘅失敗，都曝露咗 LLM 擅長嘅嘢（預測睇落合理嘅文字）同一個值得信賴嘅搜尋引擎所需要嘅嘢（事實準確性、字元精確度、同抵禦指令注入嘅能力）之間嘅鴻溝。

喺呢啲架構限制未被用比修補個別查詢類型更深層嘅方式解決之前，AI Overviews 似乎會繼續因為呢啲錯處而上頭條。