KPMG 報告 89% 引用造假！AI 幻覺問題再度浮上檯面

規模驚人的造假：89% 的引用文獻有問題

GPTZero 對報告中 45 條引用文獻的掃描，揭示了一個系統性的驗證失敗 ：

• 僅有 5 條引用 準確指向了真實且相關的來源。
• 28 條引用 存在標題被改寫或部分捏造的情況，將虛假內容嫁接在真實出版物之上。
• 12 條引用 過於模糊或前後矛盾，無法追溯至任何現有來源。
• 近半數 依賴這些引用文獻的實質性論點，似乎是虛假或錯誤歸因的。

總體而言，報告中 89% 的參考文獻被標記為有問題。GPTZero 的 AI 偵測掃描更顯示，該文件有 56% 的機率是「混合」內容，這意味著它很可能是由 AI 生成或大量輔助，且未經充分的人類審查 。

哪些機構被虛假引用？報告中說了什麼？

調查發現，報告中引用了四個知名機構及其虛構的「代理型 AI」部署案例 ：

• 瑞銀集團 (UBS)：報告聲稱該銀行正在部署代理型 AI，用於提供個人化的財富管理見解，但找不到任何可驗證的來源。
• 大曼徹斯特 NHS 信託 (NHS Greater Manchester)：報告宣稱該 NHS 信託正在使用 AI 驅動的患者旅程編排，但並無真實文件支持。
• 倫敦交通局 (Transport for London, TfL)：TfL 被當作 AI 驅動的即時客戶體驗優化範例，但該說法無法得到證實。
• 瑞士聯邦鐵路 (Swiss Federal Railways, SBB)：報告提出了一個 SBB 使用代理型 AI 整合客戶接觸點的案例研究，但在引用的資料中無法找到任何此類計劃的證據。

在上述每個案例中，其引用要麼指向不存在的報告，要麼是與真實出版物無關的改寫標題，或是過於模糊以至於毫無價值的參考資料 。

根本原因：未經核實的 AI 工具失控

GPTZero 的分析結論指出，這些錯誤很可能是 AI 研究工具為了過度滿足「尋找代理型 AI 真實案例」的提示，而憑空生成聽起來合理但完全虛構的案例和引用，並且這些內容在未經修正的情況下通過了 KPMG 的審查流程 。

這起事件凸顯了一個關鍵漏洞：當 AI 生成的研究在沒有經過嚴謹人工驗證下就被發表時，它可能會產出看似自信且權威、實則胡說八道的內容，進而嚴重損害機構的公信力 。

專業服務業中日益增長的 AI 幻覺模式

KPMG 此次報告的下架並非單一事件。它符合了各大顧問及律師事務所中，一系列與 AI 相關的引用錯誤模式 ：

• Deloitte 澳洲分公司 曾被要求重新發布一份價值 44 萬澳元 的政府報告，因為該報告被發現含有虛構的學術參考文獻，甚至還有一段捏造的聯邦法院判決引言 。該公司最終退還部分費用，並面臨公眾的嚴格檢視，被觀察家形容為一份「充斥著引用錯誤」的報告 。
• Ernst & Young (EY) 發布的一份關於忠誠度詐欺的報告，經 GPTZero 調查發現，其幾乎所有的網址都已失效或根本是虛假的，而超過一半的標題並未對應到真實的來源 。
• 類似的問題也出現在涉及 Sullivan & Cromwell 等大型律師事務所的法律文件中 。

這些一再發生的失誤，凸顯了一個系統性的風險：在缺乏嚴格的人類監督下，AI 研究工具正在產出看似可信、但在審查下便會分崩離析的證據。對於一個以銷售信賴和專業知識為本的產業而言，犯錯的代價不僅是金錢損失，更是聲譽掃地和監管機構的關注。KPMG 的案例無疑是一個明確的警訊：在 AI 輔助的工作流程中，「核查」這一步必須是真實、徹底且由人類來執行的。