呢啲數字唔係話所有聊天機械人都有同一錯誤率。重點係:連專門用嚟做法律研究、而且有接駁資料來源嘅工具,都仍然可以答錯或者答漏。
傳統網上搜尋,你會見到多個結果,自己比較來源。AI 答案就通常將呢個過程壓縮成一段「整理好」嘅文字。咁做慳時間,但亦令查證責任變得更重要。
關鍵唔係答案有冇列來源,而係來源有冇真正支持嗰句具體聲明。尤其係以下內容,要特別小心:
最好做法係打開來源,搵返原文中支持該說法嘅位置。如果來源只係「同題目有關」,但無證明 AI 嗰句講法,咁答案仍然未算查實。
史丹福 AI Index 2025 提到,企業使用 AI 時,「不準確」係一個主要憂慮:64% 受訪高層表示呢點係問題。 報告亦引用 AI Incidents Database:2024 年錄得 233 宗 AI 相關事件,比 2023 年多 56.4%。
呢啲數字唔係直接量度聊天機械人答錯幾多次。不過,佢哋反映咗一件事:當 AI 被放入工作流程、產品、服務同決策入面,單靠「相信系統」唔夠,組織需要檢查機制、清楚責任同人手監督。
AI 最有用嘅位置,通常唔係做最後裁判,而係幫你快啲入門、整理同發問。例如:
呢啲用途嘅價值在於提升效率同方向感。至於事實是否準確,仍然要另外核實。
如果 AI 答案有以下特徵,就唔好直接照用:
法律領域就係一個清晰警號:史丹福研究顯示,專門法律 AI 研究工具都會出現幻覺或不完整答案。
AI 答案可以令搜尋、學習同寫作快好多,但現有數據唔支持盲目信任:冇一個可靠嘅萬用準確率,專門工具仍然會幻覺,而「不準確」亦係實際部署 AI 時嘅重要風險。
最穩陣嘅工作方法係:問 AI、要求來源、打開來源、核對關鍵句。涉及重大後果嘅決定,就要回到原始資料,必要時再問合資格專業人士。