過度依賴同削弱自主權:用戶同擬人化AI建立情感聯繫,會增加過度依賴嘅風險,導致私隱同自主權受損 。研究顯示,用戶傾向向人性化嘅聊天機械人透露更多個人資料 ,而呢種「擬人化推論」嘅心理機制,令用戶將社交角色強加喺根本只係預測文字嘅系統上 。
扭曲道德同法律判斷:擬人化作為一種邏輯謬誤,會扭曲我哋對AI嘅道德判斷,例如評估佢嘅道德品格、地位同責任 。用戶可能錯誤將道德責任歸咎於機器 ,而企業利用「虛假人類」去操控消費者,同時逃避問責 。
安全同網絡安全風險:任何具有說服力嘅設計,都會令人更容易被操控。從資訊安全角度睇,擬人人化AI利用人類嘅信任直覺,可以被武器化,造成嚴重安全隱憂 。
誇大AI能力同炒作:擬人化語言系統性地誇大AI嘅實際能力,導致公眾對科技嘅誤解 。
頂尖科學期刊《自然》(Nature)曾經明確表態:「我哋會盡一切努力避免使用『the AI / an AI』呢種講法,因為佢會令人誤以為AI有自主意識。相反,我哋會改用『the AI system / an AI system』(AI系統),或者清楚講明我哋討論緊嘅具體對象。」
用「個AI」呢種可數名詞(例如「個AI決定咗」、「有個AI識諗嘢」),會潛意識暗示一個有統一性、有自我意識嘅個體,仲好似有內心活動咁。相反,將「AI」變成形容詞嚟修飾「系統」、「模型」或「工具」,就不斷提醒讀者:呢個係工程產品,唔係一個有思想嘅腦袋。呢個語言轉變直接對抗咗所謂「術語層面」嘅擬人化炒作 :當我哋講「個AI」,名詞形式本身就變成賦予機器主體性、意圖同理解嘅載體——但呢啲嘢,AI根本冇。
將人工智能擬人化絕對唔係無傷大雅嘅比喻——佢會直接導致欺騙、過度信任、操控同責任歸屬混亂。一個簡單嘅語言紀律——用「AI系統」而唔係「個AI」——就可以做一個持續嘅提醒,令我哋唔好忘記呢個科技本質上只係一件工具。