過度依賴與自主性侵蝕。 使用者會對擬人化的AI產生情感連結,這會帶來過度依賴、隱私與自主性受損的風險。人們可能因此向擬人化的聊天機器人透露比平常更多的個人資訊,而「擬人化推論」的動態,更會讓使用者將這些本質上是預測文字系統的工具賦予社會角色。
扭曲的道德與法律判斷。 擬人化作為一種謬誤,會扭曲我們對AI的道德判斷,例如對其道德品格、地位與責任的評估。使用者可能錯誤地將道德責任歸咎於機器,而企業使用「假造的人」則可能一邊操縱消費者,一邊逃避責任。
安全與網路安全風險。 任何被設計來進行說服的東西,都會讓人更容易被操縱。從資訊安全的角度來看,擬人化的AI會利用並武器化人類的信任直覺,構成嚴重的安全隱憂。
誇大的能力與AI炒作。 擬人化的語言系統性地誇大了AI系統的實際能力,導致大眾普遍對其真實能力產生錯誤認知。
頂尖學術期刊《自然》已明確就此發表社論:「我們將盡一切努力避免使用『the AI / an AI』,因為它不幸地暗示了『行為者』的意涵。我們將改用『the AI system / an AI system』,或非常清楚地說明我們在談論什麼。」
將「AI」當作一個可數名詞(例如「AI決定了」、「一個會思考的AI」),會微妙地暗示一個統一、擁有自我意圖且具備內在心智狀態的實體。而將「AI」重新定位為修飾「系統」(或「模型」、「工具」、「演算法」)的形容詞,則能不斷提醒聽眾與讀者,這個對象是工程產物——而非一個有思想的「人」。這種語言上的轉變,直接對抗了所謂「術語層面」的擬人化炒作:當我們說「AI」時,名詞形式本身就成為了賦予其不具備的行動、意圖與理解能力的載體。
結論: 擬人化AI並非無害的比喻——它會導致欺騙、過度信任、操縱以及責任歸屬的扭曲。一個簡單的語言紀律——使用「AI系統」而非「AI」——就是一個持續有效的矯正器,讓我們始終牢記這項技術的工具本質。