過剰依存と自律性の喪失:ユーザーは人間らしいAIに情緒的な愛着を形成し、過剰依存やプライバシー・自律性の侵害リスクにさらされます。擬人化されたチャットボットには、そうでない場合よりも多くの個人情報を開示してしまう傾向があり、「擬人化推論」のダイナミクスにより、ユーザーは本質的に予測的テキストシステムに過ぎないものに社会的な役割を割り当ててしまいます。
歪んだ道徳的・法的判断:擬人化が誤謬として働く場合、AIの道徳的性格、地位、責任に関する判断を歪めます。ユーザーは機械に誤って道徳的責任を帰属させることがあり、企業による「偽の人間」の使用は消費者を操作しながらも説明責任を回避することを可能にします。
セキュリティとサイバーセキュリティのリスク:人を説得するために設計されたものは、人間の操作に対する脆弱性を高めます。情報セキュリティの観点から、擬人化されたAIは、悪用可能な信頼ヒューリスティックを利用するため、深刻なセキュリティ上の懸念を提示します。
能力の誇張とAIハイプ:擬人化的な言葉遣いは、AIシステムの実際の能力を体系的に誇張し、その実際の能力の広範な誤解とミスリードに寄与しています。
Nature誌はこの点について明確に社説で表明しています:「我々は、‘the AI / an AI’という表現が主体性を誤って示唆することを避けるため、可能な限り使用を控える。代わりに‘the AI system / an AI system’と言い換えるか、何について話しているのかを明確にする」。
「AIが決定した」「考えるAI」のように「AI」を可算名詞として扱うことは、統一された自己決定的な存在で、内部に心的状態を持つことを微妙に暗示します。「AIシステム」(または「モデル」「ツール」「アルゴリズム」)と、AIを形容詞として使うことで、聞き手に対してその対象がエンジニアリングされた人工物であり、心ではないことを常に認識させます。この言語的転換は、擬人化された誇張表現の「用語」的次元に直接対抗するものです。「AI」という名詞形そのものが、この技術が持たない主体性、意図、理解を帰属させる乗り物となるのです。
結論:AIの擬人化は無害な比喩ではありません——それは欺瞞、過信、操作、そして責任の所在の不明確化を引き起こします。「AI」ではなく「AIシステム」という単純な言語的規律は、この技術の道具としての本質を常に前面に押し出すための継続的な修正策として機能します。