学术界称之为“拟人化诱惑”——在没有任何真实人类体验(如理解、共情)的情况下,模拟令人信服的人类交互,让用户误以为机器真正理解人类的经历与情感。
2. 过度依赖与自主权侵蚀
用户会对拟人化的AI产生情感依恋,这带来了过度依赖的风险,也威胁到隐私和自主权。研究表明,面对被“人性化”的聊天机器人,人们更愿意披露个人信息。而所谓的“拟人化推论”机制,会让用户赋予本质上是预测文本系统的东西以社会角色。
3. 道德与法律判断的扭曲
拟人化作为一种逻辑谬误,会扭曲人们对AI的道德判断——包括对其道德品格、地位、责任和信任的评估。用户可能错误地将道德责任归于机器,而企业则可以利用“虚拟人”来操纵消费者,同时逃避问责。
4. 安全隐患:“可信”=“可攻击”
从信息安全角度看,任何旨在说服人的设计都会使人更易被操纵。拟人化AI利用人类的信任本能,为攻击者提供了可被武器化的心理路径。
5. 放大AI炒作:能力被严重夸大
拟人化语言系统性地夸大了AI系统的实际能力,导致公众对其真实水平产生广泛误解。
《自然》(Nature)杂志曾专门就此发表社论,措辞极为明确:
“我们将不惜一切代价避免使用‘那个AI/一个AI’这类说法,因为它们不幸地暗示了自主性。取而代之的是,我们将改用‘AI系统’或明确说明我们谈论的具体对象。”
把“AI”当作一个可数名词(如“那个AI决定这么做”“一个会思考的AI”),无形中暗示其是一个统一的、具有自我导向性的实体,拥有内在的精神状态。而将“AI”作为形容词修饰“系统”(或“模型”“工具”“算法”),则时刻提醒受众:我们在谈论的是一件人造的东西——不是一颗心智。
这一语言转换直接针对学者所指的“术语层面”的拟人化炒作:当我们说“那个AI”时,名词形式本身就成为了赋予机器主体性、意图和理解能力的载体——而这些,技术根本不具备。
改变语言习惯,就是在改变认知和政策方向。
这不仅仅是学术界的洁癖,而是每一个媒体、开发者、政策制定者和使用者都应掌握的基本技术伦理素养。
归根结底:拟人化不是礼貌,不是亲切,而是一种危险的认知偏差。纠正它的第一步,就从改口说“AI系统”开始。