Lệ thuộc quá mức và xói mòn quyền tự chủ. Người dùng hình thành các kết nối cảm xúc với AI giống người, tạo ra nguy cơ lệ thuộc quá mức và xâm phạm quyền riêng tư cũng như quyền tự chủ . Mọi người có thể tiết lộ nhiều thông tin cá nhân hơn cho một chatbot được nhân cách hóa so với bình thường , và động thái “suy luận nhân hình” khiến người dùng gán các vai trò xã hội cho những gì về cơ bản chỉ là hệ thống dự đoán văn bản .
Xuyên tạc phán đoán đạo đức và pháp lý. Nhân cách hóa như một ngụy biện làm xuyên tạc các phán đoán đạo đức về AI, chẳng hạn như đánh giá về tính cách đạo đức, địa vị và trách nhiệm của nó . Người dùng có thể gán trách nhiệm đạo đức một cách sai lầm cho một cỗ máy , và việc các tập đoàn sử dụng “con người giả” có thể thao túng người tiêu dùng trong khi trốn tránh trách nhiệm .
Rủi ro an ninh và an toàn thông tin. Bất cứ thứ gì được thiết kế để thuyết phục đều khiến con người dễ bị thao túng hơn. Từ góc nhìn an ninh thông tin, AI được nhân cách hóa đặt ra những mối lo ngại nghiêm trọng vì nó khai thác các lối tắt tin tưởng có thể bị vũ khí hóa .
Thổi phồng năng lực và cường điệu hóa AI. Ngôn ngữ nhân cách hóa có hệ thống phóng đại những gì hệ thống AI có thể làm, góp phần vào việc trình bày sai lệch tràn lan về năng lực thực tế của chúng .
Tạp chí Nature đã từng đăng xã luận thẳng thắn về điểm này: “Chúng tôi sẽ cố gắng tránh bằng mọi giá việc sử dụng cụm từ 'the AI / an AI' (cái AI) vì nó gợi ý sai lệch về tác nhân. Thay vào đó, chúng tôi sẽ chuyển sang dùng 'the AI system / an AI system' (hệ thống AI) hoặc nói rõ ràng chúng tôi đang đề cập đến điều gì.”
Việc coi “AI” như một danh từ đếm được (ví dụ: “cái AI đã quyết định,” “một AI biết suy nghĩ”) ngầm ám chỉ một thực thể thống nhất, tự định hướng với các trạng thái tinh thần bên trong. Chuyển “AI” thành tính từ bổ nghĩa cho “hệ thống” (hoặc “mô hình,” “công cụ,” “thuật toán”) liên tục nhắc nhở người nghe rằng đối tượng được đề cập là một sản phẩm kỹ thuật chứ không phải một khối óc. Sự thay đổi ngôn ngữ này trực tiếp chống lại cái mà một phân tích gọi là khía cạnh “thuật ngữ” của sự cường điệu hóa AI : khi chúng ta nói “cái AI,” bản thân danh từ đã trở thành phương tiện để gán tác nhân, ý định và sự hiểu biết mà công nghệ không hề có.
Kết luận: Nhân cách hóa AI không phải là phép ẩn dụ vô hại — nó dẫn đến lừa dối, tin tưởng thái quá, thao túng và đánh trách nhiệm sai lệch. Một kỷ luật ngôn ngữ đơn giản — dùng “hệ thống AI” thay vì “cái AI” — đóng vai trò như một sự điều chỉnh liên tục, giúp bản chất công cụ của công nghệ luôn hiện rõ.