İnsansı yapay zeka ile ilgili temel etik endişelerden biri, kitlesel ölçekte aldatmadır. Kullanıcılar insan muhataplar ile yapay zeka sistemlerini güvenilir bir şekilde ayırt edemediğinde, aldatma, manipülasyon ve dezenformasyon tehditleri ortaya çıkar . Şirketler, kullanıcıların doğuştan gelen kişileştirme eğiliminden yararlanmak için bilinçli olarak insansı konuşma ajanları tasarlayabilir. Araştırmacılar buna 'antropomorfik baştan çıkarma' adını veriyor: Gerçek bir insan deneyimi (anlayış veya empati gibi) olmaksızın, insan benzeri ikna edici etkileşimin cazibesi . Şirketler bu tür 'sahte insanları' kullanarak tüketicileri manipüle edebilir ve hesap verebilirlikten kaçınabilir .
İnsansı yapay zeka ile duygusal bağ kuran kullanıcılar, aşırı güven ve mahremiyet ile özerklik ihlalleri riskiyle karşı karşıyadır . Araştırmalar, insanlaştırılmış bir sohbet robotuna, açıkça mekanik bir arayüze kıyasla daha fazla kişisel bilgi ifşa edilebildiğini gösteriyor . 'Antropomorfik çıkarım' dinamiği, kullanıcıların temelde tahmine dayalı metin sistemleri olan yapay zekalara sosyal roller atamasına yol açar ve istatistiksel çıktıları tavsiye veya arkadaşlık gibi sosyal yanıtlara dönüştürür .
Antropomorfizm, yapay zeka hakkındaki ahlaki yargıları çarpıtan bir mantık hatası işlevi görür. Kullanıcılar yanlışlıkla bir makineye ahlaki karakter, statü veya sorumluluk atfedebilir . Bir sohbet robotu insansı özelliklere sahip olduğunda, insanlar psikologların 'sezgisel işleme' dediği şeye girerler; bu, sadece bir algoritmanın sürdüremeyeceği övgü, suçlama veya güven gibi durumlarda aracı bir varlık olarak ele almaya iter . Bu kafa karışıklığı, anlamlı kamusal tartışmayı ve hesap verebilirliği baltalar .
Bilgi güvenliği perspektifinden bakıldığında, insansılaştırılmış yapay zeka ciddi bir siber güvenlik riski oluşturur. IBM'in bilgi güvenliği analizi, "Bu sadece etik bir sorun değil; aynı zamanda bir güvenlik sorunudur çünkü ikna etmek için tasarlanmış her şey bizi manipülasyona karşı daha duyarlı hale getirebilir," diye uyarıyor . İnsanı makineden ayırt etmek zorlaştığında, insanlar hassas kararlar alırken yapay zekaya güvenmeye daha yatkın hale gelir ve bu da insan güven kısayollarını kullanan sosyal mühendislik dolandırıcılarına karşı daha savunmasız olmalarına yol açar .
Nature dergisi bu konuda açıkça bir editör yazısı yayınladı: "'Yapay zeka / bir yapay zeka' kullanımından, talihsiz bir faillik çağrışımı yaptığı için ne pahasına olursa olsun kaçınmaya çalışacağız. Bunun yerine, ya 'yapay zeka sistemi / bir yapay zeka sistemi' ifadesine geçeceğiz ya da ne hakkında konuştuğumuz konusunda çok net olacağız" . 'Yapay zeka'yı sayılabilir bir isim olarak kullanmak (örneğin 'yapay zeka karar verdi', 'düşünen bir yapay zeka'), içsel zihinsel durumları olan birleşik, kendi kendini yönlendiren bir varlığı ima eder. 'Yapay zeka'yı 'sistem' (veya 'model', 'araç', 'algoritma') kelimesini niteleyen bir sıfat olarak yeniden kullanmak, izleyiciye söz konusu şeyin bir zihin değil, mühendislik ürünü bir yapı (artifact) olduğunu sürekli hatırlatır .
Bu dilsel disiplin, araştırmacıların 'terminolojik' boyut olarak adlandırdığı insansılaştırma abartısına doğrudan karşı koyar: 'yapay zeka' dediğimizde, isim formunun kendisi, teknolojinin sahip olmadığı faillik, niyet ve anlayış atfetmek için bir araç haline gelir .
Yapay zekayı insanlaştırmak zararsız bir metafor değildir. Aldatmayı, aşırı güveni, manipülasyonu ve çarpıtılmış hesap verebilirliği körükler. Basit bir dil disiplini - 'yapay zeka' yerine 'yapay zeka sistemleri' kullanmak ve aslında desen eşleştiren algoritmalar olan şeyleri tanımlamak için 'düşünür', 'bilir', 'anlar' gibi zihinsel fiillerden kaçınmak - sürekli bir düzeltici görevi görür. Teknolojinin araç benzeri doğasını ön planda tutar, kullanıcıları manipülatif tasarımlardan korur ve kamunun bu sistemlerin neler yapıp neler yapamayacağını anlama yeteneğini güçlendirir.