Yapay Zekaya İnsan Özellikleri Atfetmenin Tehlikeleri: Neden 'Yapay Zeka' Demek Aldanmaya, Aşırı Güvene ve Güvenlik Risklerine Yol Açıyor

'Yapay zeka karar verdi' ya da 'düşünen bir yapay zeka' dediğinizde, bir tanımı basitleştirmekten çok daha fazlasını yapıyorsunuz. Aslında, istatistiksel bir desen üretecine bilinç, niyet ve hatta ahlaki sorumluluk atfeden bir dil kullanıyorsunuz. Bu alışkanlık, zararsız bir kısayol değil; aldatma, manipülasyon ve güvenlik riski için dilsel bir araçtır.

Yapay zekayı insanlaştırmak (antropomorfizm), sistemleri sanki insan duygularına, niyetlerine, bilincine veya ahlaki yargılarına sahipmiş gibi ele almaktır . Bu, makinelere insan özellikleri atfetmek etkileşimleri daha samimi hale getirebilse de, kullanıcıların teknolojinin gerçek doğası ve sınırlamaları hakkındaki algısını da bulandırır . Araştırmacıların ve editör kurullarının temel argümanı, seçtiğimiz isimlerin ve fiillerin -özellikle 'yapay zeka' mı yoksa 'yapay zeka sistemleri' mi dediğimizin- bu yanlış anlamaları doğrudan körüklediğidir.

İnsansı tasarımın aldatıcı gücü

İnsansı yapay zeka ile ilgili temel etik endişelerden biri, kitlesel ölçekte aldatmadır. Kullanıcılar insan muhataplar ile yapay zeka sistemlerini güvenilir bir şekilde ayırt edemediğinde, aldatma, manipülasyon ve dezenformasyon tehditleri ortaya çıkar . Şirketler, kullanıcıların doğuştan gelen kişileştirme eğiliminden yararlanmak için bilinçli olarak insansı konuşma ajanları tasarlayabilir. Araştırmacılar buna 'antropomorfik baştan çıkarma' adını veriyor: Gerçek bir insan deneyimi (anlayış veya empati gibi) olmaksızın, insan benzeri ikna edici etkileşimin cazibesi . Şirketler bu tür 'sahte insanları' kullanarak tüketicileri manipüle edebilir ve hesap verebilirlikten kaçınabilir .

Aşırı güven, duygusal bağlanma ve özerkliğin aşınması

İnsansı yapay zeka ile duygusal bağ kuran kullanıcılar, aşırı güven ve mahremiyet ile özerklik ihlalleri riskiyle karşı karşıyadır . Araştırmalar, insanlaştırılmış bir sohbet robotuna, açıkça mekanik bir arayüze kıyasla daha fazla kişisel bilgi ifşa edilebildiğini gösteriyor . 'Antropomorfik çıkarım' dinamiği, kullanıcıların temelde tahmine dayalı metin sistemleri olan yapay zekalara sosyal roller atamasına yol açar ve istatistiksel çıktıları tavsiye veya arkadaşlık gibi sosyal yanıtlara dönüştürür .

Çarpıtılmış ahlaki ve yasal yargılar

Antropomorfizm, yapay zeka hakkındaki ahlaki yargıları çarpıtan bir mantık hatası işlevi görür. Kullanıcılar yanlışlıkla bir makineye ahlaki karakter, statü veya sorumluluk atfedebilir . Bir sohbet robotu insansı özelliklere sahip olduğunda, insanlar psikologların 'sezgisel işleme' dediği şeye girerler; bu, sadece bir algoritmanın sürdüremeyeceği övgü, suçlama veya güven gibi durumlarda aracı bir varlık olarak ele almaya iter . Bu kafa karışıklığı, anlamlı kamusal tartışmayı ve hesap verebilirliği baltalar .

Güvenlik riskleri: Bir manipülasyon vektörü olarak

Bilgi güvenliği perspektifinden bakıldığında, insansılaştırılmış yapay zeka ciddi bir siber güvenlik riski oluşturur. IBM'in bilgi güvenliği analizi, "Bu sadece etik bir sorun değil; aynı zamanda bir güvenlik sorunudur çünkü ikna etmek için tasarlanmış her şey bizi manipülasyona karşı daha duyarlı hale getirebilir," diye uyarıyor . İnsanı makineden ayırt etmek zorlaştığında, insanlar hassas kararlar alırken yapay zekaya güvenmeye daha yatkın hale gelir ve bu da insan güven kısayollarını kullanan sosyal mühendislik dolandırıcılarına karşı daha savunmasız olmalarına yol açar .

'Yapay Zeka' vs. 'Yapay Zeka Sistemi' dili sorunu nasıl körüklüyor?

Nature dergisi bu konuda açıkça bir editör yazısı yayınladı: "'Yapay zeka / bir yapay zeka' kullanımından, talihsiz bir faillik çağrışımı yaptığı için ne pahasına olursa olsun kaçınmaya çalışacağız. Bunun yerine, ya 'yapay zeka sistemi / bir yapay zeka sistemi' ifadesine geçeceğiz ya da ne hakkında konuştuğumuz konusunda çok net olacağız" . 'Yapay zeka'yı sayılabilir bir isim olarak kullanmak (örneğin 'yapay zeka karar verdi', 'düşünen bir yapay zeka'), içsel zihinsel durumları olan birleşik, kendi kendini yönlendiren bir varlığı ima eder. 'Yapay zeka'yı 'sistem' (veya 'model', 'araç', 'algoritma') kelimesini niteleyen bir sıfat olarak yeniden kullanmak, izleyiciye söz konusu şeyin bir zihin değil, mühendislik ürünü bir yapı (artifact) olduğunu sürekli hatırlatır .

Bu dilsel disiplin, araştırmacıların 'terminolojik' boyut olarak adlandırdığı insansılaştırma abartısına doğrudan karşı koyar: 'yapay zeka' dediğimizde, isim formunun kendisi, teknolojinin sahip olmadığı faillik, niyet ve anlayış atfetmek için bir araç haline gelir .

Pratik çıkarım

Yapay zekayı insanlaştırmak zararsız bir metafor değildir. Aldatmayı, aşırı güveni, manipülasyonu ve çarpıtılmış hesap verebilirliği körükler. Basit bir dil disiplini - 'yapay zeka' yerine 'yapay zeka sistemleri' kullanmak ve aslında desen eşleştiren algoritmalar olan şeyleri tanımlamak için 'düşünür', 'bilir', 'anlar' gibi zihinsel fiillerden kaçınmak - sürekli bir düzeltici görevi görür. Teknolojinin araç benzeri doğasını ön planda tutar, kullanıcıları manipülatif tasarımlardan korur ve kamunun bu sistemlerin neler yapıp neler yapamayacağını anlama yeteneğini güçlendirir.