“Yapay zekâ karar verdi” demek bizi nasıl yanıltıyor?

Kullanıcılar karşılarındaki kişinin bir insan mı yoksa yapay zekâ sistemi mi olduğunu ayırt edemediğinde, aldatma, manipülasyon ve yanlış bilginin büyük ölçekte yayılması kolaylaşır . Şirketler, insanların insanımsı özellikler yükleme eğiliminden yararlanarak son derece ikna edici sohbet ajanları tasarlayabilir. Gerçek bir insan deneyimi bulunmadığı hâlde insanla konuşuyormuş hissi yaratılması, bazı araştırmacıların “antropomorfik baştan çıkarma” olarak tanımladığı riski ortaya çıkarır .

Aşırı güven ve özerkliğin zayıflaması

İnsan benzeri yapay zekâlarla etkileşim kuran kullanıcılar, bu sistemlere duygusal bağ geliştirebilir. Bu durum, aşırı bağımlılık, mahremiyetin zedelenmesi ve kişinin kendi karar verme özerkliğinin zarar görmesi riskini artırır . İnsanileştirilmiş bir sohbet botuyla konuşan kişiler, normalde paylaşmayacakları kişisel bilgileri vermeye daha yatkın olabilir .

Buradaki sorun yalnızca güvenmek değildir. Kullanıcılar, temelde olasılıksal metin üreticileri olan sistemlere bir arkadaş, danışman veya sırdaş gibi sosyal roller yükleyebilir . Akıcı ve sıcak bir üslup, sistemin gerçekten anladığı veya empati kurduğu anlamına gelmez.

Ahlaki ve hukuki sorumluluğun yanlış yere yüklenmesi

Bir yapay zekâ sistemi insan gibi görülmeye başladığında, onun ahlaki karakteri, hakları veya sorumluluğu hakkında da yanıltıcı değerlendirmeler yapılabilir . Kullanıcılar, bir makineye yanlış biçimde ahlaki sorumluluk atfedebilir; böylece sistemi geliştiren, işleten veya kullanan kişi ve kurumların hesap verebilirliği gölgede kalabilir .

Benzer bir sorun, şirketlerin insan izlenimi veren “sahte kişiler” veya yapay karakterler kullanmasıyla da ortaya çıkabilir. Bu tasarımlar tüketicileri etkilerken, kararların arkasındaki kurumsal sorumluluğun görünmezleşmesine neden olabilir .

Güvenlik ve siber güvenlik açıkları

İkna etmeye yönelik her tasarım, insanların manipülasyona açıklığını artırabilir. İnsanlar genellikle güven veren bir ses tonu, empatik ifadeler veya tutarlı bir kişilik gibi işaretleri hızlı karar vermek için kullanır. Antropomorfik yapay zekâ sistemleri bu güven sezgilerini istismar edilebilir hâle getirebilir .

Bu nedenle risk, yalnızca yanlış cevaplardan ibaret değildir. Kullanıcı bir sistemi “güvenilir bir uzman” veya “kendisini önemseyen bir yardımcı” olarak algılarsa, dolandırıcılık, kimlik avı ve hassas bilgi sızdırma gibi tehditlere karşı daha savunmasız kalabilir.

Yeteneklerin abartılması ve yapay zekâ heyecanı

İnsan biçimli ifadeler, yapay zekânın kapasitesini olduğundan büyük gösterir. “Yapay zekâ düşündü” veya “sorunu kavradı” demek, sistemin nasıl çalıştığına dair yanlış bir zihinsel model oluşturur. Antropomorfik anlatımın yapay zekâ hakkındaki abartılı söylemi beslediği ve teknolojinin gerçek sınırlarını görünmez kıldığı belirtiliyor .

Bu abartı, kamusal tartışmayı da zayıflatır: İnsanlar sistemlerin veri, tasarım ve kullanım koşullarından kaynaklanan sınırlamalarını tartışmak yerine, ortada insan benzeri bir “zihin” varmış gibi konuşmaya başlayabilir.

“Yapay zekâ” mı, “yapay zekâ sistemi” mi?

Dil seçimi, bu yanılgıyı fark ettirmeden güçlendirebilir. Türkçede “yapay zekâ” ifadesi çoğu zaman hem bir teknoloji alanını hem de belirli bir sistemi anlatmak için kullanılıyor. Ancak “yapay zekâ karar verdi” ya da “yapay zekâ bunu istedi” dendiğinde, ifade tekil ve kendi iradesiyle hareket eden bir özne izlenimi yaratıyor.

İngilizcede bu etki, “the AI” ifadesinin isim olarak kullanılmasında daha açık görülüyor. Nature dergisi, özne ve fail izlenimini azaltmak için “the AI/an AI” yerine “the AI system/an AI system” denmesini; ayrıca hangi model, araç veya sohbet botundan söz edildiğinin açıkça belirtilmesini öneriyor .

Türkçede bunun karşılığı, mümkün olduğunca “yapay zekâ sistemi”, “model”, “algoritma”, “sohbet botu” veya belirli bir ürün adı demek olabilir. Örneğin:

• “Yapay zekâ bu kararı verdi” yerine “Model, verilen girdiye dayanarak bu çıktıyı üretti.”
• “Yapay zekâ konuyu anlıyor” yerine “Sistem, metindeki örüntülere dayanarak uygun görünen bir yanıt oluşturuyor.”
• “Yapay zekâ bunu önemsiyor” yerine “Sistem, bakım veren bir üslubu taklit edecek şekilde tasarlanmış.”

Bu değişiklikler yalnızca terminolojik bir titizlik değildir. “Yapay zekâ sistemi” ifadesi, karşımızdaki şeyin mühendislik ürünü bir araç olduğunu ve belirli veri, hedef, arayüz ve kullanım koşullarıyla sınırlı bulunduğunu sürekli hatırlatır. “Yapay zekâ”yı tek başına bir isim gibi kullanmak ise ajans, niyet ve anlayış atfetmeyi kolaylaştırır; bu da antropomorfik abartının terminolojik boyutunu güçlendirir .

Sonuç: İnsan gibi konuşmak yerine ne yaptığını açıkça anlatmak

Yapay zekâyı insan gibi sunmak, etkileşimi daha sıcak veya erişilebilir kılabilir. Ancak insan benzeri tasarım, kullanıcıların sistemin gerçekte sahip olmadığı anlayış, empati ve niyet özelliklerini ona yüklemesine yol açtığında etik bir soruna dönüşür .

Bu yüzden daha dikkatli bir dil kullanmak önemlidir. “Yapay zekâ düşündü” yerine “yapay zekâ sistemi bir çıktı üretti” demek, hem yetenekleri abartmayı önler hem de sorumluluğun doğru kişi ve kurumlarda kalmasına yardımcı olur. Kısacası, yapay zekâyı insan gibi anlatmamak yalnızca akademik bir hassasiyet değil; daha bilinçli, güvenli ve hesap verebilir bir teknoloji kullanımı için pratik bir ilkedir.