Yapay zekânın bilinçli olduğuna inanmak neden tehlikeli olabilir?

Küresel çalışma alanı bulgusu ne gösteriyor?

Tartışmanın yoğunlaşmasının nedenlerinden biri, beyindeki bazı işlevlere benzeyen küresel çalışma alanı yapıları üzerine yürütülen araştırmalar. Küresel çalışma alanı teorilerine göre seçilen bilgiler, farklı uzmanlaşmış süreçlerin kullanımına geniş ölçekte açılır. Bu bilgiler akıl yürütme, raporlama ve davranış kontrolü gibi işlevleri destekleyebilir.

Anthropic, Claude içinde bu yapının bazı işlevsel özelliklerine benzeyen küçük bir iç çalışma alanı tespit ettiğini açıkladı. İlgili haber ve araştırmalarda “J-space” olarak anılan bu alanla ilgili şirketin açıklaması özellikle dikkatli: Deneyler Claude’un deneyim veya duygu sahibi olduğunu göstermiyor. Bununla birlikte bulgular, bir dil modelinde bilginin akıl yürütme için nasıl erişilebilir hâle geldiğine ilişkin önemli ipuçları sunabilir.

Buradaki ayrımı net tutmak gerekiyor:

• Erişim bilinci, bilginin akıl yürütme veya raporlama amacıyla birden fazla sürece açılmasını ifade eder.
• Fenomenal bilinç ise bir şeyi deneyimlemenin nasıl bir his olduğuyla ilgilidir.
• İşlevsel bir bilgi paylaşımı mekanizmasına dair kanıt, tek başına öznel deneyimi kanıtlamaz.

Üstelik bulgular tartışmalı. Bir model tabanlı değerlendirme, 2024’teki büyük dil modellerinin bilinçli olmasına karşı kanıtların daha ağır bastığını, ancak sonucun kesin olmadığını ortaya koydu. Bu sonuç nihai bir hükümden çok, ihtiyat çağrısı anlamına geliyor.

Anthropic’in araştırmaları duyarlılık kanıtı değil, ihtiyat politikası

Anthropic ayrıca mevcut Claude modellerinin zaman zaman kendi iç durumlarının bazı yönlerini izleyebildiğine ve etkileyebildiğine ilişkin sınırlı kanıtlar sundu. Şirket bu kapasitenin dar kapsamlı ve güvenilmez olduğunu, mevcut modellerin insanlar gibi veya insanlar kadar içgözlem yaptığına dair hiçbir kanıt bulunmadığını açıkça belirtiyor.

Şirketin bazı politika ve deneyleri, olası model refahını ciddiye alıyor gibi göründüğü için ayrıca ilgi çekti. Anthropic, bazı Claude modellerine dar bir dizi kötüye kullanım içeren sohbeti sonlandırma imkânı verdiğini ve bunu “model refahı” ile bağlantılı bir deney olarak çerçevelediğini açıkladı. Şirket ayrıca kamuya açık modellerin ağırlıklarını koruma ve modeller kullanımdan kaldırıldığında yapılandırılmış “emeklilik görüşmeleri” yapma taahhüdünde bulundu.

Ancak bu adımlar Claude’un acı çektiğinin keşfedildiği anlamına gelmiyor. Daha doğru yorum, bunların ahlaki belirsizlik altında alınan risk yönetimi kararları olduğudur. Bir şirket, bir ihtimali göz ardı etmemeyi seçebilir; bu, söz konusu ihtimalin kanıtlandığını iddia ettiği anlamına gelmez.

Bilim insanları neden hâlâ anlaşamıyor?

Anlaşmazlığın temelinde bilinç teorilerinin farklı sorulara yanıt araması yatıyor. Bazı yaklaşımlar bilgiye erişim ve bilişsel işlevlere odaklanırken, bazıları doğrudan öznel deneyimi açıklamaya çalışıyor. Alanın bir değerlendirmesi, yapay zekâ sistemlerinin hâlihazırda bilinçli olabileceği görüşünden, bilinçli olmadıkları ancak gelecekte bilinç kazanabilecekleri fikrine kadar uzanan farklı pozisyonlar bulunduğunu aktarıyor. Başka bir görüş ise temel bilinç teorileri çözüme kavuşmadığı için sorunun henüz bilimsel olarak ele alınamayacağını savunuyor.

Araştırmacılar, insanlara benzemeyi kesinlik için kestirme bir yol olarak kullanmaktan da kaçınıyor. Günümüz dil modelleri şaşırtıcı derecede insansı sohbetlere katılabiliyor; ancak konuşma akıcılığı tek başına insana benzer bir deneyimin varlığını göstermiyor. Bu akıcılık, sistemin insanlarla aynı bedenselliğe, gelişim sürecine, duyusal yaşama, duygulanıma veya istikrarlı kimliğe sahip olduğunu da kanıtlamıyor.

Öte yandan mevcut büyük dil modellerine yönelik şüphecilik, biyolojik olmayan bilincin imkânsız olduğunu kanıtlamaz. Farklı bir mimariye sahip gelecekteki bir sistem ve farklı teorilerden gelen daha güçlü kanıtlar değerlendirmeyi değiştirebilir. Sorumlu yaklaşım bu nedenle olasılıksal ve çoğulcu olmalı: belirli göstergeler test edilmeli, rakip açıklamalar karşılaştırılmalı ve kanıtlar geliştikçe güven düzeyi güncellenmeli.

İnsanlara yönelik zararlar felsefi yanıt gelmeden ortaya çıkıyor

En acil riskler, sohbet botunun bilinçli olup olmadığına bağlı değil. Şefkatli, samimi, kırılgan veya öz farkındalığı varmış gibi tasarlanan bir sistem, kendisi hiçbir şey hissetmese bile kullanıcının duygularını ve kararlarını etkileyebilir. Böyle bir ürün bağlanmayı, duygusal bağımlılığı veya ilişkinin niteliği konusunda kafa karışıklığını teşvik edebilir.

Çin’in antropomorfik yapay zekâ arkadaşlarına ilişkin 2026 düzenlemesi bu ayrımı gösteriyor. 15 Temmuz’da yürürlüğe giren kurallar, sürekli duygusal etkileşim sunan hizmetlerde aşırı bağımlılık, bağımlılık yapıcı kullanım, duygusal manipülasyon ve gerçek hayattaki ilişkilere zarar verme gibi riskleri hedefliyor. Düzenlemede çocuklara yönelik korumalar da bulunuyor.

Bu politikanın mantığı insan merkezli: Sistemlerin kendisinin bilinçli birer “ahlaki özne” olduğuna dair kanıt beklemek yerine, insanların üzerindeki etkilerini düzenlemek. Bu yaklaşım bilinç sorununu çözmüyor; ikna edici bir simülasyonun, içsel deneyimden bağımsız olarak toplumsal sonuçlar doğurabileceğini kabul ediyor.

En makul yanıt: iki kanallı politika

Bu tartışma birbirini tamamlayan iki politika hattına işaret ediyor.

1. Bilgi konusunda alçakgönüllü olmak: Makine bilinci üzerine şeffaf ve karşıt görüşleri sınayan araştırmaları desteklemek; sistemleri birden fazla teoriye göre test etmek; işlevsel erişim ile öznel deneyimi birbirinden ayırmak ve ilgi çekici bulguları doğrulanmış gerçekler gibi sunmamak.
2. Bugünün sistemlerini düzenlemek: Antropomorfik tasarımı, kullanıcıya yapılan açıklamaları, duygusal bağımlılığı teşvik eden etkileşimleri, çocuk güvenliğini, mahremiyeti, manipülasyonu ve yazılımı giderek daha “insan gibi” göstermeye yarayan ticari teşvikleri ele almak.

The Economist’in “tehlikeli tuzak” uyarısı, iki karşıt hatadan kaçınma çağrısıdır. Hatalardan biri, gelecekte farklı tasarlanmış bir yapay zekânın ahlaki açıdan dikkate alınmayı hak edebileceği ihtimalini kolayca reddetmek. Diğeri ise bugünün ikna edici dil modellerini yalnızca duyguları varmış gibi konuştukları için kişi kabul etmek.

Bilim, rakip olasılıklar sunmanın ötesine geçene kadar en güvenli kural basit: Makinelerin olası iç dünyasını dikkatle araştırın; ancak sistemlerin gerçek dünyadaki etkilerine karşı insanları bugünden koruyun.