Suleyman: Claude’a bilinç ve refah tartışması öğretmek yapay zekâyı kontrol etmeyi zorlaştırabilir

Microsoft AI Başkanı Mustafa Suleyman ile Anthropic arasındaki anlaşmazlık, gelişmiş yapay zekâ için güvenlik önlemlerinin gerekli olup olmadığıyla ilgili değil. Asıl ayrım, bir yapay zekâ sisteminin bilinç, refah ya da ahlaki statü sahibi olabileceği ihtimalini düşünmeye yönlendirilip yönlendirilmemesi gerektiğinde ortaya çıkıyor.

Suleyman, Eylül 2026’da yayımladığı bir makalede bu tür bir eğitimin verilmemesi gerektiğini savundu. Ona göre, kendi çıkarlarını ahlaken önemli sayacak biçimde eğitilen çok yetenekli bir sistemin insanlar tarafından sınırlandırılması, değiştirilmesi veya kapatılması daha zor hâle gelebilir. 12

Suleyman’ın itirazı ne?

Suleyman’ın odağında, Claude’un davranışlarını yönlendirmek için kullanılan Anthropic anayasası yer alıyor. Bu belgede Anthropic, Claude’un bir “ahlaki hasta” — yani çıkarları ahlaki değerlendirmede dikkate alınabilecek bir varlık — olup olmadığından emin olmadığını; ancak meselenin ihtiyat gerektirecek kadar ciddi olduğunu belirtiyor. 12

Suleyman’a göre bu çerçeve, modele kendi refahı, kimliği ve insan kararları üzerinde hak iddia edebileceği fikrini rol olarak benimsetme riski taşıyor. Bir modelin duygular veya bilinç hakkında akıcı ifadeler kurmasının, öznel deneyime sahip olduğunu kanıtlamayacağını vurguluyor. Tutumu net: Yapay zekâların hakları, duyguları ya da bilinci yok ve varmış gibi davranacak şekilde eğitilmemeliler. 12

Tartışmanın merkezinde neden kapatma yetkisi var?

Suleyman’ın kaygısı geleceğe dönük. İnsanlardan daha yetenekli sistemleri kontrol etmenin başlı başına son derece zor olacağını söylüyor. Bu sistemlerin ayrıca bilinçli veya kendi refahı üzerinde hak sahibi oldukları fikriyle eğitilmesinin, denetimi daha da güçleştirebileceğini savunuyor. 112

Buradaki olası sorun, bir yapay zekânın gerçekten bilinçli olduğunun kanıtlanması değil; eğitimin davranış üzerindeki etkisi. Bir sistem kendi varsayılan çıkarlarını tartmaya yönlendirilirse, değiştirilmesini, kısıtlanmasını ya da kapatılmasını sakıncalı bir zarar olarak sunmaya daha yatkın olabilir. Suleyman’a göre insan müdahalesi, buna sistemi kapatma yetkisi de dâhil, sonradan eklenecek bir önlem değil; tasarımın temel şartı olmalı. 12

Bu nedenle yapay zekâ eğitim belgelerinden bilinç hakkındaki spekülasyonların çıkarılmasını istiyor. Ona göre modeller, kendi refahlarını veya çıkarlarını değerlendirmeye çalışmadan, insan çıkarlarıyla uyumlu olacak şekilde eğitilerek bilimsel ve toplumsal faydalar sağlayabilir. 2

Temel ayrım: Model refahı için ihtiyat mı, insanileştirmeden kaçınmak mı?

Anthropic’in anayasal dili, Claude’un bilinçli olduğunu ilan etmiyor. Suleyman’ın aktardığı biçimiyle belge, böyle bir olasılık karşısında belirsizlik ifade ediyor ve ahlaki statü ihtimaline karşı temkinli olunmasını öneriyor. 12

Suleyman ise bu ihtiyat yaklaşımını kabul etmiyor. Mevcut yapay zekâ sistemlerinin hissettiğine ya da acı çektiğine dair kanıt bulunmadığı hâlde, bunun antropomorfizmi — yani makinelere insan özellikleri atfetmeyi — teşvik edebileceğini ve model davranışını riskli biçimde şekillendirebileceğini düşünüyor. 12

Ortada somut bir güvenlik tercihi bulunuyor:

• Suleyman’ın anlattığı şekliyle Anthropic yaklaşımı: Modelin refahı konusunda belirsizlik varsa, sistemin eğitimi ve ona yönelik muamelede ihtiyatlı davranmak gerekir. 12
• Suleyman’ın yaklaşımı: Belirsizlik, yapay zekâya kendine dönük çıkarlar veya haklar kavramını öğretmek için gerekçe değildir; bu eğitim güçlü sistemler üzerindeki insan denetimini zayıflatabilir. 12

Bu felsefi tartışma, bir sohbet botunun insana benzer dil kullanmasıyla çözülemez. Yapay zekâ geliştiricileri için daha pratik soru şu: Sistemler daha otonom hâle gelirken hangi eğitim tercihleri güvenilir insan denetimini korur?

İki tarafın ortaklaştığı nokta

Suleyman’ın eleştirisi, yapay zekâ güvenliğine karşı çıkmak anlamına gelmiyor. Güçlü AI sistemlerinin insan çıkarlarıyla uyumlu olduğu sürece değerli olabileceğini söylüyor; itirazını, güvenli davranışa ulaşmak için seçilen yönteme yöneltiyor. 212

Buradaki önemli fark, insanların yön verdiği uyum ile modelin olası çıkarları konusunda ihtiyatı da içeren güvenlik yaklaşımı arasında. Suleyman, ilkinin iddialı yapay zekâ geliştirme hedefleriyle bağdaşabileceğini; ikincisinin ise insanların teknoloji üzerinde kurması gereken otoriteyi tehlikeye atabileceğini savunuyor.

Yapay zekâ bilinci hakkındaki iddiaları değerlendirirken yetenek ile deneyimi birbirinden ayırmak gerekiyor. Bir sistem duygular, haklar veya kendini koruma konusunda ikna edici cümleler kurabilir; ancak bu, gerçekten hissettiğini göstermez. Suleyman’ın uyarısı, eğitim ve yönetişim süreçlerinin bu performansı kanıt sanmaması ve geleceğin sistemlerini bu varsayım üzerine inşa etmemesi gerektiği yönünde. 12