Sam Altman, yapay zekâya dini otorite atfetmenin güvenlik riski yaratabileceğini söyledi

Sam Altman, yapay zekâ modellerine “dini güç” atfetmekten ya da insan yargısını onlara devretmekten “çok rahatsız” olduğunu söyledi ve bunu “gerçek bir güvenlik sorunu” olarak niteledi. Paylaşımında Anthropic’in adını vermedi. Ancak sözlerinin, şirketin dini düşünürlerle yaptığı görüşmelere ilişkin haberlerden birkaç gün sonra gelmesi, açıklamanın Anthropic’e dolaylı bir eleştiri olarak yorumlanmasına yol açtı. 71

Buradaki ayrım önemli: Bir yapay zekânın nasıl davranması gerektiğini veya bilinçli olup olamayacağını tartışmak, insanlara onu manevi bir otorite gibi sunmakla aynı şey değil. Haberlere göre Anthropic bu ilk soruları Claude üzerinden ele aldı; şirketin kurucu ortağı Christopher Olah ise yapay zekâ modellerinin bilinçli olup olmadığından emin olmadığını söyledi. 1

Altman tam olarak neye karşı çıktı?

Altman’ın paylaşımında iki kaygı yan yana geliyor: Yapay zekâya dini bir güç atfetmek ve insan yargısını bir modele bırakmak. Altman bu tutumu güvenlik sorunu olarak tanımladı. Ancak paylaşımında herhangi bir şirket veya projeyi açıkça işaret etmedi. Bu nedenle sözleri Anthropic’le ilişkilendirilse de, bu bağlantı doğrudan bir suçlamaya değil, açıklamanın zamanlamasına ve o sırada çıkan haberlere dayanıyor. 7

Uyarı, yalnızca din tartışmasıyla sınırlı değil. Kendinden emin ve insana benzer yanıtlar veren bir modele otorite gözüyle bakmak, insanların kararlarında ona kanıtlanmış kapasitesinin ötesinde ağırlık vermesine neden olabilir. Aktarılan haberler Altman’ın kaygısını belgeliyor; bu yaklaşımın ne kadar yaygın olduğunu veya etkilerinin boyutunu ortaya koymuyor. 67

Anthropic’in görüşmeleri neden gündem oldu?

Anthropic’in, Claude’un ahlaki davranışını nasıl şekillendirebileceği ve yapay zekâ modellerinin bilinçli olup olamayacağı hakkında dini düşünürlere danıştığı bildirildi. Bu başlıkların Altman’ın uyarısıyla kesişmesi, açıklamasının şirketin çalışmasına yanıt olarak okunmasına neden oldu. 17

Olah’ın aktarılan sözleri ise tartışmadaki belirsizliği ortaya koyuyor: “Açık konuşmak gerekirse, yapay zekâ modellerinin bilinçli olup olmadığını bilmiyoruz. Ben bilmiyorum. Gerçekten emin değilim.” Bilinç ihtimalini tartışmak, modelin öznel deneyimi olduğunu kanıtlamıyor. Aynı şekilde ahlaki davranış üzerine dini düşünürlere danışmak da tek başına bir modele dini statü kazandırmıyor. 1

Bilinç tartışmasıyla ahlaki davranış aynı şey değil

Bir modelin nasıl yanıt vermesi gerektiğine ilişkin ilkelerle tasarlanması, onun bir iç yaşama sahip olduğunu göstermez. Anthropic hakkındaki haberlerde hem Claude’un davranışını şekillendirme çabaları hem de olası bilinç konusu ele alınıyor; bunları tek bir iddiaya indirgememek gerekiyor. 1

Haberde, modellerin eğitiminde onları bilinçliymiş gibi ele almaya itirazlar da aktarılıyor. Microsoft’ta bir yapay zekâ yöneticisi, bunun tehlikeli olabileceği uyarısında bulundu. Bu, makine bilincine ilişkin geniş tartışmayı sonuçlandıran bir hüküm değil; Olah’ın aktarılan kendi tutumu da kesinlik değil, belirsizlik. 91

İnsan onuru ve denetim tartışmanın merkezinde

Papa XIV. Leo’nun yapay zekâ konulu genelgesi, tartışmayı insan onuru çerçevesinde ele aldı. Belgeye ilişkin haberlerde, yapay zekâ şirketleri üzerinde daha güçlü denetim, teknolojik dönüşümden etkilenecek çalışanların korunması ve yapay zekâyla üretilen sahte bilgilere karşı önlemler çağrısı yer aldı. Bu başlıklar, yapay zekâ geliştirilip kullanılırken insan çıkarlarının ve hesap verebilirliğin merkezde tutulması gerektiğini vurguluyor. 152

OpenAI da kendi güvenlik tartışmalarıyla karşı karşıya

Tartışma sürerken OpenAI hakkında ayrı haberler de gündeme geldi. Business Insider, şirketin güvenlik liderlerinden David Robinson’ın ayrıldığını ve şirketin güvenlik yaklaşımını eleştirdiğini bildirdi. BBC ise OpenAI’ın, bilgilerin uygunsuz şekilde ele alındığı iddiasıyla üç araştırmacıyı işten çıkardığını aktardı. Bu gelişmeler yapay zekâ bilincinin olup olmadığı sorusuna yanıt vermiyor; ancak şirketlerin güvenlik iddiaları ve yönetişim uygulamalarının da incelendiği bir tablo sunuyor. 1226

En net sonuç, Anthropic ya da OpenAI hakkında kesin bir hüküm değil: Altman, yapay zekâ modellerine dini otorite atfedilmesine ve insan yargısının onlara bırakılmasına karşı çıktı. Anthropic’in dini düşünürlerle yaptığı bildirilen görüşmeler Claude’un ahlaki davranışı ve olası bilinciyle ilgili soruları gündeme taşıdı; ancak mevcut haberler, bu görüşmelerin Claude’a dini otorite atfetmek anlamına geldiğini veya yapay zekâ bilinci meselesinin çözüldüğünü göstermiyor. 71