Papa Leo’ya göre yapay zekâ neden küresel kurallara ihtiyaç duyuyor?

Papa Leo XIV’ün yapay zekâya ilişkin uyarılarının merkezinde şu düşünce var: Teknoloji insanlara fayda sağlayabilir, ancak gelişimi ve kullanımı etik ilkelerle ve kamusal denetimle yönlendirilmezse ciddi toplumsal riskler doğurabilir. Papa; dezenformasyon, toplumsal ayrışma ve savaşın yanı sıra, bu sorunların yalnızca teknoloji şirketlerine ya da tek tek ülkelere bırakılamayacağını vurguluyor.459

Yapay zekânın vaadi ve riskleri

Leo, teknolojik ilerlemenin durdurulmasını savunmuyor. İstediği, yapay zekânın insan onuruna ve ortak iyiliğe hizmet etmesi. İlk papalık genelgesi Magnifica Humanitas da hakikatin, emeğin onurunun, sosyal adaletin ve barışın korunmasına odaklanıyor.1216

Ancak bu faydalar kendiliğinden ortaya çıkmayabilir. Leo, yapay zekâ sistemlerinin yanlış bilgiyi yayabileceği ve çatışmayı öne çıkarabileceği uyarısında bulundu. Etik denetim olmazsa teknolojinin eşitsizliği derinleştirebileceğini ve insanlar arasındaki bağları zayıflatabileceğini de söyledi.49

Papa’nın yaklaşımında teknoloji kadar, onun toplumsal etkisi de önemli. Leo, ayrışmayı körüklemek yerine barışı ve insanlar arasındaki bağları güçlendiren sistemlerin geliştirilmesi çağrısı yaptı.2

Savaşta yapay zekâ ve insan denetimi

Leo’nun en sert uyarıları yapay zekânın savaşta kullanılmasıyla ilgili. Otonom silahların, yaşam ve ölüm kararlarında insan denetimini azaltabileceğinden endişe ediyor. İlk kapsamlı yapay zekâ belgesine ilişkin haberlerde, bazı sistemlerin yönetilmesinin fiilen insan denetiminin ötesine geçebileceği uyarısına yer verildi.4 BBC’nin aktardığına göre Leo, insan kontrolünün azalmasının bir savaşın “haklı” sayılıp sayılamayacağını değerlendirmeyi zorlaştırdığını belirtti ve yapay zekâ silahlanma yarışına karşı çıktı.6

Buradaki risk yalnızca bir silahın hata yapması değil. Yapay zekânın çatışmaları büyütmesi ve sorumluluğun kimde olduğunun belirsizleşmesi de kaygı yaratıyor. Leo, bu teknolojinin dünyayı bitmeyen bir savaş döngüsüne sürükleyebileceği uyarısında bulundu.24

Neden kurallar yalnızca gönüllü etik ilkelerden ibaret olmamalı?

Leo, güçlü düzenlemeler yapılmasını ve yapay zekâ geliştiricilerinin yalnızca kârı değil, ortak iyiliği gözetmesini istiyor.5 Bu çağrı, Vatikan’ın daha geniş yaklaşımıyla da örtüşüyor: Bilimsel ve teknolojik yaratıcılık desteklenirken insan hakları ve onuru sağlam yasalarla korunmalı.8

Vatikan’ın yapay zekâ risklerine ilişkin kaygıları son dönemde ortaya çıkmış değil. Reuters’ın haberine göre Vatikan yetkilileri, büyük ABD’li yapay zekâ şirketleri Eylül 2026’da Birleşmiş Milletler Güvenlik Konseyi’nde benzer risklere dikkat çekmeden yıllar önce, yapay zekânın yol açabileceği felaket ihtimalini gündeme getirmişti.1 Leo’nun yaklaşımı, Kilise’nin toplumsal değişimlere yönelik daha uzun soluklu değerlendirmesinin de devamı. Papa, 2025’te Kilise’nin yeni bir sanayi devrimine ve yapay zekânın gelişimine yanıt vermesi gerektiğini söylemişti.

Uluslararası iş birliği neden önemli?

Vatikan Devlet Sekreteri Kardinal Pietro Parolin, ülkelerin yapay zekâ konusunda “kendi başlarına hareket etmesine” karşı uyarıda bulundu. Teknolojinin sonuçlarının dikkatle değerlendirilmesini isteyen Parolin, büyük teknoloji şirketlerinden gelen düzenleme çağrılarına da değindi. Vatikan’ın vurgusu, ortak sorunların birbirinden kopuk ulusal yaklaşımlarla değil, ülkeler arasındaki iş birliğiyle ele alınması gerektiği.

Şirketlerin düzenleme çağrıları, kamu kurallarının yerini alacak bir çözüm olarak sunulmuyor; denetimin nasıl kurulacağına ilişkin daha geniş tartışmanın bir parçası olarak görülüyor. Eylül ayında ABD Katolik piskoposlar konferansından yaklaşık 30 piskopos, dört teknoloji şirketini temsil eden yedi yapay zekâ uzmanıyla kapalı bir toplantı yaptı. Konferans ayrıca bir yapay zekâ çalışma grubu oluşturdu.

Leo’nun çağrısının özeti şu: Yapay zekânın toplumda ve çatışmalarda kullanımı, insan muhakemesini geride bırakmadan önce ortak kurallar ve etkili denetim oluşturulmalı. Papa, teknolojinin potansiyelini kabul ediyor; ancak insanların korunmasını, barışın gözetilmesini ve anlamlı güvencelerin kurulmasını öncelikli görüyor.2512