Papa XIV. Leo’dan yapay zekâ uyarısı: Kontrol insanlarda kalmalı

Papa XIV. Leo’nun yapay zekâya ilişkin son mesajları teknolojiye bütünüyle karşı çıkmıyor; asıl soru, bu teknolojiyi kimin yöneteceği ve insan sorumluluğu makinelere devredildiğinde ne olacağı. Papa, 21 Ağustos’ta Uluslararası Katolik Yasama Üyeleri Ağı’na, 28 Ağustos’ta ise Uluslararası İdari Bilimler Enstitüsü’ne yaptığı konuşmalarda yapay zekânın hız, kâr ya da anlaşılması güç sistemler tarafından değil; insan zekâsı, vicdanı ve hukuk tarafından yönlendirilmesi gerektiğini söyledi. Teknolojinin ortak iyiliğe hizmet eden bir araç olarak kalması gerektiğini vurguladı.

Bu iki konuşma, Papa’nın Magnifica Humanitas başlıklı genelgesinde ortaya koyduğu temel ilkeyi kamu yönetimi ve yasama alanına taşıyor: Teknolojik ilerleme; insan onurunu, adaleti, barışı ve insanların kendi hayatları üzerindeki gerçek söz hakkını koruyup korumadığına göre değerlendirilmelidir. 16

Kamu yöneticilerine uyarı: İnsanlık kendi icatlarının kurbanı olmamalı

Papa XIV. Leo, Uluslararası İdari Bilimler Enstitüsü üyelerine hitaben yaptığı konuşmada yapay zekânın hızlı gelişiminin insanlığın kendi icatlarının “kurbanı olmasına” yol açabileceği uyarısında bulundu. Özellikle insan hayatını ilgilendiren kararların makinelere emanet edilmesinin tehlikesine dikkat çekti.

Papa’nın önerisi dijital teknolojilerden vazgeçmek değil, onları insanileştirmekti. Kamu yönetimi alanındaki araştırmacılardan dijital sistemlerin yaşama ve barışa hizmet etmesini sağlayacak yöntemler geliştirmelerini istedi. Kamu kararlarının merkezinde otomatik süreçlerin değil, insanların bulunması gerektiğini belirtti.

Bu yaklaşım otomasyon için net bir sınır çiziyor: Yapay zekâ kamu yönetimine yardımcı olabilir; ancak insanların haklarını, refahını ya da onurunu etkileyen kararlarda gerekli olan insan muhakemesini, sorumluluğunu ve ahlaki hesap verebilirliği ortadan kaldırmamalı.

Yasama üyelerine uyarı: Yapay zekâ gücü birkaç elde toplanıyor

Papa, 21 Ağustos’ta Uluslararası Katolik Yasama Üyeleri Ağı’na yaptığı konuşmada yasa koyucuların siyasi sorumluluğuna odaklandı. Vatikan, toplantının temasını “İnsan Onuru ve Yapay Zekâ: Zorluklar, Fırsatlar ve Denetim” olarak açıkladı. Bu başlık, yapay zekânın nasıl yönetileceğinin çağımızın belirleyici meselelerinden biri olarak görüldüğünü ortaya koyuyor.

Buradaki sorun yalnızca bazı yapay zekâ sistemlerinin hata yapması değil. İleri teknoloji ve bu teknolojinin kullanımını şekillendirme gücü, az sayıda büyük ekonomik ve teknolojik aktörün elinde toplanabilir. Papa, bu yoğunlaşmanın daha yoksul ülkeleri daha zengin ülkelere bağımlı hâle getirebileceğini ve mevcut eşitsizlikleri büyütebileceğini söyledi.

Ayrıca yeniliğin “ideolojik ya da ekonomik sömürgeciliğin” aracı hâline gelebileceği uyarısında bulundu. Böylece yapay zekâ yönetimi yalnızca ulusal bir düzenleme konusu olmaktan çıkıp uluslararası bir meseleye dönüşüyor.

Algoritmaların görünmez tahakkümü

Papa XIV. Leo bir başka riske, doğrudan yönetiyor gibi görünmeden güç kullanan algoritma ve platformlara dikkat çekti. Ona göre algoritmalar kimin görünür olacağını, kimin ise görünmez kalacağını belirleyebilir. Dijital platformlar yeterli hesap verebilirlik olmadan kamusal tartışmayı şekillendirebilir; otomatik sistemler de çalışanların onurunu verimlilik ve optimizasyon hedeflerinin gerisine itebilir.

Bu, teknik önyargı sorunundan daha geniş bir mesele. Asıl soru; görünürlük, katılım ve fırsat kurallarını kimin belirlediği ve bu kararlardan etkilenen kişilerin itiraz edebilecekleri anlamlı bir mekanizmaya sahip olup olmadığıdır. Özel sistemler kamusal tartışmayı veya işe erişimi şeffaflık olmadan etkilediğinde toplumsal güç, demokratik kurumların ve kamu denetiminin dışına kayabilir.

Aile neden bu kadar önemli?

Papa, aileyi “insanlığın ilk okulu” olarak nitelendirdi ve yasa koyuculardan yapay zekânın ailenin bu rolünü aşındırmasına izin vermemelerini istedi.

Bu vurgunun temelinde, insanın güveni, sorumluluğu, cömertliği, diyaloğu ve başkalarını önemsemeyi öncelikle ilişkiler içinde öğrenmesi düşüncesi var. Bu nitelikler, bir yapay zekâ sisteminin hızı veya hesaplama kapasitesiyle eşdeğer değil. Magnifica Humanitas da makine performansını insan zekâsıyla karıştırılmaması gerektiği konusunda uyarıyor: Yapay zekâ sistemleri zekânın bazı işlevlerini taklit edebilir ve hızda insanları aşabilir; ancak insan deneyimine ya da bedensel varoluşa sahip değildir. 16

Bu nedenle Papa açısından aile hayatını korumak, yapay zekâ politikasının da bir parçası. Bir sistemin yalnızca verimli olup olmadığı değil, insanların özgürlüğü, sorumluluğu ve dayanışmayı öğrendiği ilişkileri ve kurumları destekleyip desteklemediği de sorulmalı.

Papa’nın önerdiği koruyucu çerçeve

Papa XIV. Leo’nun çağrıları, yapay zekâ yönetimi için insan merkezli bir çerçeveye işaret ediyor:

• Temel hak ve özgürlükleri korumak: Teknolojik ilerleme insan onuru pahasına gerçekleşmemeli.
• Mahremiyeti güvence altına almak: Kullanıcılar sömürüye ve kişisel bilgilerin uygunsuz kullanımına karşı korunmalı.
• Şeffaflık istemek: İnsanlar ve kurumlar yeni teknolojilerin nasıl kullanıldığını ve sonuçları ağır olan kararların nasıl alındığını anlayabilmeli.
• Demokratik kurumları güçlendirmek: Dijital sistemler hesap verebilir kamu yönetimini desteklemeli, onun yerine geçmemeli.
• Sorumluluğu insanlarda tutmak: İnsan hayatını ve onurunu etkileyen kararlar, anlamlı bir insan denetimi olmadan makinelere bırakılamamalı.
• Tahakkümü ve aşırı güç yoğunlaşmasını önlemek: İleri yapay zekânın küçük bir grup güçlü aktörün kontrolünde olmasının yaratacağı riskler düzenlemelerde ele alınmalı.

Bu öneriler, genelgenin daha geniş kapsamlı görüşünü yansıtıyor: Teknoloji toplumsal açıdan tarafsız değil. Katılımı ve adaleti güçlendirebildiği gibi eşitsizliği, kontrolü ve dışlanmayı da artırabilir.

Magnifica Humanitas ile bağlantısı

Mayıs 2026’da yayımlanan Magnifica Humanitas, yapay zekâ çağında insanı korumaya adanmış bir genelge. Metnin temel ölçütü, teknolojinin insanlığın hizmetinde kalıp kalmadığı; tahakküm, dışlanma veya savaş aracı hâline gelip gelmediği. Genelge, yapay zekânın bu yıkıcı mantıklardan “silahsızlandırılması” çağrısında bulunuyor. 51016

Ağustos ayındaki konuşmalar bu ilkeyi iki farklı kesimin sorumluluklarına çeviriyor. Kamu yöneticileri dijital sistemlerin yurttaşlara hizmet etmesini ve insan muhakemesini korumasını sağlamalı. Yasama üyeleri ise hakları, mahremiyeti, şeffaflığı ve demokratik hayatı koruyan kurallar oluşturmalı. Araştırmacılar da dijital teknolojilerin yaşama ve barışa hizmet etmesini sağlayacak pratik yolları ortaya koymalı.

Birlikte değerlendirildiğinde Papa’nın mesajı önleyici bir nitelik taşıyor. Toplumların, yapay zekâ sistemleri geliştirilip yaygınlaştırılırken insan merkezli kurallar oluşturmasını istiyor; çünkü opak platformlar, yoğunlaşmış güç ve otomatik karar mekanizmaları yerleştikten sonra bunlara itiraz etmek çok daha zor olabilir. Önerdiği ölçüt basit: Yapay zekâ ortak iyiliği büyütmeli, ancak bu iyiliği tanımlamak ve savunmakla sorumlu insanları devre dışı bırakmamalı.