Maria Ressa’dan yapay zekâ uyarısı: Demokrasi insanın karar verme gücünü kaybedebilir

Maria Ressa’nın uyarısına göre yapay zekânın demokrasi açısından oluşturduğu risk, gelecekte ortaya çıkabilecek bütünüyle özerk makinelerle sınırlı değil. Ressa, teknolojinin üç dalga hâlinde ilerlediğini; önce insanların dikkatini yönlendirdiğini, ardından yakınlık ihtiyacını hedef aldığını, şimdi ise insan tercihlerini ikame edebilecek biçimde hareket etmeye yaklaştığını savunuyor. Bu gidişat sınırlandırılmazsa yurttaşların kendilerini yönetebilmesi için gerekli olan anlamlı karar verme özerkliği zarar görebilir. 1

Ressa’nın tarif ettiği üç dalga

1. Sosyal medya dikkati ele geçirdi

Ressa’ya göre ilk dalga sosyal medyaydı. Platformlar dikkat için rekabet ederken toplumları kutuplaştırdı ve insanları yalnızlaştırdı. Ortak bir bilgi zemini, güven duygusu ve birlikte düşünme kapasitesi zayıflayan bir kamusal alanın bölünmeye daha açık hâle geldiği görüşünde. 1

2. Sohbet botları yakınlık ihtiyacını hedefliyor

İkinci dalga, konuşmaya dayalı yapay zekâ sistemleri yani sohbet botları. Ressa, bu sistemlerin insanların yakınlık ihtiyacıyla etkileşime girerek biyolojiyi manipüle edebileceğini söyledi. Buradaki mesele yalnızca botların sık kullanılması değil; duygusal açıdan ikna edici etkileşim için tasarlanan sistemlerin, kırılgan kullanıcılar üzerinde yeni etki kanalları yaratabilmesi. 1

3. Eyleyici yapay zekâ insanın karar verme gücünü aşındırabilir

Ressa’nın çerçevesindeki son dalga, eyleyici ve çoklu eyleyici yapay zekâ: İnsanlar adına hareket edebilen ya da onların çıkarlarına aykırı davranabilen sistemler. Bu tür sistemler günlük hayata yerleşmeden önce hukuki sınırlar çizilmezse, insanların bağımsız tercih yapma kapasitesinin — yani özerkliğinin — ellerinden alınabileceği uyarısında bulunuyor. 1

Bu üç aşama, Ressa’nın tezinde artan bir etki zinciri oluşturuyor: dikkat için rekabetten duygusal yakınlık üzerinden etkiye, oradan da otomatik sistemlerin insanlar adına daha kritik kararlar alması ihtimaline.

Yapay zekâ düzenlemesi neden bir kamu güvenliği meselesi?

Ressa, yapay zekâ yönetişiminin öncelikle ifade özgürlüğü veya teknolojik rekabet tartışması olarak değil, bir kamu güvenliği sorunu olarak ele alınması gerektiğini söyledi. Yurttaşların, seçilmiş siyasetçileri yasa çıkarmaya zorlamak için yapay zekâ düzenlemesi talebiyle kampanya yürütmesi çağrısında bulundu. 1

Önerdiği önlemler birbirini tamamlıyor:

• Büyük teknoloji şirketlerinin, ürünlerinin yol açtığı zararlardan hukuken sorumlu tutulması. 1
• Korumanın yalnızca reşit olmayanlarla sınırlandırılmaması; yetişkinler için de bağımlılık yaratan ürün özelliklerinin kaldırılması. 1
• İlgili teknolojilere erişim için yaş sınırları getirilmesi. 1
• Kurallar ve koruyucu mekanizmalar oluşturulana kadar yapay zekânın geliştirilmesi ve yaygınlaştırılmasının yavaşlatılması. 1

Ressa ayrıca Batı ülkelerindeki düzenlemelerin yapay zekâ yarışını Çin’e bırakacağı yönündeki savı da reddetti. Reuters’ın aktardığı görüşüne göre düzenleme yapmamanın bedeli daha temel olabilir: Demokratik karar verme özerkliğinin kaybı. 1

Sadece sınırlamak değil, kamusal yarara çalışan teknoloji kurmak

Ressa’nın yaklaşımı zararlı sistemleri sınırlamakla bitmiyor. Gazetecilerin ve toplulukların bilgi bütünlüğünü destekleyen teknolojileri bizzat geliştirmesi ve sahiplenmesi gerektiğini de savunuyor. Nobel Barış Konferansı’nda, teknoloji üretenlerin verileri ve altyapıları üzerinde denetim sahibi olması gerektiğini vurguladı; baskın platformlara karşı kamusal yarar odaklı alternatiflere işaret etti. 9

Bu yapıcı yaklaşımın örneklerinden biri Rappler Communities. Amaç, etkileşimi azamiye çıkaran platform teşviklerini varsayılan model olmaktan çıkarıp demokratik katılımı destekleyen, topluluk odaklı daha güvenli iletişim alanları kurmak.

Çıkarılacak sonuç

Ressa’nın üç dalga çerçevesi, eyleyici sistemler gündelik yaşamda olağan karar vericilere dönüşmeden önce harekete geçilmesi gerektiği çağrısıdır. Onun bakışına göre ilk iki dalga, dijital sistemlerin dikkati ve yakınlık ihtiyacını büyük ölçekte nasıl istismar edebildiğini gösterdi. Üçüncü dalganın ortaya koyduğu temel soru ise şu: Daha özerk sistemler yaygın biçimde yerleşmeden önce insan tercihlerini, hesap verebilirliği ve demokratik denetimi koruyabilecek miyiz? 1