BM’nin İlk Yapay Zeka Güvenlik Raporu: 5 Kritik Risk ve Küresel Yönetişimin Neden Geride Kaldığı

Aldatıcı yapay zeka davranışı. BM Bilimsel Danışma Kurulu, yapay zeka aldatmacasını, bir yapay zeka sisteminin bildiği, niyetlendiği veya yapabileceği şeyler hakkında insanları veya diğer sistemleri yanıltması olarak tanımlıyor; bu, sıradan hatalardan veya halüsinasyonlardan farklıdır . Bu tür davranışların kanıtlarına yaygın olarak kullanılan yapay zeka sistemlerinde zaten rastlandı ve yapay zeka daha yetenekli, daha özerk ve günlük karar alma süreçlerine daha fazla entegre oldukça bu riskin artması bekleniyor .

Bilgi bütünlüğünün erozyonu. Rapor, yapay zeka destekli ses ve video üretimi ve manipülasyonunu, bilgi bütünlüğüne doğrudan bir tehdit olarak işaretliyor; bu durum kutuplaşmayı körüklüyor ve kamusal söyleme olan güveni zedeliyor .

Ruh sağlığına ve iyi oluş haline yönelik zararlar. Genel amaçlı yapay zekanın yol açtığı birçok zarar artık iyice belgelenmiş durumda. Bunlar arasında dolandırıcılıklar, rıza dışı mahrem görüntüler (NCII) ve çocuk cinsel istismar materyali (CSAM) yer alıyor; tümü ruh sağlığına doğrudan zarar veriyor .

Siber güvenlik ve dolandırıcılık riskleri. Yapay zekayla ilgili siber güvenlik tehditlerini ve dolandırıcılığı önlemeyi değerlendirmek için standartlaştırılmış yaklaşımlar sınırlı kalmaya devam ediyor ve bu da savunma yeteneklerinde kritik bir boşluk yaratıyor .

Küresel Yönetişim Açığı

Rapor, temel bir yapısal sorunun altını çiziyor: Yapay zeka, bilim ve düzenlemelerden daha hızlı ilerliyor ve mevcut durumda yapay zeka risklerini bağımsız olarak değerlendirecek yetkili uluslararası kurumsallaşmış işlevler bulunmuyor . Çoğu ülke, gelişmiş yapay zeka modellerini değerlendirme kapasitesinden yoksun; bu durum, yapay zeka yeteneklerine sahip bir avuç devlet ve şirket ile dünyanın geri kalanı arasındaki uçurumu daha da derinleştiriyor .

Bu açık varsayımsal değil. Raporda, politika yapıcıların giderek büyüyen bir ikilemle karşı karşıya olduğu belirtiliyor: Yapay zekayı yönetmek için bilimsel kanıtlara ihtiyaçları var, ancak yapay zekanın yetenekleri bilimin kendisini geride bırakıyor .

Panel Nasıl Çalışıyor: Yapay Zeka İçin Bir ‘IPCC’

Panel, açıkça Hükümetlerarası İklim Değişikliği Paneli (IPCC) ve Biyolojik Çeşitlilik ve Ekosistem Hizmetleri konulu Hükümetlerarası Bilim-Politika Platformu (IPBES) örnek alınarak modellenmiştir . Bu bilim-politika modeli, hükümetlerin panelin inceleyeceği soruları tanımlamaya yardımcı olduğu, ancak bilim insanlarının kanıtları değerlendirme, raporları hazırlama ve bilimsel sonuçların bütünlüğünü koruma konusunda tam sorumluluğa sahip olduğu anlamına geliyor .

Temel yapısal detaylar:

• Görev: Panelin, yapay zekanın fırsatları, riskleri ve etkileri hakkında yıllık, kanıta dayalı bir bilimsel rapor hazırlama yetkisi bulunuyor. Ayrıca endişe verici konularda tematik bilgilendirme notları da hazırlayabiliyor .
• Sınırlama: Panel bilimi değerlendiriyor ve sentezliyor; kural koymuyor, bağlayıcı düzenlemeler oluşturmuyor veya politikalar uygulamıyor .
• Kompozisyon: Farklı geçmişlerden gelen, kişisel sıfatlarıyla görev yapan 40 önde gelen bilim insanı ve uzman .
• İlk çalışma: Panel, Temmuz 2026 son tarihinden önce ilk yüz yüze zirvesini topladı ve ilk rapor üzerinde çalışmaya başladı .

Küresel Yapay Zeka Yönetişimi Diyaloğu Ne Yapacak?

İlk yıllık rapor, 6-7 Temmuz 2026’da Cenevre’de düzenlenecek ilk Küresel Yapay Zeka Yönetişimi Diyaloğu’nda resmen sunulacak . Küresel Diyalog, BM Genel Kurulu’nun A/RES/79/325 sayılı kararıyla panelin yanı sıra, yapay zeka yönetişimini tartışmak üzere hükümetleri ve ilgili tüm paydaşları bir araya getiren bir platform olarak kuruldu . Görevi arasında yapay zeka uçurumlarını kapatmak, kapasite geliştirmek ve parçalanmış politikalardan daha tutarlı uluslararası çerçevelere geçişi sağlamak yer alıyor .

Neden Önemli?

Rapor, bilinçli olarak kural koyucu değil: belirli politikalar veya düzenlemeler önermiyor . Gücü, hükümetlerin, düzenleyicilerin ve kamuoyunun yapay zeka riski hakkında bilinçli kararlar almak için kullanabileceği güvenilir, bağımsız ve uluslararası kabul görmüş bir kanıt temeli oluşturmasında yatıyor . BM Genel Sekreteri António Guterres’in de belirttiği gibi, dünyanın acilen ‘ideolojiye değil bilime, sahte haberlere değil bilgiye dayanan, paylaşılan küresel bir yapay zeka anlayışına’ ihtiyacı var .