Volker Türk: Gönüllü yapay zekâ güvenlik taahhütleri yeterli değil

BM İnsan Hakları Yüksek Komiseri Volker Türk, giderek daha güçlü yapay zekâ geliştirme yarışının şirketlerin kendi koyduğu gönüllü kurallarla yönetilemeyeceğini söyledi. Türk, açık mektubunda devletler ile en ileri kapasitedeki sınır yapay zekâ sistemlerini geliştiren şirketlere acil ve çok taraflı adım çağrısı yaptı. Ona göre gönüllü öz düzenleme, mevcut zararları gidermek ve gelişmiş otonom modellerin insan güvenlik önlemlerini aşmasını engellemek için “hiçbir şekilde yeterli değil”. 7

Türk ne istiyor?

Türk’ün çağrısı hem devletleri hem de sınır yapay zekâ geliştiren şirketleri hedefliyor. “Sınır yapay zekâ”, kapasite bakımından teknolojinin en ileri ucundaki sistemleri ifade ediyor. Temel mesajı şu: Toplumun üstleneceği risklere az sayıda şirket tek başına karar vermemeli. 7

Öne çıkan talepler şöyle:

• Bağlayıcı ve insan hakları temelli yönetim: Devletler, şirketlerin gönüllü taahhütlerine bel bağlamak yerine düzenlemeleri güçlendirmeli; ülkeler arasındaki kural boşluklarını önlemek için uluslararası iş birliği yapmalı. 7
• Sürekli insan hakları durum tespiti: Yapay zekâ geliştiricileri, olası ve fiilî insan hakları etkilerini sistemin yaşam döngüsü boyunca belirlemeli ve ele almalı. Bu, tek seferlik bir uyum kontrolü değil; riskleri saptama, harekete geçme, alınan önlemlerin etkisini izleme ve bunları açıklama adımlarını içeren devamlı bir süreç.
• Bağımsız teknik değerlendirme ve doğrulama: Güvenlik önlemleri yalnızca şirketlerin kendi beyanlarına bırakılmamalı; dışarıdan bağımsız biçimde incelenip doğrulanabilmeli. 7
• Acil çok taraflı eylem: Türk, sınır yapay zekâ yönetimini uluslararası bir mesele olarak görüyor. Kuralların ve güvenlik güvencelerinin ülkeler ile kurumlar arasında eşgüdüm içinde geliştirilmesi gerektiğini savunuyor. 79

Uyarı neden şimdi yapıldı?

Mektup, yapay zekâ sektöründe daha otonom ve kendini geliştirme potansiyeli taşıyan sistemlere ne hızla ilerlenmesi gerektiği konusunda tartışmaların yoğunlaştığı bir dönemde geldi.

Daha önce hem OpenAI hem de Anthropic’te çalışmış araştırmacı Jacob Coxon, Eylül 2026’da Anthropic’ten ayrıldı. Coxon, şirketlerin kendini geliştiren süper zekâya doğru yarıştığını ve “hayatlarımızla kumar oynadığını” söyledi. Ayrıca bazı yapay zekâ geliştiricilerinin bu teknolojinin on yılın sonuna kadar “hepimizi öldürebileceğine” içtenlikle inandığını aktardı. Bu, Coxon ve kaygı duyan diğer geliştiricilere atfedilen bir uyarıdır; yerleşik bir tahmin değildir. 68

Bu sırada çalışanların öncülük ettiği Pacing the Frontier girişimi, ABD hükümetinden uluslararası bir çabayı desteklemesini istedi. Amaç, yapay zekâ gelişimi insanlığın onu güvenle denetleme kapasitesini aşarsa ilerlemeyi bilinçli biçimde yavaşlatmaya yarayacak teknik ve yönetişim araçlarını geliştirmek. Girişimin internet sitesi, sınır yapay zekâ şirketlerinden 1.386 imzacı listeliyor. 15

Bu tür “hızı ayarlama” çağrıları sektördeki endişenin büyüdüğünü gösterse de Türk açısından hesap verebilirlik sorununu çözmüyor: Gönüllü taahhütler, çalışanlardan veya şirket yöneticilerinden destek görse bile, kamu otoritesinin uygulayabileceği güvencelerin yerini tutamaz. 7

Mevcut zararlar ile uzun vadeli riskler aynı çerçevede

Türk, meseleyi yalnızca insanlığın yok oluşuna ilişkin uzak bir senaryo olarak ele almadı. Gönüllü öz düzenlemenin hem mevcut zararlarla baş etmek hem de gelişmiş otonom modellerin insan güvenlik önlemlerini aşmasını önlemek bakımından yetersiz olduğunu belirtti. 7

Mektuba ilişkin mevcut haberlerde, Türk’ün işaret ettiği güncel zararların ayrıntılı ve kesin bir listesi yer almıyor. Bu nedenle belirli zarar türlerini mektuba doğrudan atfetmek doğru olmaz. Açık olan nokta, Türk’ün önerdiği yönetişim ölçütü: Yapay zekânın tasarımı, kullanımı, değerlendirilmesi ve yönetiminde insan hakları merkezde kalmalı. 7

Asıl açık: Gönüllü destek var, bağlayıcı uzlaşı yok

Sektörden gelen bazı seslerle BM’nin uyarısı arasında dikkat çekici bir yakınlaşma bulunuyor. Her iki taraf da yapay zekâ kapasitesindeki ilerlemenin gerektiğinde yavaşlatılması ve sistemlerin bağımsız değerlendirmeden geçmesi gerektiğini kabul ediyor. 715

Ancak çözülmemiş mesele siyasi: Sektör destekli bildiriler iş birliğini teşvik edebilir, fakat tek başlarına ortak eşikler koymaz; açıklama zorunluluğu getirmez; bağımsız değerlendirmeyi mecbur tutmaz; zarar ortaya çıktığında başvuru yolları ve hesap verebilirlik yaratmaz. Türk, bu boşluğun uluslararası insan hakları hukuku temelinde acil ve çok taraflı düzenlemelerle devletler tarafından kapatılmasını istiyor. 79

Politika yapıcılar ve yapay zekâ satın alan kurumlar açısından sonuç net: Güvenlik iddialarına yalnızca şirket sözü olarak değil, sürekli hak-risk değerlendirmesi, dış denetim ve açık hesap verebilirlik kanıtları eşlik etmeli.