Sınır yapay zekâ için ortak güvenlik kurumu önerisi: Bilinenler ve belirsizlikler

Kamuya yansıyan bilgiler, Anthropic, OpenAI ve Google DeepMind arasında önemli bir ortak zemin oluştuğuna işaret ediyor: En güçlü, yani “sınır” yapay zekâ modelleri yalnızca onları geliştiren şirketlerin iç testleriyle yetinilmeden, kamuya açılmadan önce dış denetime tabi olmalı. Ancak bu, şirketlerin yeni bir ortak düzenleyici kurduğu ya da bağlayıcı testler, denetim erişimi, piyasaya sürme eşikleri ve ihlal cezaları üzerinde anlaştığı anlamına gelmiyor. 811

Aradaki fark kritik: Değerlendirme yapılması gerektiği konusunda uzlaşmak, bu değerlendirmeyi zorla uygulatabilecek yetkili bir kurum kurmakla aynı şey değil.

Öneri pratikte ne anlama geliyor?

Haberlere göre şirketler, Temmuz 2026’dan bu yana sınır yapay zekâ için sektör öncülüğünde bir standart kurumu oluşturulmasını çalışma düzeyinde görüşüyor. Hedef, özellikle siber saldırılar, biyolojik kötüye kullanım, aldatma ve yüksek etkili diğer istismar türleri bakımından tehlikeli yetenekleri, model kamuya sunulmadan önce ortak yöntemlerle değerlendirmek. 811

Şimdiye kadarki en somut kurumsal model, Google DeepMind CEO’su Demis Hassabis’ten geldi. Hassabis, ABD liderliğinde, finans sektörünün öz-düzenleyici kuruluşu FINRA’ya benzer bir Sınır Yapay Zekâ Standartları Kurumu önerdi. Modelde sektör tarafından finanse edilen fakat federal gözetim altında çalışan bir kuruluş, sınır modelleri yayımlanmadan önce test edecek. İlk aşama gönüllü başvurularla başlayacak; inceleme süreci güvenilirliğini kanıtlarsa, ileride değerlendirmeden geçmek zorunlu hâle gelebilecek. 9

Buna karşılık, sistemi işletecek temel ayrıntılarda laboratuvarların ortak bir karara vardığını gösteren kamuya açık kanıt bulunmuyor:

• Hangi modeller incelemeye girecek?
• Hangi teknik testler zorunlu olacak?
• Dış değerlendiriciler sistemlere ne ölçüde erişebilecek?
• Hangi sonuçlar modelin yayımlanmasını engelleyecek, erteleyecek ya da koşula bağlayacak?
• Kurumu kim finanse edecek ve yönetecek?
• Değerlendiricilerin, denetledikleri şirketlerden bağımsızlığı nasıl sağlanacak?
• Devlet gözetimi ve hukuki güvenceler nasıl işleyecek?

Bu sorular yanıtlanmadıkça, girişimi hâlihazırda çalışan ortak bir düzenleyici olarak tanımlamak eldeki verinin ötesine geçer.

Şirketlerin yakınlaştığı alan: Yayımlama öncesi bağımsız test

En güçlü uzlaşma noktası, modeller yayımlanmadan önce bağımsız dış testten geçirilmesi. Axios’un Temmuz tarihli haberine göre Dario Amodei, Sam Altman ve Demis Hassabis, sınır modellerinin ağırlıkla şirketlerin kendi beyanlarına bırakılması yerine kamuya ulaşmadan önce dış incelemeye açılmasını destekliyor. 8

Bu değişim önemli. Çünkü güvenlik, yalnızca geliştiricinin bir test yapıp yapmamasına değil, bağımsız kişilerin o sonucu yeniden üretebilmesine veya sorgulayabilmesine de bağlı. Güvenilir bir rejim için açık test tanımları, sistemlere yeterli erişim ve modelin belirli bir risk eşiğini aşması hâlinde doğacak sonuçların önceden belirlenmesi gerekir.

Üç şirket de meseleyi uluslararası bir sorun olarak çerçeveliyor. ABD’nin tek taraflı kısıtlamalara gitmesi, diğer ülkelerdeki rakip geliştiriciler benzer sınırlamalara tabi değilse siyasi ve stratejik açıdan zor olabilir. Hassabis’in önerisi açıkça ABD liderliğinde bir çerçeve öngörürken, Amodei yalnızca ulusal önlemlerin küresel ölçekte dağıtılabilen sistemlerin risklerini yönetemeyeceğini savunuyor. 91

Asıl ayrışma: Gönüllü standart mı, kamu destekli sistem mi?

Güvenlik konusundaki ortak söylemin altında temel bir yönetim farkı var: Bu yapı gönüllü bir sektör çerçevesi mi olacak, devlet destekli bir sistem mi, yoksa gerçekten yaptırım gücü olan bir düzenleyici mi?

DeepMind’in tasarımı, sektör finansmanını federal gözetimle birleştiriyor. İlk dönemde gönüllü katılım öngörülüyor; daha sonra değerlendirmenin, bir modelin kullanıma sunulmasının ön koşulu hâline gelmesi ihtimali bulunuyor. 9

Amodei ise sınır yapay zekâ laboratuvarlarının içine yerleşik, bağımsız değerlendiriciler yerleştirilmesini vurguluyor. Demokratik ülkelerde faaliyet gösteren şirketlerin de gerektiğinde devlet desteğiyle ortak güvenlik standartları oluşturmasını istiyor. 12

Çalışma grubu görüşmelerine dair haberler, OpenAI’ın devletin kapsamlı bir çerçeve oluşturmasını beklemek yerine sektörün harekete geçmesine açık olduğunu gösteriyor. OpenAI CEO’su Sam Altman da Amodei’nin yazısından sonra, çalışanlara benzer erişim yetkisi olan bağımsız değerlendiriciler fikrini kamuoyu önünde destekledi. 11

Bu farklar biçimsel değil. Gönüllü bir düzenleme hızlı ilerleyebilir ve ortak teknik uygulamalar oluşturabilir. Ama bağımsız yönetim ve kamusal yetki olmadan şirketleri erişim vermeye zorlamak, çıkar çatışmalarını çözmek veya güvenlik incelemesini geçemeyen bir modelin yayımlanmasını engellemek zorlaşır.

Frontier Model Forum, yeni bir düzenleyici olduğunun kanıtı değil

Büyük yapay zekâ şirketlerinin yer aldığı Frontier Model Forum adlı sektör oluşumu zaten mevcut. Kuruluşun ilan edilen amaçları; güvenlik araştırmalarını ilerletmek, değerlendirmeler ve iyi uygulamalar geliştirmek, politika yapıcılarla ve sektörle bilgi paylaşmak.

Bu durum, Forum’u eşgüdüm için olası bir zemin hâline getiriyor. Fakat tek başına yeni ve bağımsız bir kurumun kurulduğunu ya da şirketler arası denetim sisteminin bağlayıcı olduğunu göstermiyor. Belirleyici soru şu: Şirketler yalnızca rehber ilkeler hazırlayan bir yapı mı kuracak, yoksa modelleri bağımsız biçimde değerlendirebilen ve piyasaya sürme kararlarına anlamlı koşullar koyabilen bir kurum mu?

Amodei’nin yazısı neden tartışmayı değiştirdi?

Anthropic CEO’su Dario Amodei, 12 Eylül’de yaklaşık 3.800 kelimelik We Must Pace the Frontier başlıklı yazısını yayımladı. Amodei, güvenlik uygulamalarının teknolojik yetenek artışına yetişebilmesi için yapay zekâdaki kapasite kazanımlarının yavaşlatılması gerektiğini savundu. 52

Amodei, altı ila on iki ay içinde daha güçlü otomatik yapay zekâ ajan sürülerinin interneti ele geçirebilecek düzeye ulaşabileceği uyarısında bulundu. Bu, kanıtlanmış bir teknik sonuç değil; bir öngörü ve risk uyarısı olarak değerlendirilmelidir. 513

Önerdiği yol üç parçadan oluşuyor:

1. Sınır yapay zekâ laboratuvarlarının içine bağımsız değerlendiriciler yerleştirmek: Bu kişilerin sistemleri test etmesi, güvenlik açıklarını belirlemesi ve uyumu değerlendirmesi için çalışan benzeri erişime sahip olması. 12
2. Demokratik ülkelerdeki yapay zekâ şirketlerinin ortak güvenlik standartları ve sınırlar üzerinde eşgüdüm sağlaması: Gerektiğinde kamu desteğiyle. 216
3. Daha geniş uluslararası koordinasyon arayışı: Gelişmiş modeller ve bunların riskleri küresel olarak kullanılabildiği için otoriter yönetimler de dâhil olmak üzere daha geniş iş birliği hedeflenmesi. 115

Anthropic, üçüncü taraf değerlendiricilere kalıcı ve çalışan düzeyinde erişim vereceğini açıkladı. Bu, tek seferlik dış testten daha güçlü bir taahhüt. Yine de uygulamadaki güvenilirlik; değerlendiricileri kimin seçeceğine, neleri inceleyebileceklerine, bulgularını yayımlayıp yayımlayamayacaklarına ve kabul edilemez risk tespit edilirse ne olacağına bağlı. 122

Hesap verebilirlik sınavı

Eleştirilerin merkezindeki soru basit: En güçlü sistemleri geliştirme yarışındaki şirketler, bu sistemleri yöneten kuralları da yazıp uygulayıp yorumlayacak mı?

Bir güvenlik kurumu; bağımsız teknik liderlik, şeffaf değerlendirme yöntemleri, şirket etkisine karşı koruma, anlamlı kamu gözetimi ve başarısız bir değerlendirme sonrası harekete geçme yetkisi taşıdığı ölçüde daha inandırıcı olur. Bu unsurlar olmadan ortak standartlar uygulamaları iyileştirebilir, ancak bağımsız hesap verebilirlik düzeyine ulaşmayabilir.

Future of Life Institute’un 2026 Yaz Yapay Zekâ Güvenliği Endeksi de bu kuşkuyu besliyor: Anthropic C+, OpenAI C ve Google DeepMind C notu aldı; değerlendirilen laboratuvarların hiçbiri C+’ın üzerine çıkamadı. 17

ABD Senatörü Bernie Sanders ise yavaşlatmanın yetersiz olduğunu savunarak ileri düzey yapay zekâ geliştirmesine ara verilmesi ve yapay süperzekânın yasaklanması çağrısı yaptı. Bu tutum, laboratuvarların önerilerinden çok daha kısıtlayıcı; ancak gönüllü yavaşlama ile zorunlu sınırlar arasındaki mesafeyi açıkça gösteriyor.

Bundan sonra hangi işaretler önemli olacak?

İlerlemenin gerçek göstergesi yeni bir ilke açıklaması değil, somut kurumsal taahhütler olacak:

• Yayımlanmış bir yönetim tüzüğü,
• Adı açıklanmış bağımsız değerlendiriciler,
• Standartlaştırılmış yetenek ve kötüye kullanım testleri,
• Denetim erişimi ve kamuya açıklama kuralları,
• Yayımlama eşikleri ile risk giderme yükümlülükleri,
• Ve bir güvenlik bulgusunun modelin dağıtımını erteleyip erteleyemeyeceğine dair açık kurallar.

Şimdilik verilerin desteklediği daha dar sonuç şu: Büyük sınır yapay zekâ laboratuvarları ortak güvenlik altyapısını görüşüyor ve dış test fikrini giderek daha açık biçimde destekliyor. Bu görüşmelerin bağımsız ve yaptırım gücü olan bir standart kurumuna mı, yoksa gönüllü bir sektör forumuna mı dönüşeceği ise henüz belirsiz. 8911