Trump–Şi zirvesinde yapay zekâ: Bağlayıcı kurallar değil, kriz iletişimi

24 Eylül’deki Trump–Şi zirvesine ilişkin mevcut bilgiler, ABD ile Çin’in yapay zekâ yarışını durdurmaktan çok, ciddi bir olay yaşandığında birbirleriyle konuşabilmenin yolunu aradığını gösteriyor. Böyle bir kanalın güvenlik açısından değeri olabilir. Fakat eldeki kanıtlar, yapay zekâ geliştirmeyi sınırlayan veya uygulanabilir ortak güvenlik yükümlülükleri getiren bir anlaşmaya işaret etmiyor.12451

Masadaki somut fikir: Ciddi olaylar için bildirim

Zirve öncesinde ABD Hazine Bakanı Scott Bessent, Çin Başbakan Yardımcısı He Lifeng ile görüşmelerinde Washington’ın bir yapay zekâ güvenliği bildirim mekanizması önerdiğini söyledi. Liderlerin değerlendirmesine sunulması öngörülen fikir, özellikle ulusal güvenlik kaygısı doğurabilecek yapay zekâ olaylarına ilişkin bir diyalog kanalıydı. Haberlerde anlatılan, yayımlanmış ikili kurallar değil, bir öneriydi.13

Bu tür bir hat, ciddi bir olayın yanlış yorumlanması riskini azaltmak için yetkililere bilgi alışverişi olanağı sağlayabilir. Ancak olay bildirimi, bir sorun ortaya çıktığında iletişim kurmaya yarar. Tek başına iki ülkeyi gelişmiş modelleri önceden test etmeye, kullanıma sunulmalarını sınırlamaya, bağımsız denetime izin vermeye veya ihlalleri yaptırıma bağlamaya zorlamaz.

Liderlerin açıklamaları ne söylüyor?

Trump, yeni yapay zekâ düzenlemelerine karşı çıktı; gerektiğinde Adalet Bakanlığı dâhil ABD kolluk kurumlarının devreye girebileceğini söyledi. Görüşme öncesinde de “süper zekâ”nın önemli bir konu olacağını, ancak onu “tam olduğu yerde bırakmak” istediğini yazdı. Bu sözler yeni önleyici kısıtlamalara mesafeli bir tutuma işaret ediyor; Çin’in de aynı tutumu kabul ettiğini kanıtlamıyor.5022

Şi ise iki ülkenin yapay zekâyı insanların kontrolünde kalacak şekilde geliştirme ve yönetme sorumluluğu bulunduğunu söyledi.24 Bu bir ilke beyanı. Ortak test zorunlulukları veya karşılıklı bir yavaşlama kararı alındığına dair kanıt değil. Bloomberg’in zirve öncesi haberine göre iki hükümet de yapay zekâ geliştirmeyi yavaşlatma niyeti göstermemişti.51

Güvenlik çağrıları ile çip kısıtlamaları aynı şey değil

OpenAI’dan Sam Altman ve Anthropic’ten Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’nde yapay zekâ riskleri karşısında uluslararası eşgüdüm çağrısı yaptı. Amodei ayrıca geliştirme hızının düşürülmesini ve bağımsız izleme dâhil daha yakın denetimi savundu.1748 Bunlar zirve dışından gelen önleyici güvenlik talepleri; hükümetlerin talepleri benimsediğini göstermiyor.

Öte yandan Schumer, Warren ve diğer Demokrat senatörler, Çin’e gelişmiş yapay zekâ çipleri ile çip üretim ekipmanı satışına daha sıkı kısıtlamalar ve ilgili yasa tasarılarının oylanmasını istedi.3545 Bir rakibin teknolojiye erişimini sınırlamak, iki ülkenin birlikte güvenlik testleri veya kullanım sınırları benimsemesinden farklı bir politika. Zirvenin gündeminde ticaret ve başka stratejik anlaşmazlıklar da vardı; bu nedenle yapay zekâ güvenliğinin görüşmenin tamamına hâkim olduğu da söylenemez.34

Bir bildirim hattı ne zaman gerçek bir güvenlik anlaşmasına dönüşür?

Bunun için hangi sistemlerin ve olayların kapsandığını, kimin ne zaman bildirim yapacağını belirleyen yayımlanmış taahhütler gerekir. Önleyici ve uygulanabilir işbirliği daha fazlasını gerektirir: ortak değerlendirme veya kullanıma sunma koşulları, uyumun nasıl denetleneceği ve ihlallerin sonuçları.

Bildirim hattının kurulduğunu ve kullanıldığını gösteren kayıtlar, işleyen bir işbirliğine kanıt olurdu; fakat tek başına bağlayıcı güvenlik kurallarını kanıtlamaz. Bazı haberler kanalın kurulduğunu yazarken, Bessent’in görüşmelerine ilişkin en açık anlatımlar bunu liderlere sunulmuş bir ABD önerisi olarak aktarıyor.131 Üzerinde uzlaşılmış koşullar ve uygulama kayıtları olmadan en isabetli sonuç şu: Güvenlik açısından bir kapı aralayabilecek rekabet yönetimi; bağlayıcı bir yapay zekâ güvenliği rejimi değil.