Trump–Şi görüşmesinde yapay zekâ: Güvenlik kuralları mı, kriz iletişimi mi?

ABD Başkanı Donald Trump’ın Çin Devlet Başkanı Şi Cinping ile görüşmesi öncesindeki açıklamaları, yapay zekâ güvenliğinde iki farklı yaklaşımı karşı karşıya getirdi. Trump, “süper zekâ” konusundaki politikayı olduğu gibi bırakmak istediğini söyledi; Çin’in de aynı görüşü paylaştığını öne sürdü ve ABD Adalet Bakanlığı’nı (DOJ) güvenlik için başvurulacak kurum olarak gösterdi.10 Teknoloji şirketlerinin yöneticileri ise aynı dönemde, giderek güçlenen sistemlerin riskleri karşısında hükümetleri ortak hareket etmeye çağırıyordu.214

Temel ayrım şu: Mevcut yasaların uygulanmasına güvenmek, tehlikeli yetenekler ortaya çıkmadan önce yapay zekâya özgü testler veya kullanım sınırları koymakla aynı şey değil. Üstelik Çin’in yeni güvenlik kurallarını istemediğine ilişkin eldeki bilgi, bağımsız olarak doğrulanmış bir Çin taahhüdü değil, Trump’ın Çin’in tutumuna dair beyanı.10

Şirketlerin uyarısı neden farklı bir çizgide?

OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’ndeki konuşmalarında yapay zekâ risklerine karşı dikkat ve hükümetler arası koordinasyon çağrısı yaptı. Amodei, kötü yönetilmesi hâlinde yapay zekânın “bir bütün olarak insanlık” için risk oluşturabileceğini söyledi. Giderek daha bağımsız hareket edebilen sistemlerin insan denetimini aşabileceği uyarıları da gündeme geldi.214

Amodei ayrıca yeni sistemlerin güvenliğini sağlamak için gerektiğinde geliştirme hızını düşürme sözü verdi.14 Bu, Trump’ın politikayı değiştirmeme yaklaşımından farklı bir öncelik: Sorun çıktığında mevcut hukukla müdahale etmek yerine, riskleri önceden yönetmek.

ABD ile Çin arasında ne önerildi?

ABD Hazine Bakanı Scott Bessent, Çin Başbakan Yardımcısı He Lifeng ile görüşmelerinde yapay zekâ güvenliği ve ulusal güvenlikle ilgili bir bildirim mekanizması önerdi. Taraflar arasında yapay zekâ konusunda yeni bir diyalog kurulması da görüşüldü.4 Böyle bir kanal, olası bir olayda yanlış anlamaları azaltmaya yardımcı olabilir. Ancak bildirim mekanizması tek başına zorunlu güvenlik testleri, bağımsız denetim veya sistemlerin kullanıma sunulmasına ilişkin bağlayıcı kısıtlamalar getirmez.

İş birliğinin sınırlarını rekabet de belirliyor. Washington ve Pekin, yapay zekâdaki ilerlemeyi ekonomik ve askerî rekabet açısından önemli görüyor; gelişmiş çiplere erişim ve teknoloji politikası konusunda ise ayrışıyor.3 Bu koşullarda iletişim kanalı açmak, kapsamlı bir güvenlik anlaşmasına varmaktan daha sınırlı bir adım.

Çip ihracatı tartışması aynı mesele mi?

Hayır. Yapay zekâ güvenlik kuralları, sistemlerin geliştirilmesi ve kullanımından doğan riskleri hedeflerken ihracat kontrolleri Çin’in bu sistemleri geliştirmekte kullanabileceği ileri çiplere ve çip üretim ekipmanına erişimiyle ilgili. Senatörler Chuck Schumer, Elizabeth Warren ve diğer Demokratlar daha sıkı kontroller ile iki partinin desteklediği yasa tekliflerinin oylanmasını istedi.1112 Temsilciler Meclisi’nin Çin komitesindeki Cumhuriyetçi başkan John Moolenaar da daha sıkı teknoloji kısıtlamaları çağrısında bulundu ve Şi’ye taviz verilmemesi yönünde uyardı.5

Dolayısıyla görüşmenin yapay zekâ gündeminde iki ayrı soru vardı: Riskler için yeni ortak kurallar konacak mı ve kritik teknolojiye erişim nasıl yönetilecek? Eldeki bilgiler, bir bildirim kanalı önerildiğini gösteriyor; üzerinde uzlaşılmış, uygulanabilir bir yapay zekâ güvenliği çerçevesi kurulduğunu göstermiyor.4 Trump’ın açıklaması ile şirket yöneticilerinin uyarıları arasındaki fark da burada yatıyor: İletişime açık olmak, yeni güvenlik yükümlülüklerini kabul etmek anlamına gelmiyor.102