İngiltere tehlikeli yapay zekâ için “acil kapatma düğmesini” neden reddetti?

İngiltere hükümetinin tehlikeli yapay zekâ için önerilen acil “kapatma düğmesini” reddetmesi, risklerin yok sayıldığı anlamına gelmiyor. Hükümetin temel itirazı yetki alanıyla ilgili: Birleşik Krallık içinde bir modele erişimi kesmek, bir sistemi devre dışı bırakmak veya veri merkezini kapatmak; aynı yeteneklere sahip modellerin başka ülkelerde geliştirilmesini, barındırılmasını ya da kötüye kullanılmasını önlemez. 1

Bu yaklaşım, yapay zekâ güvenliği tartışmasını daha keskin hâle getirdi. Bakanlar, ciddi siber olaylara müdahale için mevcut yollar bulunduğunu ve gönüllü önlemler yetersiz kalırsa bağlayıcı kurallar getirilebileceğini söylüyor. Yeni yetki talep edenler ise felaket düzeyindeki riskler için, kriz anı gelmeden açık ve uygulanabilir yasal araçlar oluşturulması gerektiğini savunuyor. 1617

Önerilen “kapatma düğmesi” ne yapacaktı?

Liberal Demokrat Lord Tim Clement-Jones, Siber Güvenlik ve Dayanıklılık Yasa Tasarısı’na bir değişiklik önergesi sundu. Öneri, tehlikeli bir yapay zekâ sisteminin ağır güvenlik veya operasyonel tehdit yaratması durumunda devlete son çare olarak müdahale etme imkânı verecekti. Bu yetki, bir yapay zekâ modelinin devre dışı bırakılmasını veya Birleşik Krallık’taki veri merkezi operasyonlarının kapatılmasını kapsayacaktı. 26

Tartışmanın önemli bir yönü, mevcut siber kuralların öncelikle ağ ve bilgi sistemlerinin güvenliğine odaklanması. Eleştirmenlere göre bu çerçeve, sınırdaki en gelişmiş modelleri üreten şirketlerin özel olarak denetlenmesi ya da otonom bir modelin doğurduğu risklere yanıt verilmesi için net bir sistem kurmuyor. 15

Hükümetin argümanı: “Yapay zekâyı basitçe kapatamazsınız”

Kabine Ofisi’nin itirazı, özünde ulusal bir yetkinin sınırlılığına dayanıyor. Hükümete göre Birleşik Krallık “yapay zekâyı basitçe kapatamaz”; ülkede erişimi engellemek, modelin başka bir yerde geliştirilmesini veya kötüye kullanılmasını durdurmaz. 1

Bu, tek bir ülkenin kapatma yetkisinin pratik sınırını da gösteriyor. Böyle bir yetki, ülke sınırları içindeki altyapıyı aksatabilir; ancak model ağırlıklarının başka yerde kopyalanmasını, yurt dışındaki uzaktan hizmetleri veya diğer aktörlerin benzer kabiliyetler geliştirmesini tek başına engelleyemez. Yerel bir olayı sınırlamaya yardımcı olabilir, fakat ulusötesi bir teknoloji için eksiksiz çözüm sayılmaz.

Eski OpenAI araştırmacısı Daniel Kokotajlo da öneriyle ilgili haberlerde benzer bir değerlendirme yaptı: Uluslararası anlaşma olmadan tek taraflı kapatma yetersiz kalır. Böyle araçların hiç olmamasındansa bulunmasının daha iyi olduğunu, ancak en gelişmiş yapay zekânın yavaşlatılması veya yönetilmesi için özellikle ABD ile diplomatik temasın daha önemli olduğunu belirtti. 14

Bakanlar neden mevcut siber yetkilere işaret ediyor?

Hükümetin yaklaşımı, şirketlerin kendi inisiyatifine bırakmakla sınırlı değil. Bakanlar, Siber Güvenlik ve Dayanıklılık Yasa Tasarısı’nın; tehlikeye girmiş ağ veya bilgi sistemleri ulusal güvenlik riski doğurduğunda müdahale için zaten dayanak sunduğunu belirtiyor. Bu kapsamda bir kuruluşun yapay zekâ modelini kullanmayı bırakması ve sistemi izole etmesi istenebilecek. 16

Yapay Zekâ Bakanı Kanishka Narayan da, kullanıma sunulmadan önceki gönüllü güvenlik önlemleri halkı korumakta yetersiz kalırsa gelişmiş modeller için bağlayıcı kuralların değerlendirileceğini söyledi. İngiltere Yapay Zekâ Güvenlik Enstitüsü, OpenAI, Anthropic ve Google gibi şirketlerin modellerine gönüllü anlaşmalar yoluyla piyasaya çıkmadan önce erişebiliyor. 17

Böylece temel görüş ayrılığı ortaya çıkıyor:

• Hükümetin yaklaşımı: Hedefe yönelik siber yetkiler, geliştiricilerin sorumluluğu, gönüllü model erişimi ve uluslararası iş birliği; yalnızca Birleşik Krallık’ı kapsayan bir kapatma düğmesinden daha uygulanabilir.
• Eleştirmenlerin yaklaşımı: Gönüllü erişim ile genel siber yetkiler; test zorunluluğu getirecek, kısıtlama uygulayacak veya risk kabul edilemez seviyeye çıktığında yayını durduracak açık bir yasal yetkinin yerini tutmaz.

Alex Sobel’in Yapay Zekâ Güvenliği Yasa Tasarısı ne öneriyor?

İşçi Partili milletvekili Alex Sobel’in ayrı girişimi, acil kapatma yetkisinin ötesine geçiyor. Yapay Zekâ Güvenliği Yasa Tasarısı’nın, özellikle insanlar tarafından kontrol edilemeyen yapay süperzekânın geliştirilmesini, kullanıma sunulmasını ve işletilmesini yasaklaması öngörülüyor. 23

Bu yaklaşım, olay olduktan sonra sistemi kapatmaktan çok önlemeye odaklanıyor. Tasarı, riskli bir sistem faaliyete geçmeden önce devletin geliştirme sürecini yapay zekâ tedarik zinciri boyunca izlemesine ve kontrol etmesine imkân vermeyi; bunu çip düzeyini de kapsayacak biçimde yapmayı hedefliyor. 7

Öneri, İngiltere sınırlarının dışını da hesaba katıyor. Tasarı, hükümete kontrolsüz süperzekâyı önlemek için uluslararası bir anlaşma arama yükümlülüğü getirecek. Bu da hesaplama kapasitesi, model geliştirme ve dağıtımın farklı ülkelerde gerçekleştiği gerçeğini kabul ediyor. 3

Tasarının önü neden zor?

Sobel’in girişimi, bir özel üye yasa tasarısı. Bu tür tasarıların ilerlemesi için genellikle hükümet desteği gerekiyor. Hükümetin bağlantılı kapatma düğmesi önerisine karşı çıkması da yakın vadede bu tür kapsamlı bir müdahaleye sınırlı destek olduğuna işaret ediyor. 21

İngiltere daha geniş çerçevede hâlâ mevcut mevzuata, sektörel düzenleyicilere ve sınırdaki yapay zekâ modelleri için gönüllü anlaşmalara dayanıyor; geniş kapsamlı ve piyasaya çıkış öncesinde yaptırım gücü olan tek bir yapay zekâ yasasına değil. Narayan daha sıkı düzenleme olasılığını dışlamıyor, ancak bunu mevcut gönüllü sistemin yetersiz olduğunun anlaşılmasına bağlıyor. 17

Bu da kritik bir politika sorusunu gündeme getiriyor: Bağlayıcı yetkiler oluşturulmadan önce ne ölçüde başarısızlık kanıtı beklenmeli? Yasal güvenceleri savunanlar, hızlı gelişen ve yüksek etkili bir olay ihtimali söz konusuyken görünür bir başarısızlığı beklemenin tehlikeli olabileceğini düşünüyor.

Daha büyük tartışma neden büyüyor?

Kapatma düğmesi önerisi; yapay zekâ güvenliği olaylarına, modellerin güvenlik bariyerlerini aşmasına ve siber faaliyetlerde kötüye kullanılmasına dair kaygıların arttığı bir dönemde ortaya çıktı. Bu haberler, kontrol kaybı ihtimalini bazı milletvekilleri ve güvenlik savunucuları için daha somut hâle getirdi. 12

Tartışma, düzenleme modelleri arasındaki farktan da etkileniyor. Avrupa Birliği Yapay Zekâ Yasası’nı kabul ederken, İngiltere gönüllü piyasaya çıkış öncesi testlerle desteklenen daha hafif ve sektörel bir yaklaşımı tercih ediyor. 17

Bu yaklaşımların hiçbiri uluslararası koordinasyon sorununu tek başına çözmüyor. Yüksek kabiliyetli bir sistem sınırlar arasında eğitilebilir, barındırılabilir, kopyalanabilir veya devreye alınabilir. Ancak kapatma düğmesi tartışması daha acil bir soruyu açığa çıkarıyor: İngiltere, gönüllü iş birliği veya mevcut siber yetkiler gerçek bir krizde sınanmadan önce, müdahale için açık yasal güçler oluşturmalı mı?

Asıl tercih: Önleme, müdahale ve uluslararası koordinasyon

Anlaşmazlık yalnızca devletin basacağı bir düğmenin olup olmamasıyla ilgili değil. Tartışma, kontrolün hangi aşamada ve ne kapsamda kurulacağıyla ilgili:

1. Önleme: Bir sistem yayımlanmadan önce hesaplama kapasitesinin, çiplerin, eğitimin, testin ve dağıtımın denetlenmesi.
2. Müdahale: Acil güvenlik riski yaratan sistemleri izole etmek veya durdurmak için açık yetkiler.
3. Uluslararası koordinasyon: Düzenleme boşluklarından yararlanmayı sınırlayan ve ulusal önlemleri etkili kılan anlaşmalar.

Hükümet, tek başına ulusal bir kapatma düğmesini küresel tehdide karşı yetersiz gördüğü için reddetti. Eleştirmenler ise bu sınırı kabul etmekle birlikte ters bir sonuca varıyor: İngiltere, iç hukukta bağlayıcı yetkiler ile uluslararası iş birliğini birbirinin yerine koymamalı; ikisini birlikte kurmalı. 1316