Yapay zekâda “acil kapatma düğmesi” neden tek başına yeterli olmayabilir?

Bir yapay zekâ için “acil kapatma düğmesi” tartışması, artık bir şirketin modeli kapatıp kapatamayacağıyla sınırlı değil. Asıl soru şu: Güçlü sistemler geniş, dağıtık altyapılara yayıldığında ya da tek bir kontrol ortamının dışına taşacak kadar özerk çalıştığında, kapatma mekanizması hâlâ etkili olabilir mi?

Coxon’ın uyarısı: Bugün işe yarayabilir, ama kalıcı çözüm olmayabilir

Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon, NBC News’in Meet the Press programında, bir kapatma mekanizmasının bugün birçok yapay zekâ sistemi için muhtemelen işe yarayacağını söyledi. Ancak bunun tek bir düğmeye basmak anlamına gelmeyeceğini vurguladı: Büyük veri merkezleri ve sahada çalışan sistemler, çok sayıda bileşenin ayrı ayrı durdurulmasını gerektirir. Coxon’a göre sistem fiziksel olarak tek bir yerde sınırlıyken bu zor ama yapılabilir bir iş. 8

Endişesi bir sonraki aşamaya ilişkin. Coxon, yapay zekânın dağıtık ve özerk bir “sürü” hâline gelmesi durumunda merkezi bir kapatma komutunun teknik olarak etkisiz kalabileceği uyarısında bulundu. Temel mesele erişim: Bir denetim aracı, ancak sistemin çalışır durumdaki her örneğine ulaşabiliyorsa işleyebilir.

Coxon, Anthropic’ten ayrılırken de önde gelen laboratuvarların, kontrol edilemez hâle gelme ihtimali bulunan kendi kendini geliştiren yapay zekâ sistemlerine doğru yarıştığını savunmuştu. 150

Şirketin sözü yerine doğrulanabilir güvenlik önlemleri

Anthropic’in kurucularından Jack Clark’a göre, tehlikeli bir yapay zekâ sistemini devre dışı bırakabilme kapasitesi zamanla yalnızca şirketlerin gönüllü taahhüdü olmaktan çıkıp hukuki bir zorunluluk hâline gelebilir. Clark, BBC’ye çoğu büyük laboratuvarın —Anthropic dâhil— sistemlerini kapatmak için yöntemleri bulunduğunu; ancak böyle bir mekanizmanın üçüncü bir tarafça bağımsız biçimde doğrulanıp doğrulanamayacağının sorulması gerektiğini söyledi. 33

Bu ayrım önemli: Bir laboratuvarın kapatma prosedürü olduğunu söylemesi başka, dışarıdan bir değerlendiricinin bu prosedürün gerçekten var olduğunu, yeterince tasarlandığını ve acil durumda kullanılabileceğini doğrulaması başka.

Amodei’nin önerisi: Sınırı güvenlikle aynı hızda ilerletmek

Anthropic CEO’su Dario Amodei, en ileri yapay zekâ yeteneklerinin gelişim hızını güvenlik önlemleriyle uyumlu tutmayı amaçlayan bir çerçeve önerdi. Plan üç unsurdan oluşuyor:

1. Şirket içine yerleşik bağımsız değerlendiriciler: En ileri yapay zekâ şirketleri, dışarıdan değerlendiricilere ilgili sistemlere ve güvenlik uygulamalarına çalışan düzeyinde, sürekli erişim sağlamalı. Böylece bu ekipler taahhütleri doğrulayabilir ve endişelerini raporlayabilir.
2. Demokratik ülkeler arasında ortak standartlar: Önde gelen geliştiriciler, ortak güvenlik standartları ve denetlenmemiş yetenek artışını sınırlayacak ilkeler üzerinde eşgüdüm kurmalı.
3. Uluslararası iş birliği: Tek bir şirketin veya ülkenin güvenilir biçimde çevreleyemeyeceği riskler için hükümetler sınır ötesi iş birliği yapmalı. 17

Bu, yapay zekâ araştırmalarını tümüyle durdurma çağrısı değil. İlerlemeyi, sistemi geliştiren şirketlerin kendi beyanlarının ötesinde incelenebilen güvenlik denetimlerine bağlı kılma önerisi.

Öneriye kimler destek verdi?

Reuters’ın haberine göre OpenAI CEO’su Sam Altman ile xAI lideri Elon Musk, Amodei’nin genel yaklaşımına kamuoyu önünde destek verdi. Altman, OpenAI’ın çalışan düzeyinde erişime sahip bağımsız değerlendiriciler fikrini benimseyeceğini söyledi. Musk ise “Dario haklı” dedi. 17

Haberlerde Google DeepMind CEO’su Demis Hassabis’in de önerinin yönünü desteklediği aktarıldı. 30 Buna karşılık, sağlanan kaynaklarda Microsoft CEO’su Satya Nadella’nın bu öneriye ilişkin açık ve kendisine atfedilebilir bir görüşü yer almıyor; bu nedenle tutumu hakkında kesin bir niteleme yapmak için yeterli dayanak bulunmuyor.

ABD’de önerilen AI Kill Switch Act ne getiriyor?

ABD Temsilciler Meclisi’ndeki H.R. 9917 numaralı AI Kill Switch Act yasa teklifi, belirli kapsamdaki kuruluşların yapay zekâ teknolojileri için teknik kapatma yeteneklerini bulundurmasını öngörüyor. Tasarı; çıkarımı (inference) durdurma, kullanıcı erişimini kesme ve kapsamdaki yapay zekâ teknolojisini kapatma kapasitesini şart koşuyor. 49

Bu düzenleme bir öneri; yapay zekâ kontrolüne ilişkin her sorunu çözdüğü kanıtlanmış bir yöntem değil. Pratikteki değeri, ciddi bir olay yaşandığında geliştiricinin ilgili sistemi hâlâ tanımlayıp erişebilmesine ve devre dışı bırakabilmesine bağlı olacak. Coxon’ın olası dağıtık gelecek sistemleri için işaret ettiği zorluk da tam olarak bu.

Yok olma riski tahminleri, öngörü değil kişisel değerlendirme

Anthropic araştırmacısı Evan Hubinger, yapay zekânın önümüzdeki on yıl içinde insanlığın yok oluşuna yol açma riskini kişisel olarak yüzde 10’un üzerinde değerlendirdiğini söyledi. Geoffrey Hinton da BBC’ye, yüzde 10’luk olasılığın “makul olmayan” bir tahmin olmadığını ifade etti. 57

Bunlar ölçülmüş olasılıklar veya bilimsel uzlaşı değil; belirsiz bir gelecek hakkında uzman görüşleri. Yine de kapatma düğmesi tartışmasının neden sıradan ürün güvenliği başlığının ötesine geçtiğini gösteriyor: Daha güçlü önlemleri savunanlara göre, geri döndürülemez bir felaket ihtimali düşük olsa bile sonuçların büyüklüğü kapsamlı korumaları haklı çıkarır.

Hükümetler neden zorunlu kapatma ve yavaşlamaya mesafeli?

Birleşik Krallık hükümeti ulusal bir yapay zekâ kapatma düğmesi önerisini reddetti ve ülkenin “yapay zekâyı basitçe kapatamayacağını” belirtti. Hükümetin gerekçesi pratik: Birleşik Krallık’taki modellere erişimi engellemek, bunların başka yerlerde geliştirilmesini veya kötüye kullanılmasını önlemez. 51

Bu itiraz, jeopolitik sorunu özetliyor. Tek bir ülke kendi yargı alanındaki şirketlere ve altyapıya kural koyabilir; ancak yapay zekâ geliştirme faaliyeti uluslararası nitelikte. Rekabet gücünü korumak isteyen hükümetler, tek taraflı kısıtlamaların yatırımı, teknik kapasiteyi ve stratejik avantajı daha gevşek kurallara sahip rakiplere kaydırmasından kaygı duyabilir.

Daha sıkı yönetişim savunucuları ise tam da bu nedenle gönüllü şirket taahhütlerinin ve tekil ulusal kuralların tek başına yetersiz olduğunu söylüyor. Riskler sınır aşıyorsa, denetim ve güvenlik taahhütleri de uluslararası düzeyde güvenilir olmalı.

Asıl gerilim: Hız mı, kontrol mü?

Tartışma, yapay zekâyı destekleyenler ile karşı çıkanlar arasında basitçe bölünmüyor.

• Güvenlik savunucuları, bağımsız biçimde incelenebilir önlemler, gerçek anlamda uygulanabilir kapatma kapasitesi ve yeteneklerin değerlendirme ile denetimi aşmasını engelleyecek sınırlar istiyor.
• Katı kısıtlamalara şüpheyle yaklaşanlar, küresel ölçekte duraklatmaların uygulanmasının zor olacağını ve geliştirmeyi başka yerlerde durdurmadan faydalı yenilikleri yavaşlatabileceğini savunuyor.
• Koşullu geliştirme yaklaşımı ise Coxon, Clark ve Amodei’nin çizgisinde şekilleniyor: Yapay zekâ ilerlemeye devam etsin; ancak yalnızca vaat edilen değil, test edilebilen güvenlik önlemleriyle. 83317

Bu nedenle kapatma düğmesini bütün güvenlik sisteminin yerine geçen bir çözüm olarak değil, onun katmanlarından biri olarak görmek gerekir. İleri sistemler bir gün tek bir kapatma komutunun ulaşamayacağı kadar dağıtık hâle gelirse, devreye alma öncesi denetim, bağımsız değerlendirme ve uluslararası koordinasyon daha az değil, daha çok önem kazanır.