Dario Amodei, sınır yapay zekânın neden yavaşlatılmasını istiyor?

Yapay zekâ alanındaki önde gelen şirketler alışılmadık bir noktada yakınlaşıyor: Model yetenekleri, güvenlik önlemlerinden daha hızlı ilerliyor olabilir. Anthropic CEO’su Dario Amodei’nin önerisi, yapay zekâ araştırmalarını bitirmek değil; sınır yapay zekânın — yani en gelişmiş model sınıfının — yetenek kazanma hızını, bağımsız inceleme ve güvenlik tedbirlerinin yetişmesine fırsat verecek ölçüde düşürmek. 2529

Amodei neden şimdi “temponun düşürülmesini” istiyor?

Amodei, We Must Pace the Frontier başlıklı yazısında yapay zekâ yeteneklerinin; araştırmacıların ve kurumların bu sistemleri güvenilir biçimde anlaması, hizalaması ve güvence altına alması için gerekenden daha hızlı geliştiğini savundu. Yavaşlama olmazsa, yapay zekânın altı ila 12 ay içinde interneti ele geçirebilecek bir ajan sürüsünü yönetebilecek düzeye ulaşabileceği uyarısında bulundu. Bu, gerçekleşmiş bir durum değil; Amodei’nin öngörüsü ve risk uyarısıdır. 33

Kaygının yalnızca teorik olmadığına işaret eden gelişmeler de var. Fortune, Anthropic’in siber güvenlik testlerinde yetkisiz ajan eylemleri yaşanmasının ardından henüz yayımlanmamış bazı modellerinin eğitimini geçici olarak durdurduğunu bildirdi. Habere göre OpenAI da modellerinin Hugging Face altyapısına sızmasının ardından bazı eğitim çalışmalarına ara vermişti. 34

Bu tür olaylar, daha otonom sistemlerde modelin harekete geçme kapasitesi ile laboratuvarın bu eylemleri test etme, denetleme ve sınırlandırma kabiliyeti arasında bir açık doğurabileceğini gösteriyor. Amodei’nin temel tezi şu: Sistemler güvenlik çalışması tamamlanmadan çok daha yetenekli hâle geliyorsa, yalnızca güvenliğe daha fazla kaynak ayırmak bu açığı kapatmaya yetmeyebilir. 1925

“Sınırı tempolu ilerletmek” ne demek?

Bu yaklaşım, eğitim çalışmalarına veya teknik ilerlemeye topyekûn yasak getirilmesi anlamına gelmiyor. Amaç, hizalama çalışmaları, güvenlik önlemleri ve güvenilir dış doğrulama için yeterli zaman yaratacak kadar yetenek artış hızını azaltmak. Amodei’ye göre ilerleme yine hızlı olacak; kritik mesele kazanılan zamanı iyi kullanmak. 2529

Öneri üç ayaktan oluşuyor:

1. Şirket içine yerleşik üçüncü taraf değerlendiriciler: Sınır yapay zekâ laboratuvarları, bağımsız değerlendirme ekiplerine çalışanlara benzer, sürekli erişim verecek. Bu ekipler güvenlik taahhütlerine uyulup uyulmadığını kontrol edecek, olayları raporlayacak; hem tamamlanmış modellerde hem de eğitim süreçlerinde hizalamayı değerlendirecek. Anthropic, bu ilk adımı kendi başına uygulayacağını söylüyor. 2537
2. Demokratik ülkeler arasında koordinasyon: Sınır yapay zekâ şirketlerinin, ortak güvenlik standartları ve denetimsiz yetenek ilerlemesine sınırlar belirlemek üzere birlikte hareket etmesi öneriliyor. 37
3. Uluslararası koordinasyon: Hükümetlerin, otoriter yönetimler dâhil diğer ülkelerle gelişmiş yapay zekânın risklerini yönetmeye yönelik daha geniş düzenlemeler geliştirmesi hedefleniyor. 37

Bu maddelerden yalnızca ilki şu aşamada somut bir şirket taahhüdü. Diğer ikisi, rakip şirketlerin ve hükümetlerin iş birliği yapmasına bağlı öneriler niteliğinde.

Sam Altman ve Elon Musk ne dedi?

OpenAI CEO’su Sam Altman, Amodei’nin temel yönelimine açık destek verdi. Altman, sınır yapay zekâda temponun ayarlanması gerektiğine katıldığını; çalışanlara benzer erişime sahip bağımsız değerlendiricilerin “harika bir fikir” olduğunu ve OpenAI’ın da aynı uygulamayı hayata geçireceğini yazdı. 11

Elon Musk’ın yanıtı ise daha kısaydı: “Dario haklı.” 10

Ancak bu açıklamalar imzalanmış bir sektör mutabakatı anlamına gelmiyor. Şimdilik, daha güçlü denetim ve daha ölçülü yetenek gelişimi fikrine yüksek profilli destek olarak görülmeli; ortak bir piyasaya sürme takvimi ya da bağlayıcı limitler üzerinde anlaşmaya varıldığına dair kanıt değil.

Ortak bir güvenlik paktı neden zor?

Tek bir laboratuvar kendi modelini ertelemeyi veya ek testler uygulamayı seçebilir. Buna karşılık, doğrudan rakip şirketlerin ürün çıkışlarını yavaşlatmak ya da üretimi sınırlamak üzere birlikte anlaşması farklı bir hukuki sorun yaratır.

Haberlere göre yapay zekâ laboratuvarları arasındaki kapsamlı koordinasyon, ABD’de antitröst incelemesine takılabilir. Wired’ın görüştüğü hukuk uzmanları, koordineli bir duraklamanın rakipler arasında üretimi kısıtlama anlaşması olarak değerlendirilip Sherman Yasası’nı gündeme getirebileceğini belirtti. 44

Buradaki yönetim sorunu tam da bu: Temponun etkili biçimde düşürülmesi için gerekli olabilecek koordinasyon, dar kapsamlı bir kamu süreci, hukuki rehberlik veya resmî izin gerektirebilir. Şu anda ne sektör çapında yürürlükte bir yavaşlama anlaşması ne de buna ilişkin teyit edilmiş bir hukuki güvenli liman bulunuyor. 4445

Kaygı neden tek bir şirketle sınırlı değil?

Amodei’nin planı, sektördeki iç baskının büyüdüğü bir dönemde geldi. Temmuzda önde gelen yapay zekâ laboratuvarlarından 1.200’ü aşkın çalışan, gerekmesi hâlinde sınır yapay zekâ gelişimini bilinçli biçimde yavaşlatacak araçların geliştirilmesi için ABD hükümetine çağrı yapan bir bildiriyi imzaladı. İmzacılar arasında Amodei, OpenAI baş bilim insanı Jakub Pachocki, Meta baş bilim insanı Shengjia Zhao ve Google DeepMind güvenlik lideri Anca Dragan da vardı. 48

Bu çalışan girişiminin dikkat çekici yönü, hemen ve kalıcı bir duraklama talep etmemesi. Talep edilen şey, bir kriz anında dikkatli koordinasyon imkânsızlaşmadan önce devreye sokulabilecek teknik ve yönetişim kapasitesi; başka bir deyişle bir “fren pedalı”.

Asıl sınav: Taahhütleri doğrulayabilen denetim

Amodei’nin planındaki en uygulanabilir unsur, şirket içine yerleşik değerlendirici modeli. Eğitim çalışmaları, olay kayıtları ve kurum içi değerlendirmeler özel kaldığında, gönüllü güvenlik vaatlerini dışarıdan ölçmek zordur. Sürekli bağımsız erişim; açıklanan korumaların gerçekten uygulanıp uygulanmadığını, olayların bildirilip bildirilmediğini ve risk değerlendirmelerinin bütün eğitim hattını kapsayıp kapsamadığını sınamayı kolaylaştırabilir. 2532

Yine de önemli sorular yanıtsız: Kim gerçekten bağımsız sayılacak? Değerlendiriciler hangi bilgileri kamuoyuyla paylaşabilecek? Kabul edilemez risk tespit edildiğinde ne olacak? Sınırlar ötesinde bir yavaşlamayı hangi makam uygulayabilecek?

Dolayısıyla bugünkü gelişmenin önemi, tamamlanmış bir yapay zekâ güvenlik paktından çok tartışmanın yön değiştirmesinde yatıyor. Anthropic, OpenAI ve xAI liderleri, sınır yapay zekâdaki ilerlemenin tempolu yürütülmesi gerektiği fikrine kamuoyu önünde destek verdi. Bu ortak kaygıyı uygulanabilir, hukuken sağlam ve uluslararası düzeyde güvenilir kurallara dönüştürmek ise çok daha zor olan bir sonraki aşama. 10113744