Yapay zekâ liderlerinden yavaşlama çağrısı: Amodei, Altman ve Musk güvenlikte buluştu

Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve xAI kurucusu Elon Musk’un aynı noktada buluşması, normalde birbirleriyle rekabet eden yapay zekâ şirketleri açısından sıra dışı bir gelişmeydi. Ortak payda, en gelişmiş — yani frontier — modellerin yeteneklerinin artırılma hızının güvenlik önlemlerine zaman tanıyacak biçimde düşürülmesiydi. Buna karşılık, interneti ele geçirmiş ajan sürülerinin bulunduğu, OpenAI’ın halka arzını resmen ertelediği ya da bağlayıcı bir uluslararası ara verme anlaşmasının yapıldığı sonucuna varılamaz. 16

Amodei’nin uyarısı neydi?

Amodei, gelişim hızının düşürülmemesi hâlinde yapay zekânın 6 ila 12 ay içinde, internetin büyük bölümünü ele geçirebilecek bir ajan sürüsünü yönetme kapasitesine ulaşabileceğini söyledi. Bu, gerçekleşmiş bir saldırıya dair açıklama değil; hızla artan model kabiliyetleri karşısında yaptığı ileriye dönük bir risk değerlendirmesiydi. 1

Amodei’nin önerisi, yapay zekâ araştırmalarını tamamen durdurmak değildi. Yavaşlamayla kazanılacak sürenin güvenlik için kullanılması gerektiğini savundu: bağımsız dış denetçiler, şirketler arasında ortak güvenlik uygulamaları ve uluslararası eşgüdüm bunların başında geliyordu. Önerilen modelde dış değerlendiricilerin şirketlerin güvenlik sistemlerine kalıcı ve çalışan düzeyinde erişimle uyumu denetlemesi öngörülüyor. 68

Altman ve Musk ne dedi?

Altman, frontier modellerde ilerlemenin “temposunu ayarlama” fikrini ve ilave güvenlik tedbirlerini destekledi. Ayrıca bağımsız değerlendiricilerin çalışan benzeri erişim yetkisine sahip olması önerisini benimseyeceğini belirtti. 13

OpenAI’ın beklenen halka arzının (IPO) güvenliğe odaklanmak için ertelenebileceğine ilişkin haberler ise bunu kesinleşmiş kurumsal karar olarak değil, bir olasılık ya da öneri olarak aktardı. 7

Musk da xAI’ın rekabetçi konumuna rağmen Amodei’nin çağrısına destek verdi. 6

Claude’un kötüye kullanımı iddiaları tartışmayı neden büyüttü?

Bu çağrı, Anthropic’in Claude modellerinin kötüye kullanıldığı bazı girişimleri engellediğini duyurmasının hemen ardından geldi. Şirket; biyolojik silah geliştirmeye katkı sunabilecek araştırma girişimleri, şüpheli siber casusluk faaliyetleri ve başka kötü niyetli kullanımları tespit edip engellediğini bildirdi. Anthropic ayrıca Çinli rakiplerinin Claude’un yeteneklerini elde etmeye veya taklit etmeye yönelik sızma girişimlerinde bulunduğunu iddia etti. Bunlar şirketin açıklamalarıdır; bağımsız yargı kararıyla kesinleşmiş bulgular olarak sunulmadı. 17

Trump’ın yanıtı: Öncelik Çin’e karşı yarış

ABD Başkanı Donald Trump, ABD’nin yapay zekâ çalışmalarını ciddi biçimde yavaşlatması fikrini reddetti. Konuyu esas olarak Çin’le stratejik rekabet çerçevesinde ele alan Trump, ABD’nin Çin’in önünde olduğunu söyleyerek, “Yapay zekâyı kim kazanırsa, kazanır” ifadesini kullandı. 10

Bu yaklaşım, güvenlik gerekçesiyle tek taraflı bir yavaşlamanın ABD’nin teknoloji ve ulusal güvenlik rekabetindeki konumunu zayıflatabileceğini düşünen çevrelerin görüşüyle örtüşüyor.

Tartışmada iki ana çizgi var

• Güvenlik odaklı çizgi: Senatör Bernie Sanders, gönüllü bir yavaşlamanın yeterli olmadığını savundu. Sanders, Trump ile Çin Devlet Başkanı Şi Cinping’in ileri yapay zekâ çalışmalarına ara verilmesini ve insanlardan daha yetkin, bağımsız hareket edebilen “yapay süper zekâ”nın yasaklanmasını hedefleyen bir anlaşmayı müzakere etmesini istedi.
• Hızlanma ve rekabet odaklı çizgi: Bu görüşü savunanlar, ağır düzenlemelerin veya yalnızca ABD’nin uygulayacağı bir yavaşlamanın Çin karşısında avantaj kaybı yaratacağından endişe ediyor. Trump’ın açıklamaları bu çizgiyle uyumlu. 10

Dolayısıyla asıl mesele, şirketlerin gönüllü taahhütlerinin yeterli olup olmayacağı, ABD Kongresi’nin frontier yapay zekâ için yaptırımlı kurallar getirip getirmemesi ve ani bir yavaşlamanın piyasa ile rekabet üzerindeki maliyetleri. Kaynaklarda Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer veya belirli yatırımcıların bu başlıktaki tutumlarını doğrulayacak yeterli kanıt bulunmuyor. Aynı şekilde, Trump-Şi görüşmesi için Sanders’ın önerisinin ötesinde üzerinde anlaşılmış bir yapay zekâ gündemi de doğrulanmış değil.