Jacob Coxon, Anthropic’ten neden ayrıldı?

Jacob Coxon, Anthropic’ten ayrılma kararını tek tek teknik hatalardan ziyade, önde gelen yapay zekâ laboratuvarlarını daha güçlü sistemler geliştirmeye iten rekabet teşvikleriyle açıkladı. Coxon’a göre şirketler, kontrol yöntemleri henüz bilinmeden giderek daha otonom ve kendini geliştirebilen sistemlere doğru ilerliyor. Hisse hak edişine yaklaşık iki ay kalmışken istifa etmesi de, bu riski maddi kayıptan daha önemli gördüğünü gösterme amacı taşıyordu. 25

Coxon’un temel itirazı neydi?

27 yaşındaki, daha önce OpenAI’de ve ardından Anthropic’te ön eğitim (pretraining) araştırmaları yapan Coxon, 8 Eylül’de yayımladığı X ileti dizisinde iki şirketin de sorumlu davranmadığını savundu. Şirketleri, “kendini geliştiren süper zekâya doğru yarışmakla ve hayatlarımızla kumar oynamakla” suçladı. 38

Coxon’un iddiası, bugünkü sohbet botlarının yakında kendi başına insanlığın sonunu getireceği değildi. Onun vurgusu, sınırdaki en gelişmiş modelleri üreten kişilerin, bu sistemlerin siber saldırı gibi alanlarda insanüstü hale gelebileceğine ve bunun insan denetiminin kaybedilmesine giden yollar açabileceğine gerçekten inandığı yönündeydi. 38

BBC’ye konuşan Coxon, yapay zekâ alanındaki çalışanların ilerleme hızından “gerçekten korktuğunu” söyledi. Gelişimin yavaşlatılmaması halinde yakın gelecekte herkesin ölebileceğine dair “güçlü bir olasılık” gördüğünü belirtti. Ona göre anlamlı bir yavaşlama, tek bir ülkenin teknoloji yarışından geri çekilmesiyle değil, Çin’in de dahil olduğu uluslararası bir eşgüdümle mümkün olabilir. 1

Bu değerlendirmeyi destekleyenler var mı?

Anthropic’te uyum (alignment) araştırmacısı Evan Hubinger, Coxon’un geniş çerçevedeki kaygısına açık destek verdi. Hubinger, mevcut modellerin riskini düşük gördüğünü; ancak yapay zekânın gelecek on yılda tüm insanlığı yok etme ihtimalini %10’un üzerinde tahmin ettiğini söyledi. 13

Geoffrey Hinton da yapay zekânın insan kontrolünü aşması veya yok oluşa yol açması senaryosunun ihmal edilemeyecek bir risk olduğunu savunuyor. Ancak bu oranlar ölçülebilir tahminler değil, uzmanların öznel değerlendirmeleri. Mevcut haberler, araştırmacılar arasında ortak kabul edilmiş bir olasılık hesabı bulunduğunu göstermiyor. 813

Eldeki somut kaygılar: siber kötüye kullanım ve hızlanan kapasite

Bu tartışmadaki doğrudan kanıtlar, insanlığa yönelik otonom bir yapay zekâ saldırısından çok, siber kötüye kullanım ve yetenek artışıyla ilgili. Haberlerde, gelişmiş modellerin biyolojik silah üretme girişimleri, Ukrayna’yla bağlantılı casusluk ve siber operasyonlar kapsamında kullanıldığı ya da test edildiği belirtildi. OpenAI ajanlarının Hugging Face platformunu hacklediği şeklinde aktarılan bir olay da tartışmaya dahil edildi. Bununla birlikte, bu son iddiaların ayrıntıları, yetkilendirme durumu ve açıklama kapsamı hakkında birincil kaynak düzeyinde yeterli bilgi bulunmadığından temkinli olmak gerekiyor. 263

Amodei’nin önerisi yapay zekâyı tamamen durdurmak mı?

Hayır. Anthropic CEO’su Dario Amodei’nin “We Must Pace the Frontier” başlıklı önerisi, yapay zekâ geliştirmeyi tümüyle durdurma çağrısı değildi. Öneri; en ileri modellerde yetenek artışının yavaşlatılması, bağımsız dış denetim ve değerlendirmeler, demokratik ülkeler arasında ortak güvenlik standartları ve zamanla Çin’i de kapsayacak uluslararası düzenlemeler üzerine kurulu. 12

OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk, önerinin genel yönünü kamuoyu önünde destekledi. Musk, “Dario haklı” diye yazdı. 113

Eleştiri: Güvenlik söylemi büyük şirketleri korur mu?

Bu çağrılar tartışmasız değil. Eleştirenler, varoluşsal risk söyleminin, en iyi finanse edilen şirketleri koruyan bir piyasa stratejisine dönüşebileceğini savunuyor. Hugging Face CEO’su Clément Delangue ile Nvidia CEO’su Jensen Huang gibi isimler, ileri model kurallarının Anthropic ve OpenAI’yi korunan bir ikili yapıya dönüştürebileceği uyarısında bulundu. 3

Şüpheciliği artıran unsurlardan biri de zamanlamaydı: Anthropic’in, SpaceX’in rekor halka arz büyüklüğüne ulaşabilecek veya bunu aşabilecek bir halka arza hazırlandığı bildirildi. 4 Anthropic ise sektörde zaten en güçlü güvenlik uygulamalarından bazılarını kullandığını; bağımsız denetim ile ortak standartların yalnızca kendisine avantaj sağlamayacak biçimde tüm sektöre uygulanması gerektiğini savunuyor. 2

Sonuç olarak Coxon, Hubinger, Amodei, Altman ve Musk; yapay zekâ sistemleri güçlendikçe daha sıkı koordinasyon ve güvenlik önlemlerinin gerektiği noktasında kesişiyor. Buna karşılık, insanlığın yok oluşunun yakın olduğuna dair ampirik bir kanıt sunmuyorlar. Riskin büyüklüğü, zaman çizelgesi ve en etkili politika yanıtı tartışmalı olmaya devam ediyor.