AnswersPublished17 sources
Jacob Coxon Anthropic’ten Neden Ayrıldı? Yapay Zekâ Uyarısının Anlamı
Jacob Coxon, önde gelen yapay zekâ laboratuvarları arasındaki rekabetin, öz geliştiren sistemlere yönelik yarışı güvenlik ve kontrol çalışmalarından daha hızlı ilerlettiğine inandığı için Anthropic’ten ayrıldığını söy... Anthropic’ten Evan Hubinger, mevcut modellerin riskinin düşük olduğunu belirtirken, yapay zekânı...
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Jacob Coxon, önde gelen yapay zekâ laboratuvarları arasındaki rekabetin, öz geliştiren sistemlere yönelik yarışı güvenlik ve kontrol çalışmalarından daha hızlı ilerlettiğine inandığı için Anthropic’ten ayrıldığını söy...
- Anthropic’ten Evan Hubinger, mevcut modellerin riskinin düşük olduğunu belirtirken, yapay zekânın on yıl içinde tüm insanları öldürme ihtimalini kişisel olarak %10’un üzerinde gördüğünü söyledi.
- Tartışma artık bir kamu politikası meselesi: Dario Amodei bağımsız denetimle birlikte en ileri modellerde temkinli bir hız çağrısı yaparken, eleştirmenler katı kuralların en büyük yapay zekâ şirketlerini kayırabileceğ...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Jacob Coxon’ın Anthropic’ten istifası, en ileri yapay zekâ sistemlerindeki rekabetin tehlikeli bir yöne gittiği iddiasına dayanıyor. Coxon, Anthropic ve OpenAI’da ön eğitim araştırmaları üzerinde çalıştığını belirterek, şirketlerin güvenilir denetim yöntemleri oluşmadan daha otonom ve potansiyel olarak kendi kendini geliştirebilen sistemler üretme yarışına girdiğini savundu. Ona göre iki şirket de yeterince sorumlu davranmıyor. 2
3
Coxon’ın temel iddiası: Kapasite artışı kontrolden hızlı ilerliyor
Coxon, X’te yayımladığı paylaşım dizisinde Anthropic ve OpenAI’ı “doğrudan kendi kendini geliştiren süper zekâya doğru yarışmakla ve hayatlarımızla kumar oynamakla” suçladı. Uyarısı, bugünün sohbet botlarının tek başına insanlığın sonunu getirmek üzere olduğu anlamına gelmiyor.
Asıl kaygısı, gelecekteki sistemlerin siber kabiliyetler gibi yüksek etkili alanlarda insanüstü seviyeye çıkabilmesi; insan hedefleriyle güvenilir biçimde uyumlu hâle getirilmeden gerçek kaynaklara veya güce erişebilmesi. 3
5
8
Bu ayrım önemli: Coxon’ın itirazı, yapay zekâ yeteneklerinin hızla yükselmesi ile yönetişim arasındaki farkın açılması üzerine kurulu. Bugünkü modeller sınırlı kalsa bile, güvenlik çalışmaları geriden gelirse ilerideki olası başarısızlığın sonuçları ağır olabilir.
Neden ayrıldığını söyledi?
Coxon, BBC’ye gelişmiş yapay zekâ üzerinde çalışan kişilerin ilerleme hızından “gerçekten korktuğunu” söyledi. Gidişat yavaşlatılmazsa insanlığın yakın gelecekte yok olma ihtimalinin “yüksek” olduğunu savundu. 1
Ona göre anlamlı bir yavaşlama, tek bir şirketin ya da tek bir ülkenin alacağı kararla sağlanamaz. Temkinli yaklaşımın yalnızca başka merkezlerde daha güçlü yapay zekâ geliştirilmesine yol açmaması için Çin’i de kapsayan uluslararası koordinasyon gerekli. 1
Dolayısıyla istifası, Anthropic’te bizzat tanık olduğu belirli bir güvenlik ihlaline dair bir suçlama değil; en ileri model geliştirme yarışını yönlendiren teşviklere yönelik kamusal bir itiraz niteliğinde. Ayrılığına dair haberler de onun temel endişesini, şirketlerin kontrol edemeyebileceği sistemleri geliştirme yarışı olarak aktardı. 2
Diğer yapay zekâ güvenliği araştırmacıları ne diyor?
Coxon’ın uyarısına Anthropic’te uyum araştırmacısı olan Evan Hubinger destek verdi. Hubinger, mevcut modellerden kaynaklanan riskin düşük olduğunu; ancak yapay zekânın önümüzdeki on yılda tüm insanları öldürme ihtimalini kişisel olarak %10’un üzerinde gördüğünü belirtti. 13
Bu oran dikkatle okunmalı. Bu, düşük olasılıklı fakat çok ağır sonuçlu bir gelecek senaryosuna dair öznel bir değerlendirmedir; ampirik olarak kanıtlanmış bir öngörü değildir. Coxon’ın istifası etrafındaki haberler, zaman çizelgesi, olasılıklar ve gerekli önlemler konusunda keskin görüş ayrılıkları olduğunu gösteriyor. İnsanlığın yok oluşunun yakın olduğuna dair bilimsel bir fikir birliği ise ortaya koymuyor. 13
Yakın vadeli endişe: Siber kötüye kullanım ve hızlanan yetenekler
Bu tartışmadaki daha somut riskler, yapay zekânın bir anda insanlığa saldırdığı bilimkurgu senaryolarından çok; siber kötüye kullanım, tehlikeli deneyler ve giderek daha yetkin hâle gelen yapay zekâ ajanlarıyla ilgili.
Haberlerde, gelişmiş modellerin siber saldırılara ve yüksek etkili diğer kötüye kullanımlara yardım edebileceği kaygıları dile getirildi. OpenAI ajanları ile Hugging Face’i ilgilendiren iddia edilen bir olaydan da söz edildi. Ancak mevcut haber içeriği, bu olayın koşullarını, yetkilendirilip yetkilendirilmediğini veya kapsamını bağımsız biçimde doğrulayacak yeterli birincil kaynak ayrıntısı sunmuyor. 2
63
Pratik sonuç şu: Gelecekteki süper zekâ iddiaları, bugünden sınanabilir soruları gölgelememeli. Modeller neleri yapabiliyor? Yayınlanmadan önce nasıl test ediliyorlar? Kötüye kullanım tespit edilebiliyor mu? Laboratuvarların güvenlik iddialarını kim bağımsız biçimde doğrulayabiliyor?
Amodei’nin önerisi: Yapay zekâyı durdurmak değil, sınırı kontrollü ilerletmek
Coxon’ın uyarısından kısa süre sonra Anthropic CEO’su Dario Amodei, We Must Pace the Frontier başlıklı yazısında en ileri modellerin yeteneklerindeki artışın yavaşlatılması çağrısı yaptı. Bu, yapay zekâ geliştirmeyi tümüyle durdurma önerisi değildi. Amaç, hızla ilerleyen kabiliyetlere karşı risk önleme çalışmalarının yetişebilmesi için zaman kazanmak. 1
Önerilen çerçeve şunları içeriyor:
- En ileri yapay zekâ modellerinin bağımsız izlenmesi ve değerlendirilmesi;
- Sektör genelinde ve demokratik ülkeler arasında ortak güvenlik standartları;
- Çin’le de temas içeren, yapay zekâ yönetişimine ilişkin uluslararası koordinasyon.
1
OpenAI CEO’su Sam Altman yaklaşımın genel yönünü desteklediğini ve çalışan düzeyinde erişime sahip bağımsız değerlendiricilerin iyi bir fikir olduğunu söyledi. Elon Musk da Amodei’nin çağrısını destekleyerek “Dario haklı” diye yazdı. 1
Eleştirmenler neden rekabet politikası riski görüyor?
En büyük yapay zekâ laboratuvarlarının güvenlik önerileri destek kadar şüphe de doğurdu. Hugging Face CEO’su Clément Delangue’un da aralarında bulunduğu eleştirmenler, ileri modeller için getirilecek katı kısıtlamaların uyum maliyetini karşılayabilecek sermayeye sahip şirketleri avantajlı konuma getirebileceğini savundu. 1
3
Bu eleştiri, Coxon’ın kaygılarının samimiyetsiz olduğunu kanıtlamaz. Ayrı bir soruyu gündeme getirir: Güvenlik düzenlemeleri hem gerçek riskleri azaltıp hem de gücü az sayıda yerleşik laboratuvarda toplayabilir mi?
Tartışmanın merkezindeki gerilim bu. İnandırıcı bir yönetişim sistemi, en güçlü sistemler üzerindeki denetimi artırırken güvenlik yükümlülüklerini yalnızca dar bir şirket grubunu koruyan yapay bir rekabet bariyerine dönüştürmemeli.
Sonuç
Coxon, lider yapay zekâ şirketleri arasındaki yarışın kendisini tehlike olarak gördüğü için ayrıldı: Yetenekleri artırma teşviki, kontrol, test ve uluslararası koordinasyon için gereken zamandan ağır basabilir. 2
3
En çarpıcı iddiaları ise tartışmalı olmaya devam ediyor. Bunlar, yapay zekâ alanındaki bazı kişilerin paylaştığı ciddi bir kaygıyı yansıtıyor; insanlığın yok oluşunun yakın olduğunun kanıtı değil. Acil politika sorunu, giderek güçlenen sistemler için bağımsız şekilde doğrulanabilir korumalar oluşturmak ve bu korumaların sistemi geliştiren şirketlerin piyasa gücünü pekiştirmemesini sağlamak. 1
13
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Jacob Coxon Anthropic’ten Neden Ayrıldı? Yapay Zekâ Uyarısının Anlamı"?
Jacob Coxon, önde gelen yapay zekâ laboratuvarları arasındaki rekabetin, öz geliştiren sistemlere yönelik yarışı güvenlik ve kontrol çalışmalarından daha hızlı ilerlettiğine inandığı için Anthropic’ten ayrıldığını söy...
What are the key points to validate first?
Jacob Coxon, önde gelen yapay zekâ laboratuvarları arasındaki rekabetin, öz geliştiren sistemlere yönelik yarışı güvenlik ve kontrol çalışmalarından daha hızlı ilerlettiğine inandığı için Anthropic’ten ayrıldığını söy... Anthropic’ten Evan Hubinger, mevcut modellerin riskinin düşük olduğunu belirtirken, yapay zekânın on yıl içinde tüm insanları öldürme ihtimalini kişisel olarak %10’un üzerinde gördüğünü söyledi.
What should I do next in practice?
Tartışma artık bir kamu politikası meselesi: Dario Amodei bağımsız denetimle birlikte en ileri modellerde temkinli bir hız çağrısı yaparken, eleştirmenler katı kuralların en büyük yapay zekâ şirketlerini kayırabileceğ...