AnswersPublished22 sources
Yapay zekâ yok oluş tartışmasında asıl mesele: Uyarı mı, kanıt mı?
Anthropic’ten Evan Hubinger’ın önümüzdeki on yıl için yüzde 10’un üzerinde yok oluş riski tahmini, ölçülmüş bir bilimsel olasılık değil; derin belirsizlik altındaki kişisel bir değerlendirme. Jacob Coxon ve Bilal Chughtai, yapay zekâ yarışının kontrolden çıkabilecek sistemlere yol açabileceğini savunurken; eleştirme...
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Anthropic’ten Evan Hubinger’ın önümüzdeki on yıl için yüzde 10’un üzerinde yok oluş riski tahmini, ölçülmüş bir bilimsel olasılık değil; derin belirsizlik altındaki kişisel bir değerlendirme.
- Jacob Coxon ve Bilal Chughtai, yapay zekâ yarışının kontrolden çıkabilecek sistemlere yol açabileceğini savunurken; eleştirmenler dijital becerinin tek başına fiziksel dünyada yıkıcı güç anlamına gelmediğini belirtiyor.
- Ortaya çıkan daha pratik yaklaşım; mevcut kötüye kullanım risklerini azaltmak, bağımsız denetim yapmak, tehlikeli kabiliyetleri ölçmek ve şirketler arasında güvenlik koordinasyonu kurmak.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Yapay zekânın insanlığın sonunu getirip getirmeyeceği tartışması, yalnızca “tehlikeli mi, değil mi?” sorusundan ibaret değil. Asıl ayrışma; kabiliyetlerin ne kadar hızlı ilerleyeceği, bir modelin geri döndürülemez zarara yol açabilmesi için hangi eşiklerin aşılması gerektiği ve daha sert kısıtlamalar getirilmeden önce ne düzeyde kanıt aranması gerektiği üzerinde yaşanıyor.
Önde gelen yapay zekâ laboratuvarlarında çalışmış araştırmacıların son dönemdeki açıklamaları tartışmayı daha görünür hâle getirdi. Buna karşılık, yok oluş söylemine şüpheyle yaklaşan isimlerin önemli bir bölümü de test, izleme ve güvenlik uygulamalarına karşı değil. Politika açısından giderek öne çıkan soru şu: Sistemler güçlendikçe geliştiriciler, onları güvenli biçimde kontrol edip devreye alabileceklerini gösterebilecek mi?
Laboratuvar içinden gelen uyarılar
Anthropic’te araştırmacı olarak çalışan, daha önce OpenAI’da da görev yaptığını söyleyen Jacob Coxon, Eylül 2026’da istifa etti. Coxon, Anthropic ile OpenAI’ın sorumlu geliştirmeden çok rekabete öncelik verdiğini ve “kendi kendini geliştiren süper zekâ”ya doğru yarıştığını savundu. 49
Bu uyarıya Anthropic’in uyum bilimi lideri Evan Hubinger da destek verdi. Hubinger, yapay zekânın gelecek on yıl içinde tüm insanları öldürme olasılığını kişisel olarak yüzde 10’un üzerinde gördüğünü; buna karşın Anthropic’in süper zekânın insan amaçlarıyla uyumunu çözmek için henüz bir planı olmadığını söyledi. 16 Bu oran, bilimsel uzlaşının veya deneysel olarak hesaplanmış bir yok oluş olasılığının ifadesi değil; Hubinger’ın kişisel öngörüsü olarak değerlendirilmelidir.
12
Eski Google DeepMind araştırmacısı Bilal Chughtai de yapay zekânın herkesi öldürme potansiyeli taşıdığına inandığını ve bu sonucu önlemek için zamanın tükeniyor olabileceğini belirtti. 2
Bu görüşler, bugünün sohbet botlarının aniden tehlikeli hâle geleceği iddiası değil. Kaygı daha çok koşullu bir senaryoya dayanıyor: Gelecekteki sistemler yapay zekâ araştırmalarını ciddi ölçüde hızlandırabilir, daha özerk hareket edebilir, etkili insan denetiminden kaçabilir ya da siber güvenlik, biyoloji ve kurumlar üzerindeki etkilerini güvenlik yöntemlerinden daha hızlı artırabilir. Böyle bir zincirin ne kadar olası olduğu ve ne kadar yakında gerçekleşebileceği, tartışmanın merkezinde yer alıyor.
“Yüzde 10” neden yerleşik bir tahmin değil?
Hubinger’ın değerlendirmesi, kıdemli bir uyum araştırmacısından geldiği için dikkat çekici. Ancak doğru çerçeve önemli: Bu, geçmiş verilerle doğrulanmış ya da insanlığın yok oluş riskini hesaplayabilen bir modelin ürettiği olasılık değil; yoğun belirsizlik altında yapılan bireysel bir uzman muhakemesi. 12
Bu öngörünün gerçekleşmesi, birbiriyle bağlantılı fakat ayrı ayrı tartışılabilecek varsayımlara dayanıyor:
- Yapay zekâ sistemlerinin bugünkü modellerden çok daha yetkin hâle gelmesi,
- Bu yetkinliğin kalıcı stratejik özerkliğe veya gerçek dünyada zararlı güce dönüşmesi,
- Teknik kontrollerin, operatörlerin, kurumların ve karşı önlemlerin başarısız olması,
- Güvenlik ve uyum çalışmalarının, kabiliyet artışının gerisinde kalması.
Bu halkaların her biri tartışmalıdır. Bu durum kaygıyı önemsiz kılmaz; ancak manşetlerdeki olasılık oranının kanıtlanmış bir öngörü gibi okunmaması gerektiğini gösterir.
Şüphecilerin itirazı: Dijital beceri, fiziksel güç değildir
Şüpheci yaklaşım, yazılım ve dil alanındaki güçlü performans ile fiziksel dünyada yok oluş ölçeğinde zarar verme kapasitesi arasında doğrudan bağ kurulmasına karşı çıkıyor. Biyoloji buna sık verilen örneklerden biri.
Eric Xing, bir büyük dil modelinin varsayımsal bir virüs genomu üretmesi ile gerçek, işlevsel bir virüs ortaya çıkarmanın temelden farklı süreçler olduğunu vurguladı. Malzemeye erişim, üretim, biyolojik uygulanabilirlik, laboratuvar çalışması ve test aşamaları birbirinden ayrı engeller oluşturuyor. 46
Başka bir ifadeyle, bir model bilgi veya tasarım sunabilir; fakat bunun gerçek hayatta zarara dönüşmesi uzman tesisler, örtük laboratuvar bilgisi, tedarik zincirleri, tekrar eden deneyler ve kontrollü materyallere erişim gerektirebilir. Bu kısıtlar biyogüvenlik riskinin sıfır olduğu anlamına gelmiyor. Fakat yalnızca dijital kabiliyetin derhâl belirleyici fiziksel güç yaratacağı varsayımını sorgulatıyor.
Nvidia CEO’su Jensen Huang, yapay zekânın insanlığı bitireceği fikrini “tamamen saçmalık” diye niteleyen en açık sözlü eleştirmenlerden biri oldu. 33 Mark Cuban ise insanlığın karşı karşıya olduğu daha büyük tehlikenin, yapay zekâ ajan sürülerinden ziyade insanların sosyal medyada yayılan alarmcı iddialara vereceği tepki olabileceğini savundu.
43
Bu nedenle şüpheci tutum, sınırdaki yapay zekâ sistemleri için hiçbir güvenlik önlemi gerekmiyor demek zorunda değil. Esas iddia, yakın vadeli yok oluş gibi olağanüstü iddiaların; mevcut model performansından ve geleceğe dair spekülatif senaryolardan daha güçlü kanıt gerektirdiği yönünde.
Ortak zemine en yakın yaklaşım: Kabiliyetleri yavaşlat, güvenliği doğrula
Daha uygulanabilir bir çizgi, yok oluşu ne kesin kabul eden ne de bütünüyle reddeden yöneticilerden geliyor. Anthropic CEO’su Dario Amodei, güvenlik çalışmaları için zaman kazanmak amacıyla model kabiliyetlerindeki ilerleme hızının düşürülmesi çağrısı yaptı. Önerisinde, çalışanlara benzer erişim yetkisine sahip bağımsız değerlendiriciler ve öncü yapay zekâ şirketleri arasında koordinasyon bulunuyor. 18
Reuters’ın haberine göre OpenAI CEO’su Sam Altman da koordineli bir yavaşlatma arayan liderler arasında yer alıyor. Ancak sektör, piyasa temelli korumalara ne ölçüde güvenilmesi gerektiği konusunda bölünmüş durumda. 19 Altman’ın önerilen yaklaşım kapsamında dış değerlendiricileri desteklediği de bildirildi.
20
Bu yaklaşım, tartışmayı soyut felaket tahminlerinden doğrulanabilir uygulamalara kaydırıyor:
- Bağımsız değerlendirme: Yetkin dış uzmanların, şirket açıklamalarına dayanmak yerine güvenlik iddialarını inceleyebilecek anlamlı erişime sahip olması.
18
- Kabiliyete dayalı eşikler: Siber operasyonlar veya özerk ajan davranışı gibi tehlikeli alanlarda kayda değer ilerleme gösteren sistemlerde incelemeyi artırmak ya da kullanımı kısıtlamak.
- Laboratuvarlar arası koordinasyon: Şirketlerin rakiplerinin gerisinde kalmamak için güvenlik paylarını azaltma teşvikini düşürmek.
- Uluslararası iş birliği: Hükümetler ve büyük yapay zekâ geliştiricileri arasında standartları uyumlaştırmak; rekabet baskısının yeterli güvenlik önlemi olmadan yayına geçmeyi teşvik etmesini azaltmak.
27
- Güvenliği kabiliyet artışıyla birlikte ilerletmek: Daha güçlü sistemler için kontrol, izleme ve müdahale kapasitesinin kanıtlanmasını temel gereklilik saymak.
Uzun vadeli korkular, bugünkü zararları gölgeler mi?
Tartışmadaki ayrı bir eleştiri, önceliklerle ilgili. Felaket riski araştırmayı ve acil durum hazırlığını hak etse bile, yalnızca belirsiz yok oluş senaryolarına odaklanmak; gelişmiş yapay zekânın hâlihazırda bağlantılı olduğu zararların geri plana düşmesine yol açabilir.
Daha acil gündemde yapay zekâ destekli siber kötüye kullanım, dolandırıcılık, gözetim, dezenformasyon, ayrımcı otomatik kararlar, çalışma hayatındaki dönüşüm ve gücün belirli şirketlerde yoğunlaşması var. Amodei de daha yavaş ilerleme çağrısını savunurken silah geliştirme, siber saldırılar ve gözetim gibi kötüye kullanım risklerine dikkat çekti. 29
Bu, mevcut zararlarla uzun vadeli felaket riskleri arasında zorunlu bir tercih olduğu anlamına gelmiyor. Erişim kontrolleri, daha iyi değerlendirmeler, dikkatli devreye alma politikaları, bağımsız inceleme, olay bildirimleri ve açık hesap verebilirlik; hem güncel kötüye kullanımı azaltabilir hem de daha yetkin sistemlere karşı hazırlığı güçlendirebilir.
Tartışmanın pratik sonucu ne?
Eldeki bilgilerden çıkarılabilecek en güçlü sonuç, yok oluşun kanıtlandığı ya da felaket senaryosunun tüm ayrıntıları gösterilmediği için kaygıların reddedilebileceği değil. Daha kullanışlı standart şu: Giderek güçlenen sistemler için güvenlik iddiaları test edilebilir, bağımsız biçimde incelenebilir ve olası zararın ölçeğiyle orantılı olmalıdır.
Coxon, Hubinger ve Chughtai belirsizlik altında ihtiyatlı davranılması gerektiğini savunuyor. Huang ve Xing gibi şüpheciler ise mevcut kanıtların yakın vadeli kıyamet sonuçlarını haklı çıkarıp çıkarmadığını sorguluyor. Amodei ve Altman’ın işaret ettiği yol, önce bütün felsefi anlaşmazlıkları çözmeyi gerektirmiyor: Sınırdaki sistemlerin hızını ayarlamak, tehlikeli kabiliyetleri ölçmek, güvenilir dış denetime kapı açmak ve rekabet baskısı doğrulanmamış güvenlik iddialarını varsayılan uygulama hâline getirmeden önce koordinasyon kurmak. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Yapay zekâ yok oluş tartışmasında asıl mesele: Uyarı mı, kanıt mı?"?
Anthropic’ten Evan Hubinger’ın önümüzdeki on yıl için yüzde 10’un üzerinde yok oluş riski tahmini, ölçülmüş bir bilimsel olasılık değil; derin belirsizlik altındaki kişisel bir değerlendirme.
What are the key points to validate first?
Anthropic’ten Evan Hubinger’ın önümüzdeki on yıl için yüzde 10’un üzerinde yok oluş riski tahmini, ölçülmüş bir bilimsel olasılık değil; derin belirsizlik altındaki kişisel bir değerlendirme. Jacob Coxon ve Bilal Chughtai, yapay zekâ yarışının kontrolden çıkabilecek sistemlere yol açabileceğini savunurken; eleştirmenler dijital becerinin tek başına fiziksel dünyada yıkıcı güç anlamına gelmediğini belirtiyor.
What should I do next in practice?
Ortaya çıkan daha pratik yaklaşım; mevcut kötüye kullanım risklerini azaltmak, bağımsız denetim yapmak, tehlikeli kabiliyetleri ölçmek ve şirketler arasında güvenlik koordinasyonu kurmak.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns