AnswersPublished13 sources
Bilal Chughtai’ın yapay zekâ uyarısı: “Zamanımız tükeniyor olabilir”
Bilal Chughtai, Google DeepMind’de AGI güvenliği ve hizalama üzerine çalıştığını belirterek yapay zekânın “hepimizi öldürme potansiyeli” bulunduğunu ve bunu önlemek için sürenin daralıyor olabileceğini söyledi. Chughtai, şirketler arasındaki “çılgın yarışı” durduracak koordinasyon ve toplumun yönetebileceği hızda ya...
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Bilal Chughtai, Google DeepMind’de AGI güvenliği ve hizalama üzerine çalıştığını belirterek yapay zekânın “hepimizi öldürme potansiyeli” bulunduğunu ve bunu önlemek için sürenin daralıyor olabileceğini söyledi.
- Chughtai, şirketler arasındaki “çılgın yarışı” durduracak koordinasyon ve toplumun yönetebileceği hızda yapay zekâ geliştirilmesi çağrısı yaptı.
- Tartışma, en gelişmiş modeller için test, bağımsız değerlendirme ve devlet gözetimi isteyenlerle; yavaşlamanın ABD’nin Çin karşısındaki rekabet gücünü zayıflatacağını düşünenler arasında sürüyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai’ın açıklaması, yapay zekânın insanlığı yok etmesinin kaçınılmaz olduğunu ileri süren bir tahmin değil; varoluşsal risk konusunda sert bir uyarı. Google DeepMind’den ayrıldıktan sonra, burada yapay genel zekâ (AGI) güvenliği ve hizalama araştırmalarında çalıştığını söyleyen Chughtai, yapay zekânın “hepimizi öldürme potansiyeli” taşıdığına ve bu sonucu önleme zamanının daralıyor olabileceğine inandığını yazdı.
Chughtai’ın asıl kaygısı ne?
Chughtai’ın endişesi, yapay zekâ sistemlerinin yeteneklerinin onları güvenilir, denetlenebilir ve insan amaçlarıyla uyumlu hâle getirme kapasitemizden daha hızlı ilerlemesi. Buradaki “hizalama”, bir sistemin hedef ve davranışlarının insan niyetleri ile sınırlar içinde kalmasını sağlama problemine verilen ad.
Ona göre sorun, teknolojinin varsayılan yönü: Şirketlerin yeterli güvenlik önlemleri, hizalama araştırması ve kamusal denetim oluşmadan daha güçlü sistemler geliştirmek için rekabet etmesi.
Önerdiği çözüm, tek bir şirketin frene basması değil, ortak hareket edilmesi. Chughtai, şirketler arasındaki “çılgın yarışın” önlenmesi gerektiğini; yapay zekâ geliştirme hızının, ortaya çıkan risklerin ağır zarar yaşanmadan ele alınabileceği bir toplumsal kapasiteye göre belirlenmesini savundu.
Reuters’ın haberine göre Google, yorum talebine mesai saatleri dışında hemen yanıt vermedi.
Neden bu kadar dikkat çekti?
Chughtai’ın çıkışı, ileri yapay zekâ alanında çalışan araştırmacı ve yöneticilerden gelen benzer sert uyarıların ardından geldi.
Eski Anthropic araştırmacısı Jacob Coxon, önde gelen laboratuvarların kendi kendini geliştirebilen süperzekâya sorumsuzca yöneldiğine inandığı için istifa ettiğini söyledi. Coxon’a göre bu sistemleri geliştiren kişiler, yapay zekânın on yılın sonuna kadar insanlığı yok edebileceğine gerçekten inanıyor.
Anthropic’te hizalama araştırmacısı Evan Hubinger ise temel kaygıya açıkça katıldı. Hubinger, yapay zekânın gelecek on yıl içinde insanlığın yok oluşuna yol açma ihtimalini kişisel olarak %10’un üzerinde gördüğünü belirtti. Ancak bunun mevcut modeller için değil, gelecekte çok daha yetenekli hâle gelebilecek sistemler için bir endişe olduğunu; bugünkü modellerin riskini düşük değerlendirdiğini de ekledi.
Bu açıklamalar bilimsel bir uzlaşıyı ya da ampirik olarak hesaplanmış bir olasılığı temsil etmiyor; bireysel araştırmacıların değerlendirmeleri. Yine de, sınırdaki modelleri geliştiren bazı kişilerin olası zararı daha güçlü önlemleri gerektirecek kadar ciddi gördüğünü gösteriyor.
“Yapay zekâ sınırını yavaşlatmak” ne anlama geliyor?
Chughtai’ın yaklaşımı, Anthropic CEO’su Dario Amodei’nin en gelişmiş yapay zekâ sistemlerinin gelişim hızını, güvenlik tedbirleri ve dış denetim güçlenene kadar ayarlama çağrısıyla örtüşüyor. Reuters’ın aktardığına göre OpenAI CEO’su Sam Altman ve Elon Musk da sektör çapında koordineli yavaşlama fikrine destek verdi.
Bu, yapay zekânın kalıcı biçimde yasaklanması anlamına gelmek zorunda değil. Anthropic’in Advanced AI Framework adlı önerisi, en yetenekli modelleri geliştiren şirketler için şu tür yükümlülükler öngörüyor:
- sistemlerin felaket boyutundaki riskler açısından test edilmesi;
- bağımsız dış değerlendiricilerden yararlanılması;
- değerlendirmelerin, risklerin ve güvenlik olaylarının düzenli olarak açıklanması;
- geliştiricilerin devlete karşı hesap verebilir olması; gerektiğinde tehlikeli kullanıma açılışların caydırılması veya engellenmesi.
1
Anthropic’in Sorumlu Ölçekleme Politikası da “eğer–o hâlde” mantığına dayanıyor: Bir model belirli tehlikeli yetenekler sergilerse, uygun korumalar kurulana kadar modelin kullanıma açılmaması ya da daha güçlü bir modelin eğitilmemesi gerekiyor. 8
Karşı görüş: Düzenleme rekabette geri düşürür mü?
Bu tartışma yalnızca teknik güvenlik meselesi değil; aynı zamanda jeopolitik bir rekabet tartışması. Yavaşlamaya karşı çıkanlar, katı sınırlamaların rakip devletlere veya daha az ihtiyatlı şirketlere avantaj sağlayabileceğini savunuyor.
ABD Başkanı Donald Trump, yapay zekâ için bazı güvenlik sınırlarının gerekebileceğini kabul etmekle birlikte en karamsar iddiaları küçümsedi ve ABD’nin Çin karşısındaki liderliğini kaybetmesinden endişe ettiğini söyledi.
Dolayısıyla temel gerilim açık: Yapay zekâ sınırını yavaşlatmak, geri döndürülemez risklere karşı zorunlu bir tedbir mi; yoksa ABD’nin stratejik konumunu tehlikeye sokacak bir taviz mi?
“AI doomerism” tartışmasında ne gözden kaçıyor?
“AI doomerism” ifadesi, ileri yapay zekânın insanlığın yok oluşu düzeyinde risk yaratabileceği görüşünü küçümsemek için sıkça kullanılıyor. Ancak etiket, daha somut politika sorusunu gölgeleyebiliyor: Hangi tehlikeli yetenek belirtileri, daha sıkı testleri, dağıtım kısıtlarını veya kamu müdahalesini tetiklemeli?
Chughtai’ın açıklamaları bir felaketin yakın olduğuna dair kanıt sunmuyor. Savı daha dar: Güvenlikte hata yapmanın bedeli geri döndürülemez olabilir ve rekabet baskısı, şirketleri gereken ölçüde ihtiyatlı davranmaya kendiliğinden yöneltmeyebilir. Bu nedenle önerilen yanıt; gerekirse geliştirme hızını düşürmek, değerlendirmeleri güçlendirmek ve hesap verebilirliği netleştirmek üzere koordineli yönetişim kurmak. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bilal Chughtai’ın yapay zekâ uyarısı: “Zamanımız tükeniyor olabilir”"?
Bilal Chughtai, Google DeepMind’de AGI güvenliği ve hizalama üzerine çalıştığını belirterek yapay zekânın “hepimizi öldürme potansiyeli” bulunduğunu ve bunu önlemek için sürenin daralıyor olabileceğini söyledi.
What are the key points to validate first?
Bilal Chughtai, Google DeepMind’de AGI güvenliği ve hizalama üzerine çalıştığını belirterek yapay zekânın “hepimizi öldürme potansiyeli” bulunduğunu ve bunu önlemek için sürenin daralıyor olabileceğini söyledi. Chughtai, şirketler arasındaki “çılgın yarışı” durduracak koordinasyon ve toplumun yönetebileceği hızda yapay zekâ geliştirilmesi çağrısı yaptı.
What should I do next in practice?
Tartışma, en gelişmiş modeller için test, bağımsız değerlendirme ve devlet gözetimi isteyenlerle; yavaşlamanın ABD’nin Çin karşısındaki rekabet gücünü zayıflatacağını düşünenler arasında sürüyor.