AnswersPublished22 sources
Andrew Ng: Yapay zekâ yok oluş korkusu “bilimden çok bilim kurgu”
Andrew Ng, yapay zekânın insanlığın yok olmasına yol açmasının olası olduğu iddiasını “bilimden çok bilim kurgu” olarak niteledi. Ng’ye göre yapay zekâ sistemlerindeki belirsizlik, gelişmenin topluca durdurulmasını gerektiren bir kanıt değil; test, güvenlik önlemleri ve mühendislik çalışmalarıyla yönetilmesi gereken...
YayımlayanGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Andrew Ng, yapay zekânın insanlığın yok olmasına yol açmasının olası olduğu iddiasını “bilimden çok bilim kurgu” olarak niteledi.
- Ng’ye göre yapay zekâ sistemlerindeki belirsizlik, gelişmenin topluca durdurulmasını gerektiren bir kanıt değil; test, güvenlik önlemleri ve mühendislik çalışmalarıyla yönetilmesi gereken bir sorundur.
- Ng, kıyamet senaryoları üzerinden kurulan söylemin teknoloji faydalarından dikkati uzaklaştırabileceğini; reklam etkisi yaratıp düzenleme tartışmalarını şekillendirebileceğini söyledi.
- Önceliği, özellikle siber güvenlik dahil olmak üzere öngörülebilir ve somut zararlara karşı sıkı değerlendirme ve güvenlik kontrolleri kurulması.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng, 17 Eylül’de Bloomberg TV’ye verdiği röportajda, giderek güçlenen yapay zekâ modellerinin insanlığın yok oluşuna yol açabileceği yönündeki uyarılara sert biçimde karşı çıktı. Bu endişeleri “bilimden çok bilim kurgu” diye tanımlayan Ng, yapay zekânın kusursuz biçimde öngörülebilir olmayacağını kabul etti; ancak bunun çözümsüz bir durum değil, yönetilmesi gereken bir mühendislik problemi olduğunu savundu. 10
Ng’ye göre doğru yaklaşım, yapay zekâ geliştirmeyi geniş çaplı biçimde yavaşlatmak değil; sistemleri test ederek, koruyucu sınırlar koyarak ve zaman içinde güvenilirliklerini artırarak somut arıza biçimlerini azaltmak. Hatta genel bir yavaşlamanın, güvenlik alanındaki ilerlemeyi de yavaşlatabileceği uyarısında bulundu. 10
“Kıyamet” söylemine itirazı ne?
Ng, büyük yapay zekâ laboratuvarlarındaki araştırmacı ve yöneticilerden gelen varoluşsal risk uyarılarının, teknolojinin topluma sağlayabileceği azami faydalara zarar verebileceğini söyledi. Yapay zekâ patlamasının daha erken dönemlerinde de sektörün olası felaket zararlarına ilişkin korkuları öne çıkardığını; bunun görünürlük sağlama ve düzenleme çerçevesini etkileme amacı taşıyabileceğini belirtti. 8
Bu eleştirinin politika boyutu da var: Yalnızca en ileri, yani “frontier” olarak anılan büyük modeller etrafında kurulacak ağır düzenlemeler, yüksek uyum maliyetlerini karşılayabilecek sermayeli ve yerleşik şirketlere avantaj sağlayabilir. Ng’nin kaygısı, korku merkezli bir tartışmanın hem yapay zekânın yararlarını gölgeleyebilmesi hem de pazardaki güç dengesini etkileyebilmesi. 8
10
Ng hangi risklere odaklanıyor?
Ng, güvenliğin ihmal edilmesini savunmuyor. Tersine, özellikle siber güvenlik ve öngörülebilir diğer zararlar için titiz testler, güvenlik korumaları ve yerleşik mühendislik süreçleri istiyor. Yaklaşımının temelinde şu fikir var: Sistemler tamamen öngörülebilir olmasa bile, değerlendirme, koruyucu mekanizmalar ve tekrar eden iyileştirme döngüleriyle kabul edilebilir ölçüde güvenilir hâle getirilebilir. 10
Yavaşlama çağrısı yapanlarla ayrıştığı nokta
Ng’nin tutumu, yapay zekâ kabiliyetlerindeki ilerlemenin bilinçli biçimde yavaşlatılmasını isteyen isimlerden belirgin şekilde ayrılıyor:
- Eski OpenAI ve Anthropic araştırmacısı Jacob Coxon, özellikle kendi kendini geliştiren sistemlere doğru denetimsiz ilerlemenin ağır bir felaket riski yaratabileceğini söyleyerek hızın düşürülmesini istedi.
2
14
- Anthropic CEO’su Dario Amodei, ileri model kabiliyetlerindeki artışın yavaşlatılmasını, risk yönetimi için zaman kazanılmasını ve bağımsız değerlendirmelerin güçlendirilmesini önerdi.
3
- OpenAI CEO’su Sam Altman, insanların kontrol edemeyeceği sistemlere yaklaşılması endişesi çerçevesinde yavaşlama ve güvenlik önlemleri yönündeki temel görüşe katıldı.
1
9
- Yapay zekâ alanının öncülerinden Geoffrey Hinton da teknolojinin insan denetiminden çıkması konusunda kayda değer bir risk gördüğünü; piyasaya sürülmeden önce test gibi önlemlerle daha yavaş bir ilerlemeyi desteklediğini belirtti.
16
Bu isimler, kontrol kaybı riskini gelişmenin temposunu kasten ayarlamayı gerektirecek kadar olası görüyor. Ng ise yok oluş iddiasını spekülatif buluyor ve politika odağının yakın vadede gözlenebilen sorunlar ile bunlara yönelik mühendislik önlemleri olması gerektiğini düşünüyor. 3
10
16
Yavaşlamaya karşı çıkanlarla ortak, ayrışan tarafı
Ng, sektör çapında bir yavaşlamaya karşı çıkması bakımından Nvidia CEO’su Jensen Huang, Meta CEO’su Mark Zuckerberg, ABD Başkanı Donald Trump ve Çinli yetkililerin tutumuyla kısmen aynı çizgide görünüyor. Huang yeni yapay zekâ odaklı yasalara karşı çıkarken, Trump yapay zekâ tehlikesi iddialarını “aldatmaca” olarak niteledi ve ABD’nin mevcut araçlarının şirketleri denetlemek ya da suistimalleri kovuşturmak için yeterli olduğunu savundu. Çin Dışişleri Bakanlığı sözcüsü de ileri yapay zekânın yavaşlatılması çağrılarına itiraz etti. 5
7
11
Ancak gerekçeler aynı değil. Ng’nin yaklaşımı teknik ve pratik: Görülebilen başarısızlıkları ölçmek, test etmek ve kontrol altına almak. Diğer tarafta ise yenilik hızı, uluslararası rekabet ve yeni kısıtlamalara duyulan kuşku daha baskın unsurlar olarak öne çıkıyor. 5
7
10
11
Mevcut haberlerde, Aidan Gomez ile Steve Eismanın sektör genelinde yavaşlama, güvenlik araştırması, düzenleme ve uluslararası yönetişim başlıklarındaki görüşlerini ayrıntılı ve güvenilir biçimde tanımlamaya yetecek kanıt bulunmuyor.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng: Yapay zekâ yok oluş korkusu “bilimden çok bilim kurgu”"?
Andrew Ng, yapay zekânın insanlığın yok olmasına yol açmasının olası olduğu iddiasını “bilimden çok bilim kurgu” olarak niteledi.
What are the key points to validate first?
Andrew Ng, yapay zekânın insanlığın yok olmasına yol açmasının olası olduğu iddiasını “bilimden çok bilim kurgu” olarak niteledi. Ng’ye göre yapay zekâ sistemlerindeki belirsizlik, gelişmenin topluca durdurulmasını gerektiren bir kanıt değil; test, güvenlik önlemleri ve mühendislik çalışmalarıyla yönetilmesi gereken bir sorundur.
What should I do next in practice?
Ng, kıyamet senaryoları üzerinden kurulan söylemin teknoloji faydalarından dikkati uzaklaştırabileceğini; reklam etkisi yaratıp düzenleme tartışmalarını şekillendirebileceğini söyledi.
Sources