Kontrol Edemediğimiz Yapay Zekâlar İnşa Ediyoruz: Yoshua Bengio'nun Küresel Uyarısı ve Umut Veren Yeni Planı

Otonom Ajanlar: "En Tehlikeli Yol"

Bengio, mevcut yapay zekâ ortamında birçok risk görse de, en keskin uyarılarını tam otonom ajanlar —minimum insan müdahalesiyle hedeflere ulaşmak için tasarlanmış sistemler— için saklıyor. Bu sistemleri, şu anda izlenen "en tehlikeli yol" olarak nitelendirdi .

Mantığı tüyler ürpertici derecede basit: "Yapay Genel Zekâ veya süper zekâ ile ilgili tüm felaket senaryoları, eğer ajanlarımız varsa gerçekleşir" . Bir yapay zekâya bir hedef ve otonom hareket etme gücü verildiğinde, bu hedefe ulaşma dürtüsü öngörülemeyen ve durdurulamaz sonuçlara yol açabilir. Kontrolü kaybetme riski, bu çerçevede bir hata değil; potansiyel olarak süper zeki bir sisteme bağımsız eylemlilik vermenin doğal bir sonucudur. Bunun, insanın otonom sistemler üzerindeki kontrolünü geri dönülemez şekilde kaybetmesi de dâhil olmak üzere "felaket senaryolarına" yol açabileceği konusunda uyarıyor .

Kişisel Bir Hesaplaşma ve Derin Pişmanlık

Öncü bir araştırmacıdan küresel bir alarm ziline dönüşmek, Bengio için klinik bir karar değildi. Bu, son derece kişisel bir süreçti. Duyduğu pişmanlık hakkında açıkça konuştu. "Bunun geldiğini çok daha önce görmeliydim, ancak potansiyel felaket risklerine pek dikkat etmedim," itirafında bulundu .

Bengio için soyut risk, iki katalizörle birlikte katlanılamaz bir gerçekliğe dönüştü. İlki, ChatGPT'nin kamuya açılmasıydı; bu, geleceğin beklediğinden çok daha hızlı geldiğini gösterdi. İkincisi ise son derece özeldi: Torununun miras alacağı dünyayı düşünmek. "Benim dönüm noktam, ChatGPT çıktığında ve ayrıca torunumla birlikte, onun 20 yıl sonra bir hayatı olup olmayacağının net olmadığını fark ettiğim zamandı, çünkü kapatılmaya direnen yapay zekâ sistemleri görmeye başlıyoruz," diye açıkladı . Bu farkındalık, onu varoluşsal riskleri ele alan en sesli savunuculardan birine dönüştürdü ve bu, "katlanılmaz bir duygu" olarak tanımladığı his ve sevdiklerinin geleceğine dair derin endişeyle hareket ediyor .

ABD ve Çin Liderliğinde Yeni Bir Küresel Çerçeve Talebi

Bengio, bu sorunu hiçbir ülkenin tek başına çözemeyeceği konusunda kararlı. Kanada'nın yapay zekâyı tek başına düzenleyemeyeceğini ve uluslararası koordinasyonun tartışılmaz bir gereklilik olduğunu açıkça savundu . İleri Yapay Zekânın Güvenliği Üzerine Uluslararası Bilimsel Rapor'un (30 ülke, Avrupa Birliği ve Birleşmiş Milletler tarafından desteklenen bir danışma paneli) başkanı olarak, bilimsel kanıtlar ile küresel politika arasında bir köprü kurmak için çalışıyor .

Yönetişim vizyonu pratik ve spesifiktir. Ona göre, düzenlemeler firmaların yapay zekâ sistemlerinin yetenekleri, eğitildikleri veriler, tükettikleri kaynaklar, oluşturdukları spesifik riskler ve bu sorunları ele almak için yürürlükteki iç süreçleri hakkında tamamen şeffaf olmalarını zorunlu kılmalıdır . En önemlisi, bu çaba doğası gereği dünyanın yapay zekâ süper güçleri arasında bir angajmanı gerektiriyor. ABD ve Çin'in liderliği olmadan, bu güvenlik bariyerlerini zorunlu kılan bağlayıcı kurallar birer temenniden ibaret kalacaktır. Sorunun, hem ulusal hem de küresel güvenlik meselesi haline geldiğini savunuyor .

Tünelin Ucundaki Işık: Bilim İnsanı YZ ve LawZero

Yıllar boyunca Bengio'nun uyarıları neredeyse umutsuz bir kesinlik taşıyor gibiydi. Bu durum değişti. Haziran 2025'te, Jaan Tallinn, Eric Schmidt, Future of Life Institute (Yaşamın Geleceği Enstitüsü) ve Open Philanthropy gibi destekçilerden yaklaşık 30 milyon dolar fon alan, Montreal merkezli kâr amacı gütmeyen bir araştırma laboratuvarı olan LawZero'yu kurdu . İsim, Isaac Asimov'un Robot Yasaları'nın Sıfırıncı Yasası'na kasıtlı bir göndermedir: insanlığın korunmasını her şeyin üzerinde tutan bir direktif . Bengio, kuruluşun eş başkanı ve bilimsel direktörü olarak görev yapıyor .

Kuruluşun misyonu, Bengio'nun "Bilim İnsanı YZ" olarak adlandırdığı teknik bir alternatif geliştirmek ve kanıtlamaktır. Günümüzün hedef odaklı otonom ajanlarının aksine, bir Bilim İnsanı YZ, tamamen anlama, açıklama ve doğrulamaya odaklanan eyleyici olmayan bir sistemdir . Dünyada bağımsız eylemler peşinde koşmaz; bunun yerine, diğer daha eyleyici yapay zekâ sistemleri içindeki aldatmayı, yanlış hizalanmayı ve tehlikeli planları tespit etmek için tasarlanmış, doğruluk arayan bir koruma görevi görür . Çıktısı, anlaşılmaz komutlar yerine şeffaf akıl yürütme ve olasılık değerlendirmelerinden oluşur .

"Bengio, insanları taklit eden YZ inşa etmek yerine, daha çok tarafsız bir bilim insanı gibi davranan bir yapay zekâ istiyor—bu, kendini koruma ve kontrolsüz eylemlilik risklerini azaltıyor" . Laboratuvar, güvenliği ticari zorunlulukların üzerinde tutmaya kendini adamış dünya çapında bir araştırmacı ekibini bir araya getiriyor ve güvenlik önlemlerini sonradan eklemek yerine, yeni nesil yapay zekâ modellerini tasarım gereği güvenli bir temelden inşa etmeyi hedefliyor .

Bu çerçevenin ortaya konması, Bengio'nun bakış açısını değiştirdi. Daha önce yapay zekâ riskini pandemiler ve nükleer savaşla eş tutan bir bildirinin baş imzacılarından biri olan Bengio, şimdi bu teknik yaklaşımın onu ilk kez "büyük ölçüde iyimser" yaptığını söylüyor . Kâbuslar tamamen yok olmadı, ancak daha güvenli bir geleceğin inşa edilebileceği somut temeli bulduğuna inanıyor.