Hinton’a göre yapay zekânın insanlığı yok etme ihtimaline yüzde 10 demek “makul dışı” değil

Geoffrey Hinton, yapay zekânın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalinin %10 olmasının “makul dışı bir tahmin” gibi görünmediğini söyledi. Ancak çarpıcı ifadesine önemli bir çekince ekledi: Bu ihtimali anlamlı biçimde nasıl hesaplayacağını gerçekten kimse bilmiyor. 91012

Bu sözler, insanlığın yok olacağının öngörüldüğü ya da bugünün sohbet botlarının böyle bir tehdit oluşturduğu anlamına gelmiyor. Hinton’un uyarısı, yapay zekâ sistemleri insanlardan çok daha yetenekli hâle gelir ve denetim altında tutulamazsa nelerin yaşanabileceğine dair ihtiyat çağrısı niteliğinde.

Hinton yüzde 10 derken neyi kastetti?

Hinton, BBC’nin Newsnight programında yapay zekâ kaynaklı bir insanlık yok oluşu olayının 10 yıl içinde yaşanma ihtimali için yüzde 10 tahmininin makul dışı olmadığını kabul etti. Gerekçesi belirsizlik: İnsanlık, kendisinden daha zeki olabilecek varlıklarla daha önce birlikte yaşamak zorunda kalmadı. 910

Hinton daha uzun vadede de benzer derecede ağır değerlendirmeler yapmıştı. 2024’ün sonlarında, yapay zekânın 30 yıl içinde insanlığın yok oluşuna yol açma ihtimalini %10 ila %20 arasında gördüğünü söylemiş; 2025’te ise bu aralığın hesaplanmış bir tahmin değil, sezgisel bir yargı olduğunu belirtmişti. 1415

Buradaki kritik ayrım, risk değerlendirmesi ile kaçınılmazlık öngörüsü arasında. Hinton’un yaklaşımına göre, sonuçları bu kadar büyük olabilecek bir konuda belirsizlik rahatlama gerekçesi değil, tedbir gerekçesi.

İnsanüstü bir sistem neden endişe yaratıyor?

Tartışılan senaryo, filmlerdeki türden bir “makinelerin isyanı” değil. Hinton’un kaygısı; insanlardan belirgin biçimde daha üstün stratejik ve teknik becerilere sahip bir sistemin büyük ölçekli kaos yaratabilmesi veya insan çıkarlarıyla çatışan amaçlar izlemesi.

Dile getirilen olası zarar yolları arasında insanları manipüle etmek, biyolojik ya da bilgisayar virüsleri geliştirmek, siber saldırılar yürütmek ve kritik altyapıyı aksatmak bulunuyor. Bunlar, çok daha güçlü geleceğin sistemleri için ileri sürülen mekanizmalar; günümüzdeki yapay zekâ araçlarının kanıtlanmış becerileri değil. 1011

Bu fark önemli. Anthropic’in hizalama bilimi lideri Evan Hubinger, mevcut modellerden doğan riski düşük gördüğünü açıkça söyledi. Hinton gibi onun da kaygısı, sistemlerin araştırmacıların güvenle yönetebileceğinden daha hızlı biçimde çok daha yetenekli hâle gelmesi veya kendilerini geliştirmesi olasılığı. 11624

Jacob Coxon ve Evan Hubinger’ın Anthropic içinden uyarısı

Tartışma, Jacob Coxon’ın Anthropic’ten ve yapay zekâ sektöründen ayrılmasıyla daha da görünür hâle geldi. Coxon, Anthropic ve OpenAI’ın kendini geliştirebilen süperzekâya doğru yeterince sorumlu davranmadan yarıştığını savundu; bu süreci insan hayatlarıyla kumar oynamak olarak nitelendirdi. 317

Coxon, insanlığın 2030’a kadar kesin olarak sona ereceğine dair sayısal bir tahminde bulunmadı. Daha dar ama dikkat çekici iddiası, en ileri yapay zekâ sistemlerini geliştiren kişilerin, teknolojinin on yılın sonuna kadar herkesi öldürebileceğine içtenlikle inandığıydı. 57

Hubinger bu kaygının ciddiyetini kamuoyu önünde destekledi. Kendi değerlendirmesinde, yapay zekânın gelecek 10 yılda tüm insanları öldürme ihtimalini %10’un üzerinde gördüğünü yazdı. Anthropic’in elinden geleni yapmaya çalıştığını da ekledi; ancak şirketin henüz süperzekâ için hizalama sorununu çözecek bir planı olmadığını ve böyle bir plan geliştirme yolunda da açık biçimde ilerlemediğini belirtti. 16

“Hizalama” sorunu nedir?

Hizalama, gelişmiş yapay zekâ sistemlerinin amaçlanan insan hedeflerine güvenilir biçimde uygun hareket etmesini ve yaratıcılarının öngöremediği koşullarda dahi denetlenebilir kalmasını sağlama problemidir.

Güvenlik araştırmacıları için mesele yalnızca bir sistemin zararlı bir komutu reddetmesi değil. Geniş ölçüde özerkliğe, araçlara erişime ve işletenlerin tam olarak kavrayamadığı yeteneklere sahip bir sistemin, gerçek dünyadaki baskı ve karmaşa altında güvenle yönlendirilip yönlendirilemeyeceği.

Hubinger’ın açıklamaları, hizalamanın imkânsız olduğunu kanıtlamıyor. Ancak onun değerlendirmesine göre, süperzekâ ortaya çıkmadan önce onu hizalamaya yönelik kanıtlanmış bir çözüm henüz yok. 16

Uzmanlar nerede birleşiyor, nerede ayrışıyor?

Hinton’un tam olarak yüzde 10’luk rakamı konusunda bir uzlaşı yok.

Gary Marcus, Hinton’un temel ihtiyat ilkesine katıldı: Güvenli ve denetlenebilir biçimde geliştirilebileceğine dair bilimsel uzlaşı oluşmadan süperzekâ geliştirmek akılsızlık olur. Bununla birlikte, haberlerde Marcus’un yakın vadede insanlığın yok oluşuna giden gerçekçi bir yol görmediği de aktarılıyor. Bu ayrım önemli: Güvenlik önlemlerini savunmak, felaketin olasılığı veya zamanlaması konusunda aynı tahmini paylaşmayı gerektirmiyor. 1141

Dolayısıyla yüzde 10 gibi oranlar ölçüm sonucu değil, uzmanların belirsizlik koşullarındaki kişisel yargıları olarak okunmalı.

Asıl politika sorusu

Ortak zemin, yapay zekâ kaynaklı yok oluşun kesin olduğu düşüncesi değil. Daha yetenekli sistemler üzerinde denetimi kaybetme ihtimalinin azımsanmayacak düzeyde olması hâlinde, geliştirme hızı güvenlik çalışmalarını geçmeden önce kamusal denetim ve tartışma gerektiği görüşü.

Hinton’un değerlendirmesi, Coxon’ın istifası ve Hubinger’ın hizalama uyarısı aynı çözümsüz soruya işaret ediyor: Toplum, stratejik bakımdan insanüstü hâle gelebilecek sistemleri kullanıma açmadan veya ölçeklendirmeyi sürdürmeden önce hangi kanıtları talep etmeli?

Okur açısından üç iddiayı birbirinden ayırmak yararlı:

• Mevcut yapay zekâ modelleri yok oluş düzeyinde tehdit oluşturuyor.
• Gelecekteki sistemler, böyle bir tehdit yaratabilecek yetenekler kazanabilir.
• Bu sonucun olasılığı kesin olarak hesaplanabilir.

Kaynaklar, ikinci ihtimali önde gelen araştırmacıların ciddiye aldığı bir kaygı olarak destekliyor. Buna karşın Hubinger mevcut model riskini düşük görüyor; Hinton ise ihtimalin kendisinin güvenilir biçimde hesaplanamayacağını söylüyor. 11016