Shane Legg’den AGI uyarısı: Güvenlik, yapay zekâ kabiliyetlerinin hızına yetişmeli

Google DeepMind’in kurucu ortaklarından Shane Legg’in mesajı net: Yapay zekâ sistemlerinin yetenekleri hızla artarken, onları izlemeye, denetlemeye ve kontrol altında tutmaya yarayan güvenlik mekanizmaları geride kalmamalı. Legg, bu uyarıyı yapay genel zekânın (AGI) kullanıma sunulması ve sonuçlarını inceleyecek yeni DeepMind Institute (DMI) platformunu tanıtırken yaptı. 141

AGI, dar bir görevi iyi yapan mevcut sistemlerden daha geniş bir kavramı ifade ediyor. Google DeepMind’in aktarılan tanımına göre AGI, insan beyninin bilişsel yeteneklerine sahip bir sistem. Bu nedenle belirli testlerde ya da tekil görevlerde başarılı olmak, tek başına AGI’ye ulaşıldığı anlamına gelmiyor. 13

Legg’in asıl güvenlik uyarısı ne?

Legg’e göre mesele yalnızca modellerin daha becerikli hâle gelmesi değil. Gözetim, izleme, yönetişim ve kontrol araçlarının bu sistemleri yönetilebilir tutacak ölçüde hızlı ilerleyip ilerlemediği de belirleyici. Yapay zekâ kapasitesindeki sıçramanın, güvenlik kapasitesindeki gelişmeyi aşmaması gerektiğini vurguluyor. 1

Bu yaklaşım, DMI’ın neden yalnızca teknik araştırmayla sınırlı olmadığını da açıklıyor. Enstitü; AGI sistemlerinin ve oluşturabilecekleri ajan topluluklarının nasıl güvenli biçimde geliştirileceği ve yönetileceği gibi teknik ve toplumsal sorular için disiplinler arası araştırma, iş birliği ve tartışmayı teşvik etmeyi hedefliyor. 16

DeepMind Institute ne yapacak?

DeepMind Institute, Google DeepMind’in temel yapay zekâ araştırmalarının yerine geçen bir laboratuvar değil; Google DeepMind içinden ve daha geniş araştırma çevresinden çalışmaların yayımlanıp tartışılacağı bir platform. Amaç, giderek güçlenen yapay zekânın nasıl inşa edilmesi, yönetilmesi, kullanıma sunulması ve kullanılması gerektiğini tartışmak. 3642

Platformun gündeminde bilim, eğitim, toplum, kamu politikası, felsefe, ekonomi, güvenlik ve insanın iyi oluşu yer alıyor. Başka bir ifadeyle DMI, yalnızca ciddi risklerin nasıl sınırlanacağını değil, AGI yaygınlaşırsa hangi kurumların, politikaların ve toplumsal hedeflerin uyarlanması ya da yeniden düşünülmesi gerekebileceğini de ele alacak. 1636

Sınır modellerin yayımlanması yavaşlatılmalı mı?

Legg, Anthropic CEO’su Dario Amodei’nin güvenlik kaygıları nedeniyle en gelişmiş, yani “sınır” yapay zekâ modellerinin yayımlanma hızının durdurulmadan yavaşlatılması önerisini “yön olarak ilginç” ve “değerlendirmeye değer” bulduğunu söyledi. 2

Bu sözler, Google DeepMind’in ilan edilmiş bir yayın politikası anlamına gelmiyor. Ancak Legg’in, model dağıtım hızının yeterli güvencelerle eşleştirilmesi tartışmasında daha temkinli bir yaklaşımı ciddi bir seçenek olarak gördüğünü ortaya koyuyor. 2

Neden AGI’ye şimdiden ulaşıldığı görüşüne katılmıyor?

Legg, Nvidia ve OpenAI yöneticilerinin yakın dönemdeki açıklamalarına rağmen AGI’ye ulaşıldığını ilan etmek için erken olduğunu belirtti. Haberlerde, Legg’in aklındaki tüm yetenek eksiklerini ayrıntılandıran doğrudan bir açıklama yer almıyor. Bu nedenle eldeki verilerin desteklediği en güçlü sonuç şu: Legg, mevcut sistemlerin DeepMind’in AGI eşiğini henüz karşılamadığı kanaatinde. 4

Bununla birlikte Legg, uzun süredir dile getirdiği tahminini koruyor: 2028’e kadar “asgari” AGI’ye ulaşılma olasılığını yüzde 50 olarak görüyor. Bu, doğrulanmış bir takvim değil; belirsizlik içeren bir öngörü. 210

İlk yazılar hangi konuları ele alıyor?

DMI’ın açılış seçkisinde bir tanıtım yazısı ve birkaç kapsamlı deneme bulunuyor. İlk çalışmaların üç temel odağı, platformun güvenliği daha geniş bir toplumsal çerçeve içinde ele alma niyetini gösteriyor:

1. Muhakeme şeffaflığı: Rohin Shah ve Anca Dragan’ın yazısı, insanların modelleri aldatma veya gizli plan yapma belirtileri açısından izleyebilmesi için yorumlanabilir muhakemenin korunması gerektiğini savunuyor. 11
2. AGI için ekonomi politikası: Bir deneme, giderek gelişen ve yaygınlaşan yapay zekânın yol açabileceği ekonomik sarsıntılar için 11 olası politikayı; refah, dayanıklılık, bireysel söz hakkı ve ekonomik istikrar gibi ölçütlerle değerlendiriyor. 39
3. Yeni bir ütopyacılığın ilkeleri: Bu yazı, AGI’nin şekillendirdiği bir toplumda insanın iyi oluşunun ne anlama gelebileceğini inceliyor; ancak “ütopya”yı kusursuzluk vaadi olarak görmemek gerektiği uyarısını da yapıyor. 37

Enstitünün sitesinde, giriş yazısı ve bu üç çalışmanın yanında “Sınır yapay zekâ için bir çerçeve ve yeni bir çağın şafağı” başlıklı dördüncü kapsamlı yazı da listeleniyor. 4138

Sonuç: Mesele yalnızca AGI’nin tarihi değil

Legg’in yaklaşımı, aciliyet ile ihtiyatı bir araya getiriyor. AGI’nin bugün itibarıyla gerçekleştiğini düşünmüyor; buna rağmen 2028’e kadar asgari AGI olasılığını yüzde 50 olarak değerlendirmeyi sürdürüyor. Bu yüzden uyarısının odağında tek bir tarih tahmini değil, bir yönetişim şartı var: Yapay zekâ kabiliyetleri hızlanıyorsa, bu teknolojiyi anlama, denetleme ve kullanımını şekillendirme kapasitesi de aynı hızla güçlenmeli. 1216