Andrew Ng: Yapay zekâ kaynaklı yok oluş korkuları “bilimden çok bilim kurgu”

Andrew Ng’nin temel mesajı, yapay zekânın zararsız olduğu değildi. Ona göre insanlığın yakın zamanda yapay zekâ yüzünden yok olacağı iddiası, yapay zekâ politikasını belirleyecek kadar sağlam bir temele dayanmıyor. Google Brain’in kurucu ortaklarından Ng, 17 Eylül’de Bloomberg TV’ye verdiği röportajda bu uyarıları “bilimden çok bilim kurgu” diye niteledi. Güvenliğin; sistemleri test ederek, koruma katmanları ekleyerek ve bunları zaman içinde geliştirerek ele alınması gereken bir mühendislik alanı olduğunu savundu. 2

Ng, yok oluş riskine neden karşı çıkıyor?

Ng’ye göre yapay zekâ sistemleri hiçbir zaman bütünüyle öngörülebilir olmayacak. Ancak bu belirsizlik, yapay zekâ geliştirmesinin geniş ölçekte durdurulmasını gerektiren bir kanıt sayılmaz. Test, güvenlik önlemleri ve mühendislik çalışmalarıyla sistemlerin zaman içinde daha güvenli hâle getirilebileceğini belirtti. Ayrıca, geliştirme hızını genel olarak düşürmenin güvenlik alanındaki ilerlemeyi de yavaşlatabileceği uyarısında bulundu. 2

Bu yaklaşım, giderek daha yetenekli sistemlerin yakında insan denetiminden çıkabileceğini düşünenlerle ayrışıyor. Ng’ye göre güvenlik gündemi, varsayımsal yok oluş senaryolarından değil, gözlemlenebilen ve çözüm üretilebilen hata türlerinden başlamalı.

“Kıyamet” anlatısına yönelik eleştirisi

Ng, varoluşsal yapay zekâ riski uyarılarının teknolojinin topluma sağlayabileceği faydalara ulaşmayı zorlaştırabileceğini söyledi. Ayrıca teknoloji sektörünün, yapay zekâ dalgasının ilk dönemlerinde felaket senaryolarını görünürlük kazanmak ve düzenleme tartışmalarını etkilemek amacıyla büyüttüğünü öne sürdü. 1

Bu, yalnızca risklerin olasılığıyla değil, teşviklerle de ilgili bir tartışma. Çarpıcı iddialar daha fazla dikkat çekebilir; düzenleme modelleri ise uyum maliyetini kimin üstleneceğini belirleyebilir. Ng güvenlik çalışmalarının bırakılmasını savunmuyor. İtirazı, yok oluş iddialarının kesinleşmiş bilimsel gerçekler gibi görülmesine ya da kapsamlı bir yavaşlamanın gerekçesi yapılmasına.

Ng’nin öncelik verilmesini istediği güvenlik çalışmaları

Ng’nin önerisi pratik risk azaltımına dayanıyor. Röportaja ilişkin haberlerde siber güvenlik ve diğer somut koruma tedbirleri başlıca öncelikler arasında gösterildi. 5

Bu yaklaşımın öne çıkan unsurları şöyle:

• Titiz testler: Sistemler kullanıma sunulmadan önce ve sunulduktan sonra düzenli değerlendirme yapılması.
• Koruma katmanları: Bilinen hata ve kötüye kullanım biçimlerini sınırlayacak teknik önlemler.
• Sürekli mühendislik iyileştirmesi: Yeni sorunlar görüldükçe güvenilirliğin artırılması.
• Öngörülebilir zararlara odaklanma: Özellikle siber güvenlik risklerinin, yok oluş senaryolarının önüne alınması. 25

Bu çerçeve kusursuz kontrol vaadinde bulunmuyor. Bunun yerine, diğer mühendislik alanlarında olduğu gibi, sürekli değerlendirme ve iyileştirmeyle teknolojinin kabul edilebilir ölçüde güvenilir kılınabileceğini ileri sürüyor.

Yavaşlama çağrısı yapanlarla ayrıştığı nokta

Bazı önde gelen yapay zekâ isimleri de güvenliğe daha fazla önem verilmesi gerektiği konusunda hemfikir. Ancak ileri seviye, yani en güçlü modellerin geliştirme temposu konusunda çok daha sert bir sonuca varıyorlar.

Jacob Coxon: Çok daha yüksek bir tehlike değerlendirmesi

Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon, Anthropic’ten ayrıldıktan sonra kendi kendini geliştirebilen sistemlere doğru hızlı ilerlemenin felaketle sonuçlanabileceği uyarısında bulundu. Yavaşlama gerektiğini söyledi ve Anthropic’in geliştirme hızını sınırlama önerisini memnuniyetle karşıladı. 3343

Dario Amodei: Güvenlik önlemleri için zaman kazanmak

Anthropic CEO’su Dario Amodei, şirketlerin yapay zekâ yeteneklerini artırma hızını düşürmesi çağrısı yaptı. Amacı, bağımsız değerlendiricilerin de yer aldığı bir çerçeveyle risklerin yönetilmesine zaman kazandırmak. 18

Sam Altman: İleri seviye modellerin temposunu ayarlama desteği

OpenAI CEO’su Sam Altman, Amodei’nin önerisinin temel yaklaşımını destekledi. OpenAI’ın, güvenlik uygulamalarını değerlendirebilecek ve anlamlı erişime sahip bağımsız dış değerlendiricilerden yararlanma taahhüdünü de benimsedi. 1924

Geoffrey Hinton: Kontrolün kaybedilmesi endişesi

Yapay zekâ alanının öncü isimlerinden Geoffrey Hinton, yapay zekânın insan denetiminden çıkma ihtimalinin “kayda değer” olduğunu söyledi. Hinton, geliştirme hızının düşürülmesini ve yeni sohbet botları yayımlanmadan önce test edilmesi gibi önlemleri destekliyor; hükümetlerin çok yavaş hareket ettiğini düşünüyor. 20

Dolayısıyla pratik anlaşmazlık hem olasılık hesabı hem politika tercihi etrafında dönüyor. Coxon, Amodei, Altman ve Hinton; kontrol kaybı riskini, en ileri sistemlerin gelişimini bilinçli biçimde yavaşlatmayı gerektirecek kadar olası görüyor. Ng ise yok oluş iddialarını yeterince temellendirilmemiş buluyor ve güvenlik çabasının somut, çözülebilir arızalara yönelmesini istiyor. 21820

Yavaşlamaya karşı çıkanlarla Ng aynı yerde mi?

Ng’nin geniş kapsamlı bir yavaşlamaya karşı çıkması, bu görüşü paylaşan siyasetçiler ve teknoloji yöneticileriyle tüm gerekçelerde aynı fikirde olduğu anlamına gelmiyor.

• Jensen Huang: Nvidia CEO’su, sektörün yeni yasalara veya düzenlemelere ihtiyacı olmadığını söyledi. 53
• Mark Zuckerberg: Meta CEO’su, rekabetin ve piyasa teşviklerinin şirketleri modellerini güvenli kılmaya yönelteceği gerekçesiyle sektör genelinde yavaşlamayı gereksiz buldu. 55
• ABD Başkanı Donald Trump: Trump, kontrolden çıkan yapay zekâ korkularını “aldatmaca” olarak niteledi; ABD’nin yapay zekâ şirketlerini düzenlemek ve gerektiğinde kovuşturmak için zaten araçları bulunduğunu söyledi. 4950
• Çinli yetkililer: Çin Dışişleri Bakanlığı sözcüsü, ileri seviye yapay zekâ geliştirmesini yavaşlatma çağrılarına karşı çıktı. 52

Bu isimlerin vardığı sonuç —geniş bir duraklatmaya karşı çıkmak— Ng’nin sonucuyla benzeşiyor; fakat dayanakları farklı. Ng’nin yaklaşımı teknik: Ölçülebilir zararlara odaklanmak ve daha iyi kontroller geliştirmek. Huang, Zuckerberg, Trump ve Çinli yetkililerin açıklamalarında ise farklı ölçülerde yeni kısıtlamalara itiraz, piyasa teşvikleri, rekabet ve ulusal strateji vurgusu öne çıktı. 250525355

Siber güvenlik konusunda daha dar bir ortak zemin

Tartışma, güvenliği önemseyenler ve önemsemeyenler arasında basit bir ayrım değil. Örneğin Cohere CEO’su Aidan Gomez, yapay zekâ modellerinin güvenlik açıklarını büyük ölçekte bulup istismar edebildiği için güçlü siber silahlara dönüştüğünü söyledi. 62 Bu endişe, Ng’nin somut siber güvenlik risklerine odaklanma çağrısına yakın duruyor. Ancak mevcut haberler Gomez’in sektör genelinde yavaşlama ya da uluslararası yapay zekâ yönetişimi konusundaki bütüncül tutumunu ortaya koymuyor.

Benzer biçimde, eldeki kaynaklar yatırımcı Steve Eisman’ın yavaşlama politikası, güvenlik araştırmaları, düzenleme ve uluslararası yönetişim konularındaki görüşlerini kapsamlı biçimde tanımlamaya yetecek kanıt sunmuyor.

Sonuç: Güvenliğe değil, güvenlik gündeminin merkezine itiraz

Ng’nin çıkışı yapay zekâ güvenliği tartışmasını yeniden çerçeveliyor. Mesele, yapay zekânın daha güvenli hâle getirilip getirilmemesi değil; spekülatif yok oluş senaryolarının bu gündemi belirleyip belirlememesi. Ng’nin yanıtı açık: Testlere, koruma katmanlarına ve bugün tanımlanabilen zararlara karşı mühendislik çözümlerine öncelik verilmeli. Ona göre genel bir yavaşlama ise hem yeniliği hem de güvenlik alanındaki ilerlemeyi sekteye uğratabilir. 12