Yapay zekânın yapay zekâ araştırmalarını otomatikleştirmesi neden düzenleyicilerin gündeminde?

Yapay zekâ alanındaki son denetim çağrısının arkasında yalnızca modellerin daha yetenekli hâle gelmesi endişesi yok. Asıl soru, yapay zekânın bir sonraki nesil yapay zekâyı geliştirmeye ne ölçüde katkı sağlayacağı. Bu katkı yeni sistemleri daha yetenekli kılarsa, onlar da araştırma sürecinin daha büyük bölümünü üstlenebilir; böylece ilerleme döngüsü hızlanabilir. OpenAI, Anthropic, Meta ve Microsoft’tan araştırmacılar, bu otomasyonun ne kadar ilerlediğinin politika yapıcılarca incelenmesini istiyor. 23

“Zekâ patlaması” diye anılan bu olasılık, bir risk senaryosu; yapay zekânın bugün insan yönlendirmesi olmadan kendi kendini geliştirdiğinin kanıtı değil. Temel politika sorusu, yapay zekânın yapay zekâ araştırmalarındaki artan rolünün nasıl ölçüleceği ve denetleneceği. 114

Yapay zekâ araştırmaları nasıl hızlandırabilir?

Yapay zekâ, gelecekteki modelleri geliştirmek için yürütülen çalışmalara katkı sağlayabilir. Bu katkılar daha yetenekli sistemlerin üretilmesini kolaylaştırırsa, yeni sistemler de araştırmanın daha büyük bölümünü üstlenebilir. “Özyinelemeli kendini geliştirme” denilen fikir kısaca bu: Yapay zekâ sistemlerinin, yeni yapay zekâ sistemleri geliştirme sürecini iyileştirmeye yardım etmesi. 15

Araştırmacıların uyarısı, yalnızca sistemlerin ne yapabildiğiyle değil, değişimin hızıyla ilgili. Makale hakkındaki haberlerde aktarılan senaryolardan birinde, normalde bir yılda gerçekleşebilecek ilerlemenin haftalara sığabileceği öne sürülüyor. Bu, ölçülmüş bir sonuç değil; kaynaklar söz konusu hızın şimdiden gerçekleştiğini göstermiyor. 314

Daha önce öncü yapay zekâ laboratuvarlarından ve akademiden 25 araştırmacıyla yapılan görüşmelerde de katılımcıların çoğu, yapay zekânın yapay zekâ araştırmalarını otomatikleştirebileceğini ve bunun olumlu bir geri besleme döngüsü yaratabileceğini düşünüyordu. Bu bulgu, konunun alanda neden ciddiye alındığını açıklıyor; ancak bir zekâ patlamasının kaçınılmaz olduğunu göstermiyor. 1

Araştırmacılar düzenleyicilerden ne istiyor?

İlk aşamadaki talep, şirketlerin araştırma ve geliştirme çalışmalarında yapay zekâyı ne ölçüde kullandığına ilişkin daha fazla görünürlük sağlanması. 20’den fazla yapay zekâ lideri ve araştırmacı, politika yapıcılara bu ilerlemeyi yakından inceleme ve teknoloji için koruyucu önlemleri değerlendirme çağrısında bulundu. 2

Bu çağrı, laboratuvarların araştırma kontrolünü şimdiden yapay zekâya devrettiği anlamına gelmiyor. Yapay zekânın geliştirme sürecinin neresinde ve ne ölçüde kullanıldığına dair daha iyi bilgi, sistemlerin araştırmada daha fazla rol üstlendiği bir dönemde mevcut denetimin yeterli olup olmadığını değerlendirmeye yardımcı olabilir. 23

Gelişimi yavaşlatma tartışması

Koordineli bir yavaşlama; güvenlik testleri, bağımsız değerlendirmeler ve daha güçlü denetim mekanizmaları için zaman kazandırabilir. OpenAI ve Anthropic’teki araştırmacılar kamuoyu önünde daha yavaş geliştirme çağrısı yaptı. Sektördeki diğer bazı liderler ise piyasa odaklı bir yaklaşımı savunuyor. Dolayısıyla ne kadar yavaşlama gerektiği veya uygulanabilir bir ara vermenin nasıl işleyeceği konusunda ortak bir görüş yok. 818

Uygulamada da yanıt bekleyen sorular var: Hangi sistemler veya faaliyetler kapsama girecek? Kurallara uyulup uyulmadığını kim izleyecek? Rakip şirketler arasında yavaşlama nasıl eşgüdümlenecek? Haberlere göre bir “duraklama”nın tam olarak ne anlama geleceği ve nasıl uygulanacağı da belirsiz.

Acil kapatma imkânı: Bir fren, ama tek başına çözüm değil

Microsoft Başkanı Brad Smith; yapay zekâ modeli geliştirenlerin, bulut altyapısı sağlayıcılarının ve yapay zekâ ajanlarını yönetenlerin sistemleri kapatabilmesi gerektiğini savundu. Bu öneri, acil durumda kullanılabilecek bir fren olarak görülüyor; önleyici tedbirlerin veya sürekli gözetimin yerine geçmiyor.

Üstelik sistemleri kapatmak teknik açıdan her zaman basit değil. Yapay zekâ hizmetleri dağıtık altyapıda çalışabildiğinden, tek bir düğmenin her bileşeni durduracağını garanti etmek mümkün olmayabilir. Uzmanlar bu nedenle izleme ve gerektiğinde insan müdahalesinin de önemini vurguluyor.

Denetimdeki ticari çıkar meselesi

Model geliştiricilere ve bulut sağlayıcılarına denetimde rol verilmesi bir yönetişim sorusunu gündeme getiriyor: Şirketler bir yandan sistemleri gözetmeye katkı sağlayabilirken, diğer yandan bu sistemleri geliştirebilir veya barındırabilir. Microsoft hem yapay zekâ modeli geliştirme sürecinin parçası hem de Smith’in açıklamalarında belirtildiği üzere bir bulut sağlayıcısı. Bu rol örtüşmesi, bağımsız kontrolleri ve açık kuralları önemli kılıyor; tek başına herhangi bir şirketin güvenlik yaklaşımının samimiyetsiz olduğunu göstermiyor. 2

Daha geniş sorun ise eşgüdüm. Sektör liderleri gelişimin hızı konusunda ayrışıyor ve yavaşlama tartışması, şirketlerin yapay zekâ geliştirme ve sunma konusunda rekabet ettiği bir ortamda sürüyor. Bir şirketin gönüllü olarak kendini sınırlaması, diğerleri hızla ilerlemeye devam ederse zorlaşabilir. Kaynaklar sektördeki görüş ayrılığını ve rekabet baskısını ortaya koyuyor; ancak yatırım çıkarlarının belirli bir araştırmacının görüşünü şekillendirdiğini kanıtlamıyor. 1218

Sonuçta politika yapıcıların önünde birbiriyle bağlantılı iki soru var: Yapay zekânın yapay zekâ geliştirmedeki rolü nasıl izlenecek ve güvenlik önlemleri şirketlerin kendi güvencelerine bağlı kalmadan nasıl doğrulanacak? Uyarılar bu soruların şimdiden ele alınmasını gerektiriyor; fakat bir zekâ patlamasının ne kadar olası olduğunu veya hangi politika yanıtının en iyi sonucu vereceğini henüz ortaya koymuyor. 123