Sınır yapay zekâ yarışında güvenlik ekiplerinin psikolojik yükü büyüyor

Bu tabloyu açıklayan temel unsur, etik stres ile kurumsal hız baskısının çarpışması. Sınır yapay zekâ modellerini — yani en gelişmiş genel amaçlı modelleri — test eden bazı kişiler, sistemlerin biyolojik ya da siber zararları güvenlik önlemleri, denetim ve değerlendirme kapasitesinden daha hızlı mümkün kılacağından endişe ediyor.

Financial Times’a dayandırılan haberlere göre, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü’ndeki (AISI) bazı çalışanlar yoğun sınır model testleri sırasında yaşadıkları psikolojik baskı nedeniyle sağlık izni aldı veya danışmanlık desteği aradı. Büyük yapay zekâ laboratuvarlarında da benzer kaygılar bildirildi; ancak kamuya açık bilgiler, bunun her kurumda ne kadar yaygın olduğunu göstermiyor. 15

Kaygı yalnızca uzak bir gelecek senaryosu değil

Araştırmacıların korktuğu riskler iki düzeyde ele alınıyor:

• Yakın vadeli kötüye kullanım: Modellerin siber saldırı planlamayı, zararlı yazılım geliştirmeyi veya biyolojik alanda tehlikeli bilgi ve yöntemlere erişimi kolaylaştırması.
• Daha uzun vadeli denetim sorunu: Gittikçe daha özerk hâle gelen sistemlerin, insanlar tarafından anlamlı biçimde izlenmesinin ve sınırlandırılmasının zorlaşması.

Anthropic’ten ayrılan Jacob Coxon, yapay zekâ destekli biyolojik tehditleri ve siber silahları olası felaket yolları arasında saydı. 15 BBC’ye verdiği demeçte ise önde gelen laboratuvarlarda çalışan insanların ilerlemenin hızı ve bunun insanlık için anlamı konusunda “gerçekten korktuğunu” söyledi. 9

Güvenlik çalışması, kişisel sorumluluk hissini ağırlaştırabiliyor

Bu ekipler soyut bir riski dışarıdan incelemiyor. Sistemleri değerlendiren, eğiten veya piyasaya sürülme süreçlerine katkı veren kişiler de olabiliyorlar. Bir çalışan riski tespit ettiğinde fakat ürün takvimini durduracak yetkiye sahip olmadığını düşündüğünde, bu durum çaresizlik, tükenmişlik ve etik yaralanma duygusuna dönüşebiliyor.

Coxon, OpenAI ve Anthropic’te ön eğitim (pretraining) çalıştıktan sonra Anthropic’ten istifa etti. Şirketlerin kendini geliştirebilen süper zekâya doğru sorumsuzca yarıştığını savundu. 14 Bu tür açık istifalar, daha önce kurum içinde kalmış olabilecek kaygıları görünür kılıyor; çalışanların kalma, itiraz etme veya ayrılma kararlarının kişisel bedelini de artırıyor.

“Yavaşlayalım” çağrısı neden tek başına güven vermiyor?

Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve Google DeepMind CEO’su Demis Hassabis gibi isimler, farklı ayrıntılarla sınır yapay zekâ geliştirme hızının düşürülmesi gerektiğini savundu. 2 Ancak bu açıklamalar tartışmayı bitirmek yerine yeni bir güven sorusu yarattı.

Eleştirmenler, mevcut büyük şirketlerin tasarladığı veya denetlediği bir “yapay zekâ dondurmasının” aynı şirketlerin pazar gücünü pekiştirebileceğini, küçük rakipleri ise dışarıda bırakabileceğini belirtiyor. 11 Bu nedenle asıl sınav, açıklamaların kendisi değil; şu tür doğrulanabilir uygulamalar olarak görülüyor:

• bağımsız dış değerlendirmecilere erişim sağlanması,
• güvenlik eşiği aşılırsa sürüm geciktirilmesi,
• denetlenebilir risk testleri,
• çalışanlar için ihbarcı korumaları,
• şirketlerin dışarıdan gelen bağlayıcı sınırlamaları kabul etmesi.

Stanford HAI uzmanları, yapay zekâ kapasitesinde geniş çaplı bir yavaşlamanın uygulanmasının zor olacağını değerlendirirken; kamu kurumları veya yetkin üçüncü taraflarca yapılacak bağımsız değerlendirmelerin standart hâle gelmesini vurguladı. 3

Araştırmanın otomasyonu zaman baskısını büyütüyor

Endişe, yapay zekânın şimdiden kendini özyinelemeli biçimde geliştirdiği iddiası değil; bunun henüz gerçekleşmediği belirtiliyor. 6 Daha somut kaygı, sistemlerin araştırma ve yazılım mühendisliğinin bazı bölümlerini giderek daha fazla otomatikleştirmesi.

Georgetown Üniversitesi CSET’e göre yapay zekâ Ar-Ge’sinin otomasyonu, yetenek ilerlemesini hızlandırabilir ve insanların sistemleri anlama ya da denetleme kapasitesini zayıflatabilir. 4 Yakın tarihli bir çalışma da güncel ajanların araştırma mühendisliği görevlerinin önemli bölümünü insan yardımı olmadan tamamlayabildiğini; buna karşılık açık uçlu bilimsel sorularda kayda değer ilerleme sağlayamadığını buldu. 5

Sonuç olarak bu durum, insanlığın yok oluşunun yakın olduğuna dair kanıt değil. Ancak sınır yapay zekâya en yakın çalışan bazı kişilerin; hızlanan yetenekler, çift kullanımlı biyolojik ve siber riskler, ticari rekabet ve zayıf dış denetim bileşimini psikolojik ve etik açıdan taşınamaz bulduğuna işaret ediyor.