Yapay zekâ yarışının ön cephesinde tükenmişlik alarmı

Yapay zekâ güvenliği alanında çalışanlar için baskının kaynağı yalnızca yoğun iş yükü değil. Bazı araştırmacılar, ciddi zararlara yol açabileceğine inandıkları ileri modelleri değerlendirmekle görevli; ancak bir risk bulduklarında lansmanı erteleme ya da sorunun giderilmesini zorunlu tutma yetkileri sınırlı olabilir.

İngiltere AI Safety Institute’ta (AISI) bazı çalışanların sağlık izni aldığı veya danışmanlık desteği aradığı yönündeki haberlerde, dar test takvimleri, düşük moral ve modellerin hızla kullanıma sunulmasına dair endişeler öne çıkıyor. 2 Bu, AISI’daki ya da Anthropic, OpenAI ve Google DeepMind’daki herkesin aynı sıkıntıyı yaşadığı anlamına gelmiyor. Ancak yüksek riskli teknoloji yarışının çalışanlar üzerindeki yüküne dair önemli bir uyarı niteliği taşıyor.

Neden bu iş psikolojik olarak zorlaşabiliyor?

Güvenlik araştırmacıları uzaktaki, tamamen kuramsal bir teknolojiyi incelemiyor. Yakın zamanda kullanıma açılabilecek modelleri test ediyorlar. Bu durum, mesleki sorumluluk ile kurum içi hız baskısını karşı karşıya getirebiliyor: Bir zafiyet saptamak, o modelin piyasaya çıkmasını durdurabilecek güce sahip olmak demek değil.

AISI hakkında aktarılan baskının merkezinde, henüz yayımlanmamış sistemler için kısalan değerlendirme süreleri ile ticari yaygınlaştırma ve yetenek artışının çok hızlı ilerlediği kaygısı bulunuyor. 2 Hatanın bedelinin çok yüksek görüldüğü, temponun sert olduğu ve bağımsız müdahale mekanizmalarının belirsiz kaldığı bir ortamda, tükenmişliğe bireysel olarak çözülemeyecek bir sorumluluk duygusu da eklenebiliyor.

Bu tabloyu, tek tek çalışanların irrasyonelliğinin ya da felaketin kesin olduğunun kanıtı olarak değil, kurumsal bir sorun olarak okumak gerekir.

Araştırmacıları kaygılandıran riskler neler?

Endişeler hem yakın vadede kötüye kullanımı hem de daha spekülatif, uzun vadeli kontrol kaybı ihtimallerini kapsıyor.

Siber güvenlik ve biyolojik kötüye kullanım

Çok güçlü bir model, zararlı faaliyetler için gereken beceriyi, zamanı veya maliyeti düşürebilir. Daha önce OpenAI’da da çalışmış eski Anthropic araştırmacısı Jacob Coxon, yapay zekâ destekli biyolojik tehditler ve siber silahları ağır zarar doğurabilecek olası yollar arasında gösterdi. 15

Bu, belirli bir modelin böyle bir olaya yol açtığı iddiası değil. Ancak daha güçlü muhakeme veya ajan benzeri davranışlar sergileyen sistemler yaygınlaşmadan önce neden güvenlik ekiplerinin değerlendirme, erişim kontrolü ve izleme talep ettiğini açıklıyor.

Denetimden hızlı ilerleyen sistemler

İkinci kaygı, yapay zekânın araştırma ve mühendislik işlerinin giderek daha büyük kısmını otomatikleştirerek geliştirme döngüsünü hızlandırması. Georgetown Üniversitesi CSET’in raporu, yüksek derecede otomatikleşmiş yapay zekâ araştırma-geliştirmenin yetenek ilerlemesini hızlandırabileceğini ve sistemleri insanların anlaması ile kontrol etmesini zorlaştırabileceğini belirtiyor. Raporda bu, gerçekleşmiş bir sonuç değil, olası bir risk senaryosu olarak sunuluyor. 48

Mevcut kanıtlar önemli bir sınır da çiziyor: Yakın tarihli bir çalışma, ajanların insan desteği olmadan kayda değer araştırma-mühendisliği işlerini tamamlayabildiğini; fakat test edilen açık uçlu araştırma sorularında anlamlı ilerleme kaydedemediğini buldu. 49 Dolayısıyla, yapay zekânın kendi kendini sınırsız biçimde geliştirmesi bugün için kanıtlanmış değil. Kaygı daha çok yön ve hızla ilgili: Kısmi otomasyon bile değerlendirme, yönetişim ve düzeltme için elde kalan zamanı daraltabilir.

Jacob Coxon’ın istifası neden yankı buldu?

Coxon’ın kamuya açık istifası, genellikle kurum içinde kalan kaygılara insanî bir yüz kazandırdı. OpenAI ve Anthropic’te ön eğitim araştırmaları yürüttükten sonra şirketlerin sorumlu davranmadan kendi kendini geliştirebilen süper zekâya doğru yarıştığına inandığını söyledi. BBC’ye de teknoloji üzerinde çalışan kişilerin, ilerleme hızından ve bunun olası sonuçlarından “gerçekten korktuğunu” anlattı. 1

Bir kişinin istifası, onun tüm öngörülerini doğrulamaz. Fakat önemli bir iş yeri ikilemini görünür kılar: Koruma önlemlerini iyileştirmek için laboratuvarda kalmak mı daha etkili, yoksa iç kanallar yetersiz kalıyorsa ayrılıp kamuoyu önünde konuşmak mı?

Tek bir laboratuvar neden yarışı kolayca yavaşlatamıyor?

Temel sorun kolektif eylem. Tek başına yetenek geliştirmeyi yavaşlatan bir laboratuvar, rakiplerinin gerisinde kalmaktan çekinebilir. O laboratuvardaki çalışanların da sektör genelindeki yarış üzerinde etkisi daha da sınırlı olabilir.

Stanford İnsan Merkezli Yapay Zekâ Enstitüsü’nün (HAI) “Yapay zekâ yavaşlatılabilir mi?” tartışmasında, yetenek geliştirmede geniş çaplı bir yavaşlamanın hayata geçirilmesinin zor olduğu sonucuna varıldı. Buna karşılık panelistler, kamu kurumları veya nitelikli üçüncü taraflarca yürütülen bağımsız değerlendirmelerin standart hâle gelmesi; güvenlik, emniyet ve izlemeye daha fazla yatırım yapılması gerektiğini vurguladı. 18

Bu yaklaşım, yükü tek başına araştırmacıların omzuna bırakmaktan daha somut. Asıl soruyu kişisel vicdandan ortak kurallara taşıyor: Testleri kim yapacak, hangi risk eşiği aşıldığında ne olacak ve kurallara uyum nasıl doğrulanacak?

Sektörün “yavaşlayalım” çağrıları samimi mi?

Anthropic’ten Dario Amodei, OpenAI’dan Sam Altman ve Google DeepMind’dan Demis Hassabis, farklı ölçülerde de olsa sınır yapay zekâ geliştirmesinin yavaşlatılmasını veya “temposunun ayarlanmasını” kamuoyu önünde destekledi. 32 Tartışılan öneriler arasında, bağımsız dış değerlendiricilerin ileri yapay zekâ laboratuvarlarına sürekli erişim sahibi olması da var. 36

Ancak kamuya açık bir taahhüt, uygulanabilir bir kısıtlama anlamına gelmiyor. Eleştirmenler, baskın şirketlerin tasarladığı bir yapay zekâ dondurmasının onların gücünü pekiştirip daha küçük rakipleri dezavantajlı hâle getirebileceğine dikkat çekiyor. 34 İki durum aynı anda doğru olabilir: Bazı yöneticiler güvenlik risklerini samimiyetle ciddiye alırken, yerleşik şirketler yeni oyuncuların karşılamasının zor olduğu kurallardan yine de fayda sağlayabilir.

Bu nedenle yararlı ölçüt niyet okumak değil, doğrulanabilirliktir. Ciddi bir güvenlik taahhüdü şu uygulamalarla daha iyi değerlendirilebilir:

• Geliştiricinin tek başına kontrol etmediği bağımsız testler;
• Açık risk eşikleri ve eşik aşıldığında uygulanacak sonuçlar;
• Şeffaf olay bildirimi ve güçlü güvenlik uygulamaları;
• Anlamlı dış denetim;
• Güvenlik endişelerini dile getiren çalışanlar için koruma.

Bu haberler neyi gösteriyor, neyi göstermiyor?

Bu haberler, insanlığın yok oluşunun yakın olduğunu, tüm ileri yapay zekâ laboratuvarı çalışanlarının sıkıntı yaşadığını veya mevcut yapay zekâ sistemlerinin sınırsız biçimde kendi kendini geliştirebildiğini göstermiyor.

Ancak teknolojiye en yakın bazı kişilerin bu dönemi neden etik açıdan zor bulduğunu gösteriyor: Güçlü sistemler zaman baskısı altında test ediliyor; korkulan zararlar siber ve biyolojik kötüye kullanımdan kontrol kaybına uzanıyor; ürünlerin yayına alınmasını yönetecek kurumlar ise henüz yeterli bağımsızlığa veya yetkiye sahip olmayabilir. 2 15 18

Yapay zekâ güvenliği araştırmacıları için bu bileşim, teknik bir işi kişisel sorumluluk meselesine dönüştürebilir. Kalıcı yanıt, bu sorumluluğu yalnızca bireysel çalışanlara yüklemek değil; yönetmeye çalıştığı teknolojiyle aynı hızda ilerleyebilecek, bağımsız biçimde doğrulanabilir değerlendirme ve hesap verebilirlik sistemleri kurmaktır.