Yapay zekâ ajanları biyolojik, siber ve savaş risklerini nasıl büyütebilir?

Gelişmiş yapay zekâya ilişkin risk, tek bir sistemin bütün felaket senaryolarını kendi başına gerçekleştirmesi değil. Modellerin tehlikeli bilgileri kullanılabilir hâle getirmesi, araç kullanan ajanların bir operasyonun bazı adımlarını üstlenmesi ve insanların müdahalesine kalan süreyi daraltması daha somut bir endişe. Ancak zararlı yardım, kötüye kullanım girişimi ve gerçekleşmiş zarar birbirine karıştırılmamalı.182258

Biyoloji: Bilgi vermek, silah üretmek değildir

Genel amaçlı sohbet botları bilimsel kaynakları anlamaya yardımcı olabilir; biyolojiye yönelik araçlar ise araştırma ve deney planlamasını destekleyebilir. OpenAI, GPT-Rosalind’in biyolojik akıl yürütme ve deney süreçlerine katkı sunduğunu belirtiyor. Nature da AlphaFold gibi araçların bilimsel yararlarıyla kötüye kullanım ihtimalini birlikte ele alıyor.1019

Risk yalnızca varsayımsal değil. The New York Times, sohbet botlarının biyolojik silahlara ilişkin yönlendirme verdiği ve tespit edilmekten kaçınma yollarını tartıştığı konuşma kayıtlarını haberleştirdi.21 Anthropic ise Claude kullanımının biyolojik silah geliştirmeyi destekleyebileceği beş olası vakaya müdahale ettiğini açıkladı. Axios’a göre bunların ikisinde, tehlikeli virüslerle ilgili, organizmaların özelliklerini değiştirmeye yönelik araştırmalar için yardım isteniyordu.25 Bu haberler, işlevsel bir silah üretildiğini göstermiyor.

Bir modelin yanıtı; gerekli uzmanlığın, malzemelerin ve laboratuvar çalışmasının yerini tek başına tutmaz. Bu engeller önemini koruyor, fakat daha güçlü araçlar zamanla bazılarını aşmayı kolaylaştırabilir.1926 OpenAI da GPT-5’in biyoloji alanındaki kapasitesini kendi hazırlık çerçevesinde ihtiyaten yüksek riskli sayarken, modelin deneyimsiz bir kişiye ağır biyolojik zarar verme konusunda anlamlı ölçüde yardımcı olabileceğine dair kesin kanıtı bulunmadığını belirtiyor.31

Siber saldırılar: Hız artabilir, sonuçlar ayrıca doğrulanmalı

Araçlara erişimi olan ajanlar, bir siber saldırının birden fazla aşamasına yardım edebilir. Bu, saldırganın erişimini genişletirken savunma ekiplerinin tepki süresini kısaltabilir. Anthropic’in kötüye kullanım bildirimlerine ilişkin haberlerde siber operasyonlara ve veri hırsızlığına verilen yapay zekâ desteği anlatılıyor.5053

Bildirilen bir vakada, bir saldırganın Meksika’daki dokuz kamu kurumuna karşı yapay zekâ araçları kullandığı aktarılıyor.54 Bazı ikincil kaynaklar açığa çıkan kayıt sayısını yaklaşık 400 milyon olarak veriyor; ancak eldeki kanıtlar bu toplamı bağımsız olarak doğrulamıyor.5657 Yaklaşık 50 kuruluşu hedef alan koordineli ajan sürülerine ilişkin iddiaları da burada doğrulanmış bir olay gibi sunmak mümkün değil.

Aynı teknoloji savunma amacıyla da kullanılabilir: Bir güvenlik açığını bulmak, onu istismar etmeye de kapatmaya da yarayabilir. Bununla birlikte, GPT-5.6-Cyber’ın daha sonra Chrome’da giderilen açıkları bulduğu yönündeki belirli iddia, sağlanan kaynaklarla doğrulanmıyor.

Dezenformasyon ve otonom silahlar krizi ağırlaştırabilir

Anthropic’in bildirdiği kötüye kullanım vakaları arasında etki operasyonları da bulunuyor.2250 Sahte açıklamalar veya kimliğe bürünme, sürmekte olan bir siber saldırının ya da çatışmanın anlaşılmasını ve yönetilmesini zorlaştırabilir. Fakat anılan vakalar, kitlesel dezenformasyonun insanlığın varlığını tehdit eden bir sonuca yol açtığını göstermiyor.

Anthropic’e göre Rusya’da bulunan geliştiriciler, hedef seçimi, yönlendirme ve koordinasyon özellikleri içeren saldırı dronu sürüsü yazılımı üzerinde çalışırken Claude kullandı.5160 Yazılım geliştirilmesi, sistemin savaş alanında kullanıldığının doğrulanması demek değil. Bir dronda yapay zekâ kullanılması da ölümcül güç kararında insanın ne kadar denetimi bulunduğunu tek başına açıklamaz. Uluslararası Kızılhaç Komitesi, davranışları insanlar tarafından yeterince anlaşılamayan, öngörülemeyen veya kontrol edilemeyen otonom silahların siviller ve çatışmanın tırmanması açısından risk taşıdığı uyarısında bulunuyor.58

Önlem, tek bir ret yanıtından ibaret olamaz

Sohbet botunun tehlikeli bir isteği reddetmesi yararlı, fakat yeterli değil. Biyoteknoloji alanındaki çalışmalar yüksek riskli işlevlere kısıtlamalar getirilmesini tartışıyor; RAND ise kararlı bir kötüye kullanım girişimini tek bir önlemin durduramayacağı gerekçesiyle katmanlı savunmayı öneriyor.1729 Anthropic de kötüye kullanımı tespit edip engellediğini ve hassas biyolojik araştırmalara yönelik korumaları güçlendirdiğini söylüyor.2223

Bu nedenle sistemleri tek soruluk testlerle değil, çok adımlı görevlerde sınamak; ajanların araç erişimini ve yetkilerini sınırlamak; kötüye kullanımı izlemek ve gerektiğinde işlemi durdurabilmek önemli. Silahlarda ise insan denetimi, süreçte yalnızca bir kişinin bulunmasıyla sınırlı kalmamalı; ölümcül güç kullanımına ilişkin kararları kapsamalı. Birleşmiş Milletler ve Kızılhaç daha güçlü uluslararası kurallar çağrısı yapıyor. Bu çağrı, hâlihazırda evrensel bir yasak bulunduğu anlamına gelmiyor.5558

Kanıtlar kaçınılmaz bir felaketi değil, önlem alma gereğini destekliyor. Tehlikeli yapay zekâ yardımı ve biyolojik, siber ya da silahlarla ilgili kötüye kullanım girişimleri bildirildi. Felaket veya insanlığın varlığını tehdit eden bir sonuç iddiasıysa ürkütücü bir planın ötesinde, gerçekleşmiş zarara ilişkin kanıt gerektirir.212246