Yapay Zeka Güvenlik Karnesi: Hiçbir Şirket Zayıf Notun Üstüne Çıkamadı

Anthropic üst üste ikinci kez zirvede yer alsa da, yine vasatın ötesine geçemedi .

Değerlendirilen Altı Alan

Yedi bağımsız AI ve yönetişim uzmanından oluşan bir panel, her şirketi altı alanda gruplandırılmış 37 gösterge üzerinden değerlendirdi :

• Risk Değerlendirmesi — Şirketlerin biyolojik risk ve siber saldırı potansiyeli gibi tehlikeli yetenekleri nasıl değerlendirdiğini kapsayan 6 gösterge.
• Mevcut Zararlar — Dağıtılan sistemlerden kaynaklanan önyargı, yanlış bilgi ve gizlilik ihlalleri gibi belgelenmiş zararları ölçen 9 gösterge.
• Güvenlik Çerçeveleri — Şirketlerin dağıtım öncesi test, kırmızı takım çalışmaları ve sorumlu yayınlama için somut politikaları olup olmadığını inceleyen 4 gösterge.
• Varoluşsal Güvenlik — AGI ve süper zeka dahil olmak üzere gelişmiş AI sistemlerini kontrol etme planlarına odaklanan 4 gösterge.
• Yönetişim ve Hesap Verebilirlik — Yönetim kurulu denetimi, ihbarcı politikaları ve bağımsız denetimleri değerlendiren 4 gösterge.
• Bilgi Paylaşımı — Şeffaflık raporları, harici araştırmacı erişimi ve güvenlik uygulamalarının kamuya açıklanmasını inceleyen 10 gösterge.

Rapora göre, üst üste ikinci edisyonda hiçbir şirket varoluşsal güvenlik alanında D notunun üzerine çıkamadı . Uzman panel, değerlendirilen dokuz firmadan hiçbirinin AGI veya süper zekayı kontrol etmek için güvenilir bir plana sahip olmadığını belirtti .

xAI Neden FF Aldı? — En Sert Düşüş

xAI, Kış 2025 ile Yaz 2026 edisyonları arasında 4. sıradan 7. sıraya gerileyerek tüm değerlendirilen şirketler arasında en dik düşüşü yaşadı . Puanı 1.17'den (D seviyesi) 0.65'e (FF seviyesi) düştü . Bu çöküşe yol açan birkaç faktör var:

• Birden çok alanda başarısızlık: xAI, "Mevcut Zararlar" ve "Varoluşsal Güvenlik" alanlarının ikisinde de FF, Risk Değerlendirmesi ve Güvenlik Çerçeveleri'nde ise FF'ye yakın notlar aldı .
• Ankete katılmama: xAI, enstitünün anketine katılmayan şirketler arasındaydı; bu durum değerlendiricilerin şirketin iç uygulamalarını inceleme yeteneğini sınırladı .
• Rakipler yükselirken xAI'nin gerilemesi: Aynı dönemde Meta 6. sıradan 4. sıraya yükseldi .
• Zayıf karşılaştırmalı konum: Sadece xAI, DeepSeek ve Mistral genel olarak başarısız not alırken, xAI endeksteki en düşük puanlı şirketler arasında yer aldı .

Raporun Gündeme Getirdiği Altı Geniş Kapsamlı Endişe

FLI raporu ve Time, Axios gibi yayın organlarındaki haberler, altı sistemik soruna dikkat çekti :

1. Sektörün güvenlik taahhütlerinden geri adım atması. Anthropic, OpenAI, Google DeepMind ve Meta, sistemlerinin belirlenen tehlike eşiklerine yaklaşması halinde geliştirmeyi durdurma yönündeki önceki taahhütlerini zayıflattı veya tamamen kaldırdı. Rapor bunu "hedef tahtasını kaydırmak" olarak nitelendirdi .

2. Varoluşsal güvenlik tüm firmalar için en zayıf kategori olmaya devam ediyor. Üst üste ikinci endekste hiçbir şirket varoluşsal güvenlikte D notunun üzerine çıkamadı .

3. Düzenleme gelmeden gönüllü güvenlik önlemleri aşınıyor. FLI Başkanı Max Tegmark, AI şirketlerinin büyük riskleri kabul etmelerine rağmen yapay süper zekaya doğru yarışırken "bir uçuruma doğru koştukları" uyarısında bulundu .

4. Ticari yapay zekanın artan askeri kullanımı. Bir zamanlar askeri çalışmaları geniş ölçüde yasaklayan Anthropic, OpenAI ve Google gibi şirketler, askeri ortaklıklara yöneldi .

5. Küresel bir başarısızlık örüntüsü ortaya çıkıyor. Üç başarısız not, farklı bölgelerden şirketlere ait: xAI (ABD), DeepSeek (Çin) ve Mistral (Avrupa) .

6. Yetenekler, güvenlik önlemlerinin çok önünde gidiyor. Raporun yayınlanması, Cenevre'deki bir BM AI konferansına denk geldi. BM Genel Sekreteri António Guterres burada, "İnsanlık ve makinelerin bir arada yaşamasının şartlarını belirleyebilecek son nesil biz olabiliriz" uyarısında bulundu .

Sırada Ne Var?

FLI AI Güvenlik Endeksi yılda iki kez yayınlanıyor ve sektörün en temel güvenlik açıklarını kapatıp kapatmadığını düzenli olarak kontrol ediyor. Kış 2026 edisyonu, xAI ve DeepSeek gibi şirketlerin düşüş eğilimlerini tersine çevirip çeviremeyeceğini ve herhangi bir firmanın nihayet C+ tavanını kırıp kıramayacağını gösterecek.