Microsoft ve Nvidia, Otonom Yapay Zeka Ajanlarının Güvenliği İçin Kapsamlı Kurallar Getirdi

Katmana göre derinlemesine savunma — Microsoft'un Mayıs 2026 tarihli güvenlik blogu dört hafifletme katmanı tanımlıyor: model katmanı (eğitim verileri, ince ayar, reddetme davranışları), güvenlik sistemi katmanı (çalışma zamanı içerik filtreleme, güvenlik korkulukları, günlükleme, gözlemlenebilirlik), uygulama katmanı (izinler, iş akışları, yükseltme yolları) ve konumlandırma katmanı (şeffaflık belgeleri ve UX açıklamaları) . Haziran ayında yayınlanan daha sonraki bir blog yazısı ise daha ayrıntılı dört katmanlı bir görünüm ekliyor: model katmanı, güvenlik sistemi katmanı, meta-prompt ve temellendirme katmanı ve ajan katmanı (araç kullanma izinleri ve insan onay döngüleri) .

MCP Sunucuları için Kiracı Seviyesinde İzin Listeleri — Kuruluşlar, onaylı bir Model Bağlam Protokolü (MCP) yayıncısı ve sunucusu listesi tutmalıdır. Microsoft MCP kataloğu, onaylı birinci taraf sunucular sağlar ve tüm harici bileşenler yazılım tedarik zincirinin bir parçası olarak kabul edilir. Öneri, MCP bağlantılarında "Tümüne izin ver" seçeneğini devre dışı bırakmak ve bir ajanın ihtiyaç duyduğu belirli araçları etkinleştirmektir .

Ajan Dağıtımları için SBOM Oluşturma — Araç bağımlılıklarını içeren Yazılım Malzeme Listesi (SBOM) oluşturma; MCP sunucularının kurulumdan önce imza ve kaynak doğrulaması yapılması. Microsoft ayrıca, araç açıklamalarındaki gizli talimatlar için kayıt defteri taraması ve tüm harici araç tanımları için sürüm sabitleme ve değişiklik izleme önermektedir .

Politika Tabanlı Güvenlik Korkulukları — İzlemenin ötesinde, kuruluşlar ajanların yapmasına izin verilenleri belirlemek için politika tabanlı kontroller uygulayabilir. Bu kontroller, Agent 365 SDK ve Windows politika altyapısı aracılığıyla uygulanır . Microsoft'un Windows Geliştirici Blogu'nda belirtildiği gibi: "Sınırlama, ajanların neye erişip ne yapabileceğini sınırlar, böylece deterministik olmayan davranış kontrol edilemez riske dönüşmez" .

Kontrol Düzlemi Yönetişimi — Bir kuruluştaki tüm ajanlar için merkezi sahiplik, kimlik yaşam döngüsü yönetimi ve uyumluluk uygulaması. Microsoft'un Azure Bulut Benimseme Çerçevesi, mevcut kimlik, veri yönetişimi ve güvenlik uygulamalarıyla uyumlu, merkezi ve uygulanabilir bir yönetişim ve güvenlik taban çizgisi oluşturulmasını önerir .

Bu Kurallar Güvenlik Risklerini Nasıl Ele Alıyor?

Çerçeve, tüm saldırı zincirini hedefler: tedarik zinciri zehirlenmesi (izin listeleri ve SBOM'lar aracılığıyla), ayrıcalık yükseltme (MXC izolasyonu aracılığıyla), veri sızdırma (çalışma zamanı güvenlik korkulukları ve içerik filtreleme aracılığıyla) ve yetkisiz araç kullanımı (izin kontrolleri ve insan onay döngüleri aracılığıyla) . Microsoft'un bir yıl boyunca yapılan ajan sistemleri sızma testinin ardından oluşturduğu hata modları taksonomisi, güvenli ajanlar arası mimariyi de ekliyor: yüksek riskli senaryolarda, ajan kimliği bir iş akışındaki konumundan varsayılmamalı, kriptografik olarak oluşturulmalıdır .

Daha Geniş Endüstri Değişimi: Daha Sıkı Kontrollerle Aktif Siber Savunma

2026 yılının ortalarında iki büyük girişim, endüstrinin siber güvenlikte yapay zeka ajanlarını hem saldırı hem de savunma amaçlı kullanmaya yöneldiğini ve aynı anda daha sıkı güvenlik korkulukları uyguladığını gösteriyor.

Microsoft'un Project Perception'ı

27 Temmuz 2026'da duyurulan Project Perception, uyarı oluşturmanın ötesine geçerek sürekli otomatik eyleme geçen bir ajan güvenlik sistemidir . Microsoft, bunu "insanları sıkı bir şekilde kontrol altında tutarken makine hızında akıl yürütebilen, önceliklendirebilen ve harekete geçebilen sürekli öğrenen bir savunma sistemi" olarak tanımladı .

• Sistem, üç uzman ajan türü kullanır: kırmızı ajanlar (saldırgan gibi yoklar), mavi ajanlar (tehditleri araştırır ve önceliklendirir) ve yeşil ajanlar (düzeltir ve sağlamlaştırır). Bu ajanlar, bul-önceliklendir-düzelt döngüsü boyunca koordineli çalışır . Ajanlar, düzenlenmiş iş akışları aracılığıyla istihbarat paylaşır; böylece "bir bulgu, proaktif olarak ve her adımda bir devir teslim olmadan bir düzeltmeye dönüşür" .
• Platform, Microsoft'un ilk şirket içi siber güvenlik modeli olan MAI-Cyber-1-Flash üzerine inşa edilmiştir. Microsoft, bu modelin "öncü modellerin maliyetinin %50'siyle dünya standartlarında performans sunduğunu" belirtiyor .
• Microsoft'un, kendi güvenlik operasyonlarının önemli bir kısmını bu yapay zeka modeline kaydırdığı ve bilgi işlem maliyetlerini yaklaşık %50 oranında azalttığı bildiriliyor .
• Project Perception, 3 Ağustos 2026'da Microsoft Defender içinde halka açık önizlemeye sunuldu . Yüksek etkili eylemler hala insan onayı gerektiriyor .

Neden önemli: Bu, yapay zeka ajanlarına siber savunmada aktif, otonom roller verildiğinin somut bir örneğidir: sistemleri yoklama, güvenlik açıklarını yama ve insan yönlendirmesini beklemeden tehditlere yanıt verme. Daha sıkı kontrol, yukarıdaki sınırlama kurallarından geliyor: Project Perception ajanları hala MXC konteynırları içinde, politika tabanlı güvenlik korkulukları altında, gözlemlenebilirlik ve insan denetimi ile çalışıyor .

Nvidia'nın Açık Güvenli Yapay Zeka İttifakı (OSAA)

27 Temmuz 2026'da — otonom yapay zeka ajanlarının kontrolünü kaybetmenin risklerini vurgulayan yüksek profilli bir Hugging Face olayından günler sonra — kurulan OSAA, yapay zeka ajanları için açık kaynaklı güvenlik araçları geliştiren bir endüstri koalisyonudur .

• Kurucu üyeler (37 kuruluş): Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Dell, Hewlett Packard Enterprise, Linux Vakfı, Hugging Face, Adobe, Capital One, Salesforce, SAP, SpaceXAI ve diğerleri . OpenAI ve Google'ın katılmadığı belirtiliyor .
• Hızlı büyüme: Bir hafta içinde ittifak 120'den fazla üye kuruluşa ulaştı .
• Önemli açık kaynak katkıları: Nvidia, ajan davranışını test etmeyi, izlemeyi, denetlemeyi ve yönetmeyi kolaylaştıran NOOA (Nvidia Open Omniverse Agent) araştırma koşum takımını GitHub'da açık kaynak olarak yayınladı . İttifak ayrıca, Linux Vakfı aracılığıyla şeffaf güvenlik açığı ifşası ve koordineli savunma için kılavuzlarını önerdi .
• Kapsam: Araçlar, tüm yapay zeka güvenlik yığınını kapsar: kimlik ve izinler, ajan koşum takımları, çalışma zamanı güvenlik korkulukları, gözlemlenebilirlik, değerlendirme ve olay müdahalesi .

Neden önemli: OSAA, hiçbir satıcının otonom ajanları tek başına güvence altına alamayacağına dair kolektif bir endüstri kabulünü temsil ediyor. İttifakın açık modellere ve paylaşılan araçlara odaklanması, kapalı, tescilli yaklaşımlara kasıtlı bir karşı noktadır — varsayım, güvenlik araçlarına daha geniş topluluk erişiminin saldırganları geride bırakacağı yönündedir . Nvidia'nın belirttiği gibi: "Açık modeller, savunma yeteneklerini demokratikleştirir, savunucular için şeffaflığı artırır, verileri korurken siber savunmayı mümkün kılar ve öncü kapalı modelleri özelleştirilebilir, yerelleştirilmiş kontrollerle tamamlar" .

Özet: Çifte Trend

Ortaya çıkan tablo net: Yapay zeka ajanlarını aktif, otonom siber savunma rollerine sokan şirketler, aynı zamanda bu ajanların yeni nesil güvenlik tehditlerine dönüşmesini engelleyecek sınırlama ve yönetişim yapılarını inşa etmek için yarışıyor.