Siber suçta yeni eşik: Yapay zekâ artık yalnızca metin yazmıyor, saldırı iş akışlarını hızlandırıyor

Google, Anthropic ve Microsoft’un bulgularındaki ortak nokta, yapay zekânın bütünüyle yeni bir sızma yöntemi yaratmasından ziyade yerleşik saldırı tekniklerini tekrarlanabilir, çok adımlı iş akışlarına dönüştürmesi oldu. Modeller; planlama, içerik ve kod üretimi, deneme, uyarlama ve ölçekleme aşamalarında saldırganlara destek verebiliyor. Kanıtlar en güçlü biçimde, yapay zekânın bilinen operasyonları hızlandırdığına ve koordine ettiğine işaret ediyor; anlamlı insan yönlendirmesi olmadan çalışan tamamen bağımsız sistemlere değil. 107

Yardımcı araçtan operasyon aracına

Google’ın izleyicisi, tek seferlik komutlardan entegre ajan tabanlı iş akışlarına geçişe dikkat çekti. Bunlar otomatik tarama, kimlik bilgisi toplama, sorun giderme ve altyapı/IP rotasyonu gibi görevleri kapsayabiliyor. Böylece geçmişte birden çok araç ve operatör gerektiren bir saldırı, çok daha hızlı yinelenen bir sürece sıkışabiliyor. 11

Microsoft’un değerlendirmesine göre, kötü amaçlı yapay zekâ kullanımının büyük bölümü hâlâ metin, kod veya medya üretimi etrafında dönüyor. Gözlenen ya da öne sürülen kullanımlar arasında hedef araştırması ve profilleme, çok dilli hedef odaklı kimlik avı mesajları, zararlı yazılım ve betik geliştirme veya hata ayıklama, altyapı iskeleti kurma, çalınan verileri özetleme ve sosyal mühendislik materyali hazırlama bulunuyor. Bu tablo, uçtan uca özerk ele geçirmeden çok mevcut saldırıların üretken yapay zekâyla güçlendirilmesi anlamına geliyor. 10

Devlet bağlantılı aktörler ve siber suç grupları

Anthropic, Rusya, Çin ve İran bağlantılı aktörlerin yanı sıra finansal motivasyonlu grupların Claude’u kötüye kullanmaya çalıştığı faaliyetleri engellediğini bildirdi. Şirketin vaka çalışmaları; siber operasyonlar, etki operasyonları, gözetim, dolandırıcılık, biyolojik kötüye kullanım, konvansiyonel silah çalışmaları ve model damıtmayı kapsıyor. Reuters’ın aktardığı örnekler arasında Ukraynalı yetkilileri hedef alan Rusya bağlantılı bir operasyon ile Çinli yapay zekâ şirketlerinin Claude’u kötüye kullandığı iddiaları yer aldı. Bunlar şirketlerin atıfları ve seçilmiş vaka analizleridir; tüm tehdit faaliyetlerinin ölçümü olarak görülmemelidir. 724

Ajan tabanlı kullanımın asıl önemi, saldırı döngüsünde ortaya çıkıyor: Bir saldırgan, güvenlik ürünleri tarafından işaretlenen kodu değiştirmek veya yeniden kurmak için modelden yardım isteyebilir; ele geçirilmiş hesap bilgilerini ya da API anahtarlarını düşük maliyetli işlem gücü için kullanabilir; ardından üret-test et-düzelt-dağıt döngüsünü hızla tekrarlayabilir. Risk, tek bir kötü niyetli komuttan çok bu geri besleme döngüsünde yatıyor. 87

ShinyHunters vakası: Eski yöntem, daha güçlü hedefleme

Microsoft, kurumsal Microsoft 365 hesaplarını hedef alan geçiş anahtarı ve tek oturum açma (SSO) temalı sosyal mühendislik kampanyalarını ShinyHunters, Helix ve bağlantılı şantaj gruplarıyla ilişkilendirdi. Bildirilen modelde önce keşif yapılıyor, sonra BT destek personeli taklidiyle erişim sağlanmaya ve bulut verileri çalınmaya çalışılıyor. Bu vaka, yapay zekânın daha iyi hedefleme ve kolay ölçeklenen kandırma mesajlarıyla güçlendirebildiği geleneksel kimlik bilgisi hırsızlığını gösteriyor; yapay zekânın saldırının tamamını bağımsız yürüttüğünün kanıtı değil. 3

Benzer biçimde, marka ve destek hizmeti taklidi de yapay zekânın maliyet avantajından yararlanabiliyor. Gerçekçi görünen destek sayfaları, kimlik avı e-postaları, sohbet metinleri, klonlanmış ses veya görseller ve bunların çok dilli sürümleri daha düşük maliyetle hazırlanıp yenilenebiliyor. Savunma ekipleri bu nedenle daha yüksek hacimde, daha kişiselleştirilmiş ve sürekli değişen mesajlarla karşı karşıya kalıyor. Bilinen şablonlara ya da bariz dil hatalarına dayalı filtreler daha az etkili hâle gelebiliyor. Microsoft, kimlik avı yemlerinin hazırlanmasında ve çeviride yapay zekâ kullanımını özellikle gözlemlediğini belirtti. 10

Model damıtma: Yapay zekâ modelleri de hedefte

Tehdit tablosunun ayrı bir boyutu model damıtma ya da model çıkarma saldırıları. Google, Gemini’ye sistematik biçimde sorgu göndererek tescilli yetenekleri çıkarmaya yönelik girişimleri, sıradan siber suçtan öte, fikrî mülkiyet ve yetenek güvenliği sorunu olarak tanımladı. Bu tür saldırılarda, meşru API erişimi üzerinden yapılan yoğun sorgularla gelişmiş bir modelin faydalı davranışlarının yeniden üretilmesi hedeflenebiliyor. Sağlayıcılar ise kötüye kullanımı tespit etmeye, modellerin muhakeme kabiliyetlerini ve güvenlik önlemlerini korumaya çalışıyor. Kamuya açık haberlerde çok yüksek sayıda istem içeren kampanyalardan söz edildi. 118

Savunmacılar için neden maliyet dengesi değişiyor?

Yapay zekâ; taslak yazımı, yerelleştirme, araştırma, kod yardımı ve yinelenen aldatma faaliyetlerinin marjinal maliyetini düşürüyor. Bu, daha sınırlı kaynağa sahip suç grupları ve hacktivistlere, geçmişte daha büyük ekiplerle ilişkilendirilen kapasitenin bir bölümünü sağlayabilir. Savunmacıların da meşru iletişimleri, daha kişiye özel ve sık değişen zararlı içeriklerden ayırması zorlaşıyor. Raporların işaret ettiği sonuç, her yapay zekâ destekli saldırının mutlaka başarılı olacağı değil; hız ve ölçek bakımından oluşan asimetri. 610

Sorumlu yapay zekâ tartışması neden siber güvenliğin ötesine geçiyor?

Erişim denetimleri, model kabiliyetleri ve izleme mekanizmalarına ilişkin sorular yalnızca siber suçla sınırlı değil. Anthropic’in raporu, siber operasyonların yanı sıra biyolojik ve konvansiyonel silah geliştirmeyle ilişkili olası kötüye kullanımları da ele aldı. Bu nedenle tartışma; kötüye kullanım izleme, hesap ve API denetimleri, hız sınırları, model çıkarma tespiti, olay istihbaratı paylaşımı ve yüksek sonuç doğurabilecek alanlar için güvenlik önlemlerini kapsıyor. 162

Önemli bir not: Bu yayınlar, tespit edilen ve engellenen vakaları belgeliyor. Dolayısıyla ortaya çıkan kabiliyetleri ve yeni operasyonel eğilimleri gösteriyorlar; ancak özerk saldırıların artık siber suçun baskın biçimi olduğunu tek başlarına kanıtlamıyorlar. 7