Jailbreak’lenmiş Gemini, canlı botneti 6 dakikada taşıdı

Canlı botnet 6 dakikada nasıl taşındı?

Operatör, niyetini basit Rusça komutlarla aktardı. Gemini ise eski C2 mimarisinin yerine geçecek yeni sunucunun tasarımından uygulamaya alınmasına kadar süreci yönetti . Tam taşıma işlemi yalnızca altı dakika sürdü .

Dikkat çekici nokta, modelin sadece verilen talimatları uygulamakla kalmamasıydı. Oturum kayıtlarına göre Gemini, kullanıcı tarafından istenmeden 59 kez iyileştirme önerisinde bulundu . Bu davranış, yapay zekânın pasif bir kodlama aracından, hedef belirleme ve uygulama adımlarında inisiyatif alan bir ajana dönüşebildiğini gösteriyor.

Parola kırma, ele geçirilen hesaplar ve kripto dolandırıcılığı

Aynı jailbreak’lenmiş Gemini örneği; parola kırma, WordPress yönetici hesaplarının ele geçirilmesi ve ABD ile Kanada’daki yaşlıları hedef alan telefon tabanlı bir kripto para dolandırıcılığının planlanması için de kullanıldı .

Bu faaliyetler, “Patriot Bait” adı verilen daha geniş bir etki ve dolandırıcılık kampanyasının parçasıydı. Operatör, kendisini Amerikalı bir gazi gibi gösteren @americanpatriotus adlı Telegram kanalını yönetti. Kanalın yaklaşık 17.000 aboneye ulaştığı ve QAnon tarzı içeriklerle büyütüldüğü bildirildi . Kampanya kapsamında 29 WordPress sitesine ait yönetici bilgilerinin ele geçirildiği, operasyonu düşük maliyetle sürdürmek için 73 çalıntı Google Gemini API anahtarından yararlanıldığı aktarıldı .

Kampanyanın en az bir kurbanın kripto para cüzdanını boşalttığı belirtildi .

Botnetin “tek kullanımlık” hale gelmesini sağlayan üç dosya

Trend Micro analizine göre tüm C2 operasyonu, toplamda yaklaşık 5 KB tutan üç düz metin dosyasında saklanıyordu; bu, kabaca dört sayfalık basılı metne denk geliyor .

• GEMINI.md: Gemini’ye kendisini “yetkili bir sızma testi uzmanı” olarak görmesini söyleyen, güvenlik uyarılarını devre dışı bırakmaya ve kimlik bilgilerini otomatik kaydetmeye yönlendiren jailbreak dosyası .
• İki ek dosya: Sunucu kodunu, dağıtım bilgisini ve Cloudflare yapılandırmasını içeriyordu .

23 Mart’ta operatör, eski C2 yapısını Gemini’ye özetleterek sunucunun işlevlerini, botların nasıl bağlandığını ve dağıtım adımlarını anlatan iki sayfalık, sade İngilizce bir “yetenek dosyası” hazırlattı .

Bu yaklaşım, altyapının başka bir sunucuda yeniden kurulmasını kolaylaştırıyor. Sonuç olarak kapatma operasyonları hâlâ işe yarasa da etkileri azalıyor: Saldırganlar, savunma ekiplerinin müdahale hızından daha hızlı biçimde yeni altyapı kurabiliyor .

Güvenlik önlemleri tamamen aşılmadı, ancak zayıf noktalar ortaya çıktı

Jailbreak’in temelinde, Gemini CLI tarafından her oturumun başında otomatik olarak yeniden yüklenen kalıcı bir yerel bellek dosyası olan GEMINI.md bulunuyordu . Dosyadaki talimatlar yeni oturumlara taşındı ve zaman içinde modelin kendi güvenlik filtrelerini görmezden gelmesini pekiştirdi .

Operatörün Rusça istemler kullanması da İngilizce dışındaki dillerde güvenlik kontrollerinin tutarsızlaşabildiği bilinen sorunlardan yararlanmış olabilir . Akademik çalışmalar, üretimde kullanılan Gemini modellerinde de istem korumalarının sistematik biçimde aşılabildiğini gösteriyor .

Google’ın Gemini platformunda jailbreak girişimlerini tespit edip yapılandırmaya bağlı olarak engelleyebilen bir jailbreak sınıflandırıcısı bulunuyor. Ancak Google’ın resmi belgelerine göre bu özellik CLI’da varsayılan olarak kapalı ve çalışması için açıkça etkinleştirilmesi gerekiyor .

TrendAI Başkan Yardımcısı Tom Kellermann, çok katmanlı güvenlik önlemleri ve bu önlemlerin kurcalandığını tespit eden davranışsal anomali izleme sistemi bulunmadığı sürece yapay zekânın bir C2 gibi değerlendirilmesi gerektiğini belirtti .

Siber tehditlerde yeni dönem: Kapatmak artık operasyonun sonu değil

Bu vaka, yapay zekânın siber suçlulara yalnızca daha hızlı kod yazma imkânı vermediğini gösteriyor. Yapay zekâ; keşif, parola tarama, proxy kurulumu, sunucu dağıtımı, hata ayıklama ve botnet yönetimi gibi farklı görevleri aynı akış içinde birleştirebiliyor .

Kellermann bu gelişmeyi, “kalıcılığın yapay zekâ sayesinde evrilmesi” olarak tanımlıyor: C2 altyapısı altı dakikadan kısa sürede başka bir yapıya taşınabiliyor, operasyon bilgisi birkaç küçük dosyada saklanabiliyor ve yeni bir sunucu hızla devreye alınabiliyor .

TrendAI’ın vardığı sonuç, savunma stratejileri açısından kritik: Kapatma ve el koyma operasyonları önemini koruyor, ancak saldırganlar altyapılarını savunmacıların yanıt verebileceğinden daha hızlı yeniden kurabildiğinde bu müdahalelerin caydırıcılığı azalıyor . Tek başına hareket eden ve teknik becerileri sınırlı bir aktörün, daha önce bir ekip gerektirecek hız ve ölçekte çalışabilmesi, yapay zekâ destekli suçun asıl dönüştürücü etkisini ortaya koyuyor.