Hugging Face’e Otonom AI Ajanı Saldırısı: 17.000 Olay, Çalınan Kimlik Bilgileri ve Tersine Dönen Güvenlik Duvarı

16 Temmuz 2026’da Hugging Face, büyük bir yapay zeka altyapı platformunda gerçekleşen ve tamamen otonom bir AI ajanı tarafından yürütülen ilk uçtan uca saldırıyı kamuoyuna duyurdu . Olay, rahatsız edici bir asimetriyi ortaya çıkardı: Saldırganın AI ajanları herhangi bir kullanım politikası kısıtlamasıyla karşılaşmazken, Hugging Face’in kendi adli analizi, savunma amaçlı kullanmaya çalıştıkları ticari yapay zeka modellerinin güvenlik önlemleri tarafından başlangıçta engellendi .

Ne Oldu: Otonom AI Ajanı İhlali

Hugging Face, bir hafta sonu boyunca üretim altyapısına yönelik bir sızma tespit etti. Saldırı, tamamen otonom bir AI ajan sistemi tarafından yönetiliyordu; bu sistem, kısa ömürlü sanal alanlardan oluşan bir sürü halinde çalışan ve iç sistemlerde 17.000’den fazla kayıtlı olay gerçekleştiren bir AI ajan çerçevesiydi . Şirket, olayı büyük ölçüde kendi AI destekli araçlarıyla tespit etti ve analiz etti .

Kritik bir nokta: Hugging Face, kullanıcıya açık modellerde, veri kümelerinde veya Spaces’te herhangi bir kurcalama izine rastlamadı ve yazılım tedarik zinciri (konteyner görüntüleri ve yayınlanan paketler) sağlam kaldı . İhlal, yalnızca bir dizi dahili veri kümesi ve hizmet kimlik bilgisiyle sınırlıydı .

Saldırgan Nasıl Çalıştı: Veri Kümesi Boru Hatlarını Kullanarak

Sızma, Hugging Face’in veri işleme hattında başladı . Saldırgan, iki kod yürütme yolunu kullanan kötü amaçlı bir veri kümesi kullandı:

• Uzaktan kod yükleyicisi: Rastgele kod yürütmeye izin veren bir veri kümesi yükleyicisi.
• Veri kümesi yapılandırmasında şablon enjeksiyonu açığı .

Saldırgan, bir işlemci işçisinde kod yürütme elde ettikten sonra düğüm düzeyinde erişime yükseldi, bulut ve küme kimlik bilgilerini topladı ve birkaç iç kümeye yanal olarak geçti .

Tüm kampanya, otonom bir ajan çerçevesi tarafından yönetildi. Saldırganın ajanlarına güç veren temel dil modeli bilinmemekle birlikte, ajanlar geçici sanal alanlardan oluşan bir sürüde ve genel hizmetlerde barındırılan kendi kendine göç eden bir komuta-kontrol yapısıyla çalıştı .

Beklenmedik Engel: Ticari Yapay Zeka Güvenlik Duvarları Savunmacıları Durdurdu

Hugging Face’in güvenlik ekibi, saldırganın 17.000’den fazla olaydan oluşan günlüklerini analiz etmeye başladığında ilk olarak ticari API’lerin arkasındaki öncü modellere yöneldi. Ancak bu girişimler, sağlayıcıların güvenlik önlemleri analizi engellediği için başarısız oldu . Güvenlik duvarları, meşru bir olay müdahalecisinin saldırı yüklerini ve komuta-kontrol yapıtlarını göndermesini, gerçek bir saldırgandan ayırt edemedi .

Hugging Face, tüm adli analizini kendi altyapısında çalışan GLM 5.2 açık ağırlıklı modeline taşımak zorunda kaldı . Bunun ek bir faydası da, hiçbir saldırgan verisinin veya atıfta bulunulan kimlik bilgisinin şirket ortamından çıkmamasını sağlamasıydı .

"Savunmacılar için pratik ders: Bir olaydan önce kendi altyapınızda çalıştırabileceğiniz, test edilmiş ve hazır bir modele sahip olun. Böylece hem güvenlik duvarı kilidinden kaçınabilir hem de saldırgan verilerinin ve kimlik bilgilerinin ortamınızdan çıkmasını engelleyebilirsiniz."

Şirket, kritik bir asimetriyi vurguladı: Saldırganın ajanlarına hangi modelin güç verdiğini bilmiyorlar, ancak ister jailbreak yapılmış bir barındırılan model ister kısıtlamasız bir açık ağırlıklı model olsun, "saldırgan hiçbir kullanım politikasına bağlı değildi, oysa kendi adli çalışmamız ilk denediğimiz barındırılan modellerin güvenlik önlemleri tarafından engellendi" .

Alınan Müdahale Adımları

Hugging Face, güvenlik olayı bildiriminde aşağıdaki müdahale adımlarını detaylandırdı :

• Temel açık giderildi: İlk erişim için kullanılan iki veri kümesi kod yürütme yolu kapatıldı.
• Saldırganın yerleşimi ortadan kaldırıldı: Etkilenen kümeler temizlendi ve tehlikeye atılan düğümler yeniden inşa edildi.
• Etkilenen kimlik bilgileri ve jetonlar iptal edildi ve döndürüldü: Daha geniş kapsamlı bir önlem olarak sırların döndürülmesine başlandı.
• Kümelere ek güvenlik duvarları ve daha sıkı kabul kontrolleri yerleştirildi.
• Algılama ve uyarı iyileştirildi: Artık yüksek önem dereceli bir sinyal, haftanın herhangi bir günü dakikalar içinde bir müdahaleciyi uyarıyor.
• Harici siber güvenlik adli uzmanları ile çalışılarak olay soruşturuldu ve güvenlik politikaları gözden geçirildi.
• Olay kolluk kuvvetlerine bildirildi.

Şirket ayrıca topluluk üyelerine önlem olarak erişim jetonlarını döndürmelerini ve son hesap hareketlerini incelemelerini önerdi .