Google'ın Gemini Yapay Zekası Nasıl Dev Bir Suç Şebekesinin Silahı Oldu?

Google'ın Kendi Yapay Zekası Gemini Nasıl Silaha Dönüştürüldü?

Grup, Gemini'yi iki kritik aşamada kullandı:

• Otomatik Sahte Site Üretimi: Saldırı kiti, bankaları, kargo şirketlerini (FedEx, USPS, PTT benzeri kuruluşlar), otoyol geçiş sistemlerini ve Google'ın kendi giriş ekranını taklit eden kimlik avı sitelerinin HTML kodlarını üretmek için Gemini'yi kullanıyordu . Yapay zeka, büyük ölçekte son derece şık ve inandırıcı sahte sayfalar yaratıyordu.
• Güvenlik Filtrelerini Atlatma: Operatörler, Gemini'nin kötüye kullanım filtrelerini, taleplerini masum görevler gibi göstererek aştı. Yapay zekaya doğrudan "bir kimlik avı sayfası yap" demek yerine, "bir kargo teslimat bildirimi için HTML sayfası oluştur" gibi talimatlar verdiler .

Yapay zeka ile site oluşturmayı otomatikleştirerek Outsider, dolandırıcı olmak isteyenler için teknik beceri engelini yerle bir etti ve manuel bir süreci endüstriyel ölçekli bir operasyona dönüştürdü. Google'ın şikayet dilekçesine göre ağ, 1 milyondan fazla dolandırıcı web sitesi kurdu ve ABD'deki cep telefonu kullanıcılarına 2 milyondan fazla dolandırıcı SMS'i gönderdi .

Davayla Ortaya Çıkan Şirket Gibi Örgütlenme Yapısı

Dava ve ilgili soruşturmalar, ağın neredeyse kurumsal diyebileceğimiz, sofistike bir örgütlenme yapısını ve en az beş özel birimini gün yüzüne çıkardı :

Yapay zeka destekli otomasyonla birleşen bu iş bölümü, Outsider Enterprise'ın geleneksel bir suç çetesi gibi değil, meşru bir yazılım hizmeti (SaaS) şirketi gibi bir verimlilik ve ölçekte çalışmasına imkan verdi .

Yapay Zeka Destekli Dolandırıcılığın Daha Geniş Etkileri

• Siber Suçun "Demokratikleşmesi": Outsider, yapay zekayı ucuz ve kullanımı kolay bir alet çantasına yerleştirerek, sıfır kodlama becerisine sahip bireylerin bile sofistike kimlik avı kampanyaları başlatmasını sağladı. Bu, hedef odaklı hack saldırılarından metalaşmış, yapay zeka destekli bir hizmet olarak dolandırıcılık dönemine geçişi işaret ediyor .
• Türünün İlk Örneği Hukuki Mücadele: Bu dava, Google'ın üretken yapay zeka ürünlerinin kötüye kullanımına özel olarak açtığı ilk dava . Teknoloji devlerinin artık sadece teknik engellemeyle yetinmeyip, suç tedarik zincirini bozmak için hukuk yoluna başvurmaya istekli olduğunu gösteriyor.
• Yeni Kamu-Özel Sektör İş Birliği Modeli: Google, FBI, AT&T, T-Mobile, Verizon ve Lumen Technologies ile iş birliği yaptı. Bu, yapay zeka güdümlü dolandırıcılığın engellenmesinin, yapay zeka sağlayıcıları, telekom operatörleri ve kolluk kuvvetleri arasında koordineli bir eylem gerektirdiğini gösteren yeni bir model .
• Yasal Boşluklara Dikkat Çekiliyor: Google bu davayı, mevcut yasaların net bir şekilde kapsamayabileceği, üretken yapay zekanın dolandırıcılık amacıyla silah haline getirilmesini suç sayan güncellenmiş yasalar için çağrı yapmak amacıyla da kullandı .

Önemli Not: Bu dava hukuki bir şikayettir, cezai bir mahkumiyet değildir. Outsider Enterprise hakkındaki iddialar mahkemede henüz kanıtlanmamıştır ve ağın operatörleri kamuoyuna açık bir şekilde isimlendirilmemiştir. 1,9 milyar dolar ve 3,87 milyon kredi kartı rakamları, şikayet dilekçesinde yer alan FBI tahminleridir, kesinleşmiş yargı kararları değildir .