Model ağırlıkları neden bu kadar kritik? Khanna’dan beş teknoloji devine güvenlik soruları

Ro Khanna, OpenAI, Anthropic, Google, Meta ve SpaceX’ten Çin’in ya da başka hasım aktörlerin şirketlerin yapay zekâ modeli ağırlıklarına izinsiz erişmeye çalışıp çalışmadığını bildirmelerini ve bu varlıkları korumak için hangi siber güvenlik önlemlerini aldıklarını açıklamalarını istedi. Kaygısı şu: Model ağırlıklarını ele geçiren biri, sistemi baştan eğitmek zorunda kalmadan modelin kendisine çok daha doğrudan erişebilir. Khanna, böyle bir hırsızlığın ABD’nin yapay zekâ alanındaki üstünlüğünü aşındırabileceğini ve ulusal güvenlik riski yaratabileceğini düşünüyor.4713

Ancak bu, beş şirketten herhangi birinin model ağırlıklarının çalındığının kanıtlandığı anlamına gelmiyor. Talep, böyle girişimlerin olup olmadığını ve şirketlerin bunlara karşı ne yaptığını öğrenmeye yönelik. Mevcut haberlerde gerçek model ağırlığı hırsızlığına ilişkin bilinen vaka sayısının az olduğu belirtiliyor.11

Model ağırlıklarının çalınması ile damıtma arasındaki fark

Model ağırlıkları, eğitim sırasında öğrenilen ve modelin çalışmasını sağlayan sayısal parametrelerdir. Bunları ele geçirmek, kabaca, eğitilmiş modele doğrudan erişmek demektir. Damıtmada ise başka bir sistem, mevcut modelin yanıtlarından yararlanılarak eğitilir; yani orijinal modelin ağırlıkları doğrudan alınmış olmaz.717

ABD’li yetkililer, aralarında DeepSeek ve Moonshot AI’nin de bulunduğu Çinli şirketleri Amerikan modellerinin çıktılarından yararlanarak sistemlerini eğitmekle suçladı. OpenAI ve Anthropic de Çinli şirketlerin modellerini damıttığına dair örnekler bildirdi. Bunlar, ağırlıkların çalındığına ilişkin kanıttan farklı iddialar.17

Siber güvenlikten ulusal güvenliğe uzanan kaygı

Khanna’nın soruları, şirketlerin güçlü modelleri koruma sorumluluğunu yalnızca ticari bir mesele olarak değil, ulusal güvenlik ve yapay zekâ yeteneklerinin yayılması açısından da ele alıyor. Model ağırlıklarına yetkisiz erişim, güçlü bir sistemi kimin kullanabileceği üzerindeki kontrolü zayıflatabilir; olası hırsızlık da ABD’nin rekabet üstünlüğüne zarar verebilir.413

Bununla birlikte Khanna, yapay zekâ risklerini azaltmak için ABD ile Çin arasında işbirliği ve güvenlik kuralları oluşturulmasını da savunuyor. İki ülke arasında denetim ve güvenlik standartları üzerine anlaşma çağrıları yapıldı; analistler ise kopyalama iddialarının çevresindeki gerilimin bu tür bir diyaloğu zorlaştırabileceği uyarısında bulunuyor.2518

Gönüllü şirket önlemleri tartışması

Trump yönetimi, siber saldırı kapasitesi gelişmiş bazı modellerin kamuya sunulmadan önce hükümetin güvenlik testlerine gönüllü olarak gönderilmesini öngören bir yaklaşım açıkladı. Yönetim ayrıca teknoloji şirketlerinin kendi modellerini denetlemesine dayanan bir taahhüt duyurdu. Khanna’nın şirketlerden savunmalarını açıklamalarını istemesi, bu önlemlerin yeterli olup olmadığı sorusunu gündeme getiriyor; ancak mevcut bilgiler gönüllü testlerin model ağırlığı hırsızlığını önleyeceğini göstermiyor.

Khanna, daha geniş çerçevede yapay zekâ şirketlerinin denetlenmesi için federal bir kurum kurulmasını ve ABD-Çin arasında doğrulanabilir güvenlik düzenlemeleri yapılmasını da savunuyor.5 Dolayısıyla mektupları, bir yandan şirketlerin mevcut siber güvenlik uygulamalarına ışık tutmayı, diğer yandan güçlü modellerin korunmasının yalnızca gönüllü şirket taahhütlerine bırakılıp bırakılamayacağını tartışmaya açıyor.