Ro Khanna, yapay zekâ şirketlerinden Çin kaynaklı erişim girişimlerini açıklamalarını neden istedi?

Ro Khanna’nın talebi, yapay zekâ rekabetinin yalnızca modellerin ne kadar iyi yanıt verdiğiyle ilgili olmadığını hatırlatıyor. Kaliforniya’yı temsil eden Demokrat siyasetçi, OpenAI, Anthropic, Google, Meta ve xAI’den Çin ya da başka düşmanca aktörlerin modellerinin temel bileşenlerine yasa dışı biçimde erişmeye çalışıp çalışmadığını ve bu tür girişimlere karşı hangi siber güvenlik önlemlerini aldıklarını açıklamalarını istedi.3

Buradaki temel soru, bir şirketin modelini başkalarının taklit edip edemeyeceğinden daha dar ve kritik: Modelin kendisini oluşturan bileşenler korunuyor mu?

Model ağırlıklarını çalmak ne demek?

Model ağırlıkları, yapay zekânın eğitim sırasında öğrendiği ve nasıl çalışacağını belirleyen sayısal parametrelerdir. Bunları ele geçirmek, modelin iç işleyişine ait temel bileşenleri doğrudan edinmek anlamına gelir. Bu, bir yapay zekâ hizmetini şirketin sunduğu arayüz üzerinden kullanmaktan farklıdır.

Damıtma (distillation) ise bir modelin yanıtlarından yararlanarak başka bir model eğitme yöntemidir. Örneğin, bir sistem çok sayıda soruya verilen yanıtları kullanıp benzer görevleri yerine getiren ayrı bir sistem geliştirebilir. Böyle bir süreç, özgün modelin ağırlıklarının da ele geçirildiği anlamına gelmez. OpenAI ve Anthropic, Çinli şirketlerle ilişkilendirilen model damıtma faaliyetleri bildirdi; ancak haberde bilinen ağırlık hırsızlığı vakalarının az olduğu belirtiliyor.3

Dolayısıyla damıtma iddiaları, tek başına OpenAI, Anthropic ya da diğer şirketlerin model ağırlıklarının çalındığının kanıtı değil. Mevcut bilgiler, soruda adı geçen şirketlerden herhangi birinin ağırlıklarının Çin tarafından başarıyla ele geçirildiğini göstermiyor.3

Neden ulusal güvenlik meselesi olarak görülüyor?

Khanna’nın istediği bilgiler, olası bir izinsiz erişim girişiminin yaşanıp yaşanmadığını ve şirketlerin modellerini korumak için neler yaptığını anlamaya yönelik. Kaygı, yalnızca fikrî mülkiyetin ya da rekabet avantajının kaybı değil; güçlü modellerin kontrolsüz biçimde kullanılabilmesi ve güvenlik önlemlerinin uygulandığı hizmet ortamının dışına çıkabilmesi.35

Ancak bu, adı geçen şirketlerin korumalarının yetersiz olduğu veya ağırlıklarının çalındığı anlamına gelmiyor. Paylaşılan bilgiler, şirketlerin güvenlik önlemlerinin ayrıntılarını ya da kamuya açıklanmamış saldırı girişimlerini ortaya koymuyor. Khanna’nın talebi, bu konularda şirketlerden somut yanıt istemek olarak okunmalı.3

Gönüllü standartlar mı, bağlayıcı denetim mi?

ABD’deki politika tartışmasının bir tarafında, şirketlerin kendi güvenlik süreçlerini işletmesi ve gönüllü taahhütlerle ilerlemesi var. Trump yönetiminin büyük teknoloji şirketleriyle desteklediği yaklaşım, şirket içi kontroller ve bağımsız denetçilerle çalışma gibi gönüllü önlemleri öne çıkarıyor.9 Reuters’ın haberine göre yönetim, gönüllü test düzenlemesi kapsamında açık ağırlıklı modelleri güvenlik testine tabi tutmayacağını da söyledi.

Khanna ise daha kapsamlı kamu gözetimini savunuyor: Modellerin yayımlanmadan önce zorunlu denetlenmesini ve ABD ile Çin arasında doğrulanabilir, bağlayıcı güvenlik kuralları oluşturulmasını istiyor.5 Bu yaklaşım, şirketlerin kendi önlemlerini açıklamasını beklemekle yetinmeyip, önlemlerin bağımsız biçimde sınanıp sınanmadığını da sorguluyor.

Özetle Khanna’nın talebi, doğrulanmış bir model hırsızlığını duyurmak değil; kritik yapay zekâ sistemlerinin hedef alınıp alınmadığı ve korunma düzeyinin ne olduğu konusunda şeffaflık istemek. Ağırlık hırsızlığı ile damıtmayı birbirine karıştırmamak da tartışmanın en önemli noktalarından biri.