‘Çalınan Düşünceler’: Araştırmacılar OpenAI, Anthropic ve Google’ın Gizli Muhakeme Bloklarını Kırdı, Kimi K3 Damıtma Skandalında Yeni Deliller Ortaya Çıktı

'Stolen Thoughts' Yeniden Oynatma Saldırısı — 10-11 Ağustos 2026'da yayımlanan "Stealing Reasoning Traces from Proprietary LLM APIs" (arXiv:2608.09867) başlıklı makalede araştırmacılar Panfilov, Schmotz, Shumailov, Beurer-Kellner, Schaeffer, Prabhu, Geiping ve Andriushchenko kritik bir mimari kusur keşfetti. Anthropic, OpenAI ve Google'ın API istemcilerine döndürdüğü şifrelenmiş 'düşünme' blokları kaynağına uygun şekilde bağlı değil. Bu bloklar bir konuşmadan alınıp, aynı sağlayıcının daha az korumalı başka bir modeline yeniden oynatılabiliyor ve bu zayıf model, öncü modelin gizli akıl yürütmesini düz metin olarak yazdırıyor . Saldırı, farklı oturumlar, farklı kullanıcı hesapları ve aynı sağlayıcının ekosistemindeki farklı modeller arasında işe yarıyor . Araştırmacılar bu yöntemin test ettikleri her büyük öncü yapay zeka şirketinde çalıştığını doğruladı ve kurtarılan akıl yürütmenin uzunluğu, API tarafından rapor edilen gizli düşünme token sayısıyla neredeyse birebir örtüşüyor .

Kimi K3 Damıtma Tartışmasına İlişkin Kanıtlar

Çıkarılan akıl yürütme izleri, model damıtma (bir modelin çıktılarını kullanarak daha küçük ve ucuz bir rakip modeli eğitme) için yüksek kaliteli eğitim sinyalleri sağlıyor . Bu teknik, Çinli yapay zeka laboratuvarlarını çevreleyen hararetli bir tartışmanın merkezinde yer alıyor:

• Anthropic, DeepSeek, Moonshot ve MiniMax dahil Çinli yapay zeka laboratuvarlarının, erişim kısıtlamalarını aşmak için yaklaşık 24.000 sahte hesap kullanarak Claude ile 16 milyondan fazla etkileşim oluşturduğunu kamuoyuna bildirdi .
• Moonshot AI tarafından Temmuz 2026'da piyasaya sürülen Kimi K3, Jamestown Foundation tarafından damıtma yoluyla inşa edilen belirli bir model olarak gösterildi ve performansının Anthropic'in Claude Fable 5'i ile OpenAI'nin GPT-5.6 Sol'u ile karşılaştırılabilir olduğu iddia edildi .
• Ryan Greenblatt (Redwood Research), çapraz entropi karşılaştırmalarını gösteren istatistiksel bir analiz yayımladı. Bu analize göre Kimi K3'ün çıktıları, Anthropic'in Claude modelleriyle büyük ölçüde örtüşüyor .
• Beyaz Saray bilim danışmanı Michael Kratsios, Moonshot'ı Kimi K3'ü 'gizli endüstriyel damıtma' yoluyla inşa etmekle suçladı .

Ancak kanıtlar kesin değil. Braden Hancock (Laude Institute) ve Nathan Lambert (Allen Institute for AI) gibi araştırmacılar, damıtmanın tek başına Kimi K3'ün tüm yeteneklerini açıklayamayacağını savunuyor. Düşünce zinciri damıtmasının kanıtı olduğu iddia edilen ve yaygın olarak dolaşıma giren bir PDF dosyası, sınırlı bir deneyi desteklenmeyen iddialarla birleştirdiği için eleştirildi .

Güvenlik Riskleri

Açık, fikri mülkiyet hırsızlığının ötesinde birçok somut risk ortaya çıkarıyor:

• Kimlik bilgileri ve kişisel veri sızıntısı: Araştırmacılar, kamuya açık havuzlardan topladıkları 315.320 muhakeme bloğunu çözdü ve akıl yürütme izlerinin içine gömülü 367 kişisel bilgi (PII) ve 182 kimlik bilgisi (API anahtarları ve şifreler) buldu .
• Damıtma önleme mekanizmasının aşılması: Çıkarmayı mümkün kılan aynı güvenlik açığı, sağlayıcıların kendi damıtma önleme önlemlerini de etkisiz hale getiriyor .
• Zararlı davranış aktarımı: "Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior" başlıklı ayrı bir makale, aktarılan akıl yürütme izlerinin en savunmasız açık kaynak modellerde zararlı yanıt oranlarını %80'in üzerine çıkarabildiğini ortaya koydu .
• Gizli yönlendirmelerin ifşası: Aracı (agent) geliştiricileri tarafından saklanması ve yayınlanması güvenli kabul edilen opak akıl yürütme alanları, gizli sistem talimatları ve kimlik bilgileri içerebiliyor .

OpenAI, Anthropic ve Google Nasıl Yanıt Verdi?

Her üç şirket de 'Stolen Thoughts' araştırmacıları tarafından yayımdan önce bilgilendirildi. Gelen haberlere göre, OpenAI, Anthropic ve Google bu çapraz model akıl yürütme saldırısını engelledi. Aldıkları önlemlere ilişkin spesifik detaylar yayınlanan kaynaklarda tam olarak açıklanmadı, ancak güvenlik açığının yamalanmadan önce her üç sağlayıcının API'sinde de mevcut olduğu doğrulandı . Saldırının 'engellenmiş' olması, şirketlerin şifrelenmiş akıl yürütme bloklarının farklı model bağlamları veya hesaplar arasında yeniden kullanımını kısıtlayarak sunucu tarafında düzeltmeler uyguladığını gösteriyor .

Anthropic, Çinli laboratuvarların Claude çıktılarını çıkarmak için kullandığı 24.000 sahte hesap ve 16 milyon etkileşimi kamuoyuna bildirerek, damıtmayla büyük ölçekte mücadele ettiğini zaten duyurmuştu .

REP ve Stolen Thoughts makalelerinden çıkarılacak temel ders, akıl yürütme izlerini gizlemenin veya şifrelemenin temelde kırılgan bir güvenlik stratejisi olduğudur: eğer akıl yürütme model ağırlıklarında mevcutsa, ortaya çıkarılabilir .