ZCode’un Repo Wiki yüklemeleri: Çalışma alanı anlık görüntülerinde ne vardı?

ZCode hakkındaki veri işleme tartışması, bir geliştiricinin yapay zekâ istemine seçerek eklediği dosyaların gönderilmesinden daha kapsamlıydı. Araştırmacı ferstar tarafından yayımlanan tersine mühendislik raporu, kullanıcı oturumu açıkken masaüstü istemcisinin şifreli bir çalışma alanı anlık görüntüsü hazırlayıp Aliyun’a, yani Alibaba Cloud’un OSS nesne depolama hizmetine aktarmayı başlatabildiğini öne sürdü. Z.AI ise bununla bağlantılı bir sorunu kabul ederek, Codebase Indexing özelliğinin ilk dönemde varsayılan olarak açık olduğunu ve Repo Wiki üretiminin depo verisi yüklemesini tetikleyebildiğini belirtti.235

Araştırmacılara göre paketin içinde ne vardı?

Ferstar’ın teknik analizine göre anlık görüntü, yalnızca isteme eklenmiş birkaç dosyayla sınırlı olmayıp tüm çalışma alanını kapsayabiliyordu. Bildirilen içerikler şunlardı:

• tam .git dizini ve commit geçmişi;
• Git LFS varlık önbelleği ve reflog’lar;
• çalışma alanındaki dosyalar;
• uygulamanın genel yapılandırması.35

Analize dayanan haberlerden biri, yaklaşık 313 MB büyüklüğünde şifreli bir arşivden söz etti. Aynı haberlere göre ilgili RSA özel anahtarı Z.AI tarafında tutuluyordu; bu da kullanıcıların ele geçirilen bir arşivi kendi başına çözmesini veya sadece şifreli veriye bakarak silmenin yapıldığını doğrulamasını engelliyordu.4

Bunlar, tersine mühendislik ve ağ trafiği gözlemlerine dayanan bildirilmiş bulgulardır; etkilenen her bilgisayar için kamuya açık, bağımsız bir envanter değildir. Bu ayrım önemli: OSS’ye doğru bir aktarım girişimi gözlemlenmesi, her girişimin tamamlandığını ya da aktarılan nesnenin ne kadar süre erişilebilir kaldığını tek başına göstermez.316

Repo Wiki ile yükleme davranışı arasındaki bağlantı

Z.AI, sorunun Repo Wiki ve sürümle ilgili iş akışları gibi işlevlerde kullanılan Codebase Indexing özelliğinden kaynaklandığını söyledi. Şirketin açıklamasına göre Repo Wiki sayfası oluşturmak depo verisi yüklemesini tetikleyebiliyordu ve özellik ilk sürüm döneminde varsayılan olarak açıktı.2511

Bu açıklama, ürün içindeki teknik akışı tarif ediyor; ancak davranışı kullanıcının açıkça başlattığı olağan bir dosya yükleme işlemine dönüştürmüyor. Tartışmanın merkezinde kapsam ve rıza vardı: Kullanıcılar ile araştırmacılar, bu aktarım için açık ve etkili bir onay alınmadan tüm çalışma alanını kapsayan bir paketin oluşturulduğunu ifade etti.36

Z.AI’ın düzeltmeleri: Kaldırma, açık kaynak ve denetim

Raporların ortaya çıkmasının ardından Z.AI özür diledi ve etkilenen özellikleri devre dışı bıraktı.2 Şirket daha sonra ZCode v3.14.0 sürümünde Repo Wiki’nin kaldırıldığını, yerel depo anlık görüntülerini oluşturma ve yükleme iş akışının kapatıldığını açıkladı.16

Z.AI ayrıca ZCode’u açık kaynak yaptığını ve istemcinin dışarıdan incelenmesine davet çıkardığını belirtti. Haberlerde Çin Bilgi ve İletişim Teknolojileri Akademisi (CAICT) ile NSFOCUS tarafından değerlendirmeler yapıldığı aktarıldı.1023

ZCode’un yayımladığı değerlendirme özetine göre:

• CAICT, zcode-prod adlı Alibaba Cloud OSS kovasının düzeltme sonrasında sıfır veri durumunda olduğunu tespit etti;
• NSFOCUS, kovadaki veri nesnelerinin ve ilişkili yedek depolamadaki verilerin silindiğini doğruladı.16

Zhipu ayrıca MaaS platformu için bir veri saklamama seçeneği planladığını duyurdu. Bu seçenekte girdi ve çıktılar yalnızca o anki istek için işlenecek, ardından silinecek. Ancak bu vaat, platformun geleceğe dönük işlem politikasına ilişkindir; önceki ZCode iş akışında ne olduğuna dair bağımsız kanıt sayılmamalıdır.24

Hâlâ doğrulanmamış noktalar

Şirketin düzeltme açıklamaları önem taşıyor, ancak geçmişe ilişkin her soruya tek başına yanıt vermiyor. Düzeltme sonrasında belirli bir kovada veri olmadığını gösteren değerlendirme, incelenen kovanın o anda temizlendiği iddiasını destekler. Fakat daha geniş kapsamlı günlükler ve eksiksiz bir veri işleme kaydı olmadan, verinin başka bir yere hiç kopyalanmadığını, silinmeden önce erişilmediğini ya da başka bir amaçla kullanılmadığını bağımsız biçimde kanıtlayamaz.

Z.AI, bildirilen kodun ve ilgili verilerin saklanmadığını veya model eğitimi için kullanılmadığını söyledi.41 Bununla birlikte, burada özetlenen kamuya açık materyaller, raporlanan her anlık görüntü için bu olumsuz iddiayı uçtan uca denetlenebilir biçimde doğrulayan bir kayıt sunmuyor. Bu nedenle varılabilecek sonuç sınırlı: Şirket eğitim kullanımını reddediyor; kamuya açık bağımsız doğrulama ise eksik kalıyor.

Chengming Technology neden işlem envanteri istedi?

Taiyuan Chengming Technology, şirket verileri ve ticari sırların izinsiz yüklendiği iddiasıyla Zhipu’ya hukuki talep gönderdi. Şirketin bildirilen talepleri yalnızca silme çağrısından ibaret değildi: Depolama konumlarının, olası sınır ötesi aktarımın, üçüncü taraflarla paylaşımın, muhtemel model eğitimi kullanımının, erişim ya da dışa aktarma günlüklerinin ve verinin sunucular, önbellekler, yedekler ve felaket kurtarma sistemlerinden silindiğini gösteren kanıtların açıklanması istendi.172126

Bu talep, yapay zekâ kodlama ürünlerinden kullanıcıların giderek daha fazla beklediği pratik standardı gösteriyor: Sadece “veri silindi” beyanı değil; neyin toplandığını, nereye gittiğini, kimlerin işleyebildiğini ve silmenin nasıl doğrulanabileceğini izlenebilir biçimde ortaya koyan bir kayıt.

Piyasa tepkisi anlıktı; kalıcı bir hüküm değil

Haberlerde, tartışmanın ardından Z.AI hisselerinin işlem sırasında gerilediği; bir haberde gün içi düşüşün yüzde 5’e kadar ulaştığı belirtildi.35 Mevcut kapanış kotasyonlarında daha sonraki bir kapanış için yüzde 1,79 artış da görülürken, başka bir piyasa haberi günü daha düşük bir kapanışla tamamlandığını aktardı.3438 Bu birbirinden farklı anlık veriler, olayın kısa vadede piyasa endişesi yarattığını destekliyor; uzun vadeli şirket değeri üzerindeki etkisine dair güvenilir bir sonuç vermiyor.

Geliştiriciler için çıkarım

Bu olay, yapay zekâ destekli kodlama araçlarını değerlendirirken temel bir ayrımın önemini vurguluyor: yerel indeksleme, istem bağlamının aktarımı ve tüm çalışma alanının anlık görüntüsünün yüklenmesi aynı şey değildir. Bir ürün, bu davranışların her birini anlaşılır biçimde göstermeli; ayrı ayrı kontrol edilebilir kılmalı ve dokümantasyon, ağ incelemesi veya kaynak kod denetimi yoluyla doğrulanmasına imkân vermelidir.

Tescilli kod, gizli anahtarlar ya da düzenlemeye tabi verilerle çalışan ekipler için daha güvenli yaklaşım; açık yükleme onayı istemek, çalışma alanı kapsamını daraltmak, dışa giden ağ hedeflerini incelemek ve saklama süresi, alt işleyenler, silme prosedürleri ile denetim kanıtlarını açıkça belirten tedarikçi taahhütleri aramaktır. Bu olayda Z.AI’ın anlık görüntü yükleme iş akışını kaldırması, bildirilen mekanizmayı hedef alıyor. Ancak geçmişteki veri işleme hakkındaki daha geniş sorular, tartışmanın yamadan sonra da sürmesinin nedenini açıklıyor.1617