DeepSeek V4.1-Flash, yapay zekâ bellek hisselerini neden sarstı?

DeepSeek’in 10 Eylül’de duyurduğu V4.1-Flash, piyasadaki basit bir varsayımı hedef aldı: Modeller büyüdükçe, bağlam pencereleri uzadıkça ve yapay zekâ ajanları yaygınlaştıkça yüksek bant genişlikli bellek (HBM), NAND ve depolama donanımı talebinin düzenli biçimde artacağı düşünülüyordu.

Yeni model, belleği gereksiz kılmadı. Ancak belirli bir yapay zekâ iş yükünü sunmak için gereken belleğin, model mimarisi ve önbellek yönetimi sayesinde ciddi ölçüde azaltılabileceğini gösterdi. 6125

Kritik nokta: Çok daha küçük KV önbelleği

Anahtar-değer (KV) önbelleği, bir model kullanıcı isteğine yanıt verirken dikkat (attention) durumuna ilişkin bilgiyi saklar. Uzun bağlamlı sohbetlerde ve çok adımlı yapay zekâ ajanı işlerinde önemlidir; modelin konuşma geçmişini her seferinde baştan işlemesini önler.

DeepSeek, V4.1-Flash’ın KV önbelleği için önceki neslin kullandığı HBM’nin yalnızca dörtte birine, SSD depolama alanının ise sekizde birine ihtiyaç duyduğunu söylüyor. 61 Model kartına göre bu kazanım, kod çözücünün küresel KV önbelleğini her katmanın kendi gizli durumundan üretmek yerine son kodlayıcı gizli durumlarından türeten nedensel kodlayıcı-kod çözücü (CED) tasarımından geliyor. “SWA Bounded Replay” adlı dağıtım tekniği de bazı kayan pencere önbellek durumlarının SSD’de kalıcı olarak saklanmasını önlüyor. 52

Bağımsız bir inceleme, küresel KV önbellek boyutunun token başına yaklaşık 890 bayta indiğini; bunun V4-Flash’ın yaklaşık dörtte biri olduğunu bildirdi. Aynı bellek ayak iziyle yaklaşık 4 ila 8 kat daha fazla eşzamanlı kullanıcının desteklenebileceği tahmin edildi. 53 DeepSeek ayrıca modelin girdi hazırlama aşamasında token başına 8 milyar, çıktı üretimi aşamasında ise 16 milyar parametreyi etkinleştirdiğini belirtiyor; bu yaklaşım özellikle yoğun girdi kullanan ajan uygulamalarında verimliliği artırmayı amaçlıyor. 52

Yatırımcılar neden bellek ve çip hisselerini sattı?

Piyasanın tartıştığı konu, yapay zekâ sistemlerinin belleğe ihtiyaç duyup duymadığı değildi; ihtiyaç duyduğu açık. Asıl mesele, üretilen çıkarım çıktısı başına bellek gereksiniminin daha önce öngörülenden çok daha hızlı düşüp düşemeyeceğiydi.

Benzer yetenekteki bir model, sabit bir HBM veya depolama havuzuyla daha fazla uzun bağlamlı isteği aynı anda işleyebiliyorsa, bulut sağlayıcıları mevcut altyapıdan daha yüksek verim alabilir. Bu olasılık; HBM, DRAM, kurumsal SSD ve bağlantılı depolama ekipmanlarında gelecekteki satış adedi, arz sıkılığı ve fiyatlama gücüne ilişkin beklentileri riske atıyor.

Açıklamanın ardından Samsung Electronics ve SK Hynix hisseleri Kore piyasasında gün içinde %3’ün üzerinde düştü. 17 Endişenin daha geniş çip ve altyapı alanına yayılmasının nedeni de bu: Daha düşük bellek ayak izi, her donanım kategorisindeki talebi aynı ölçüde azaltmasa bile model çalıştırmanın maliyet yapısını değiştirebilir.

SanDisk örneği, yatırım tezinin yapay zekâ kaynaklı talep beklentilerine ne kadar duyarlı hâle geldiğini gösterdi. Döneme ait piyasa verilerinde hissenin 52 haftalık fiyat aralığı yaklaşık 85 ila 2.354 dolar olurken, analistlerin genel görüşü “Al” veya “Ilımlı Al” olarak kaldı. 3537 Ancak olumlu analist görüşü, gelecekteki depolama talebinin ne kadarının giderek daha bellek yoğun çıkarım mimarilerinin sürmesine bağlı olduğu sorusunu ortadan kaldırmıyor.

Amodei’nin yavaşlatma çağrısı ikinci bir risk yarattı

DeepSeek haberi bir verimlilik şokuydu. Anthropic CEO’su Dario Amodei’nin “öncüyü tempolama” çağrısı ise yapay zekâ yeteneklerindeki ilerlemenin ve dolayısıyla altyapı harcamalarının hızı hakkında ayrı bir soru gündeme getirdi.

Amodei, eylül ayında yayımladığı yazısında şirketlerin en gelişmiş modellerin yeteneklerini geliştirme hızını bilinçli olarak yavaşlatmasını; kazanılan sürenin uyum ve güvenlik çalışmalarına ayrılmasını savundu. Önerisi, şirket içi erişime sahip bağımsız değerlendiriciler, demokratik ülkelerdeki şirketler arasında koordinasyon ve zamanla hükümetler arası anlaşmalar gibi üç adımı içeriyordu. 45

Bu, tüm yapay zekâ geliştirme faaliyetlerini durdurma çağrısı değildi. Ancak öne çıkan diğer yapay zekâ liderlerinin desteği, yatırımcıların gönüllü koordinasyonun veya gelecekteki düzenlemelerin hızlandırıcı, veri merkezi ve bellek harcamalarını sınırlayabileceğini değerlendirmesine yol açtı. Bu tartışmaların etkisiyle Nasdaq 100 vadeli işlemlerinin o hafta sonunda %1 düştüğü bildirildi. 8

İki gelişme, yatırımcılar için rahatsız edici bir birleşim yarattı: DeepSeek, yapay zekâ hizmetlerinin iş yükü başına daha az bellek kullanabileceğine işaret ederken; “öncüyü tempolama” tartışması iş yüklerinin kendi büyüme hızının da yavaşlayabileceği ihtimalini doğurdu.

Michael Burry neden bu çağrıyı “kendine hizmet eden” bir tutum olarak gördü?

Yatırımcı Michael Burry, yapay zekâ geliştirmesini yavaşlatma çağrılarını “kendine hizmet eden” bir tutum olarak niteledi. Burry’ye göre yavaşlama, yerleşik ve büyük öncü laboratuvarlara avantaj sağlayabilir; daha küçük rakiplerin onlara yetişmesini zorlaştırabilir. Ayrıca mevcut yapay zekâ sohbet botlarının yapay genel zekâya giden bir yol üzerinde olup olmadığını da sorguladı. 15

Burry’nin sözleri şirketlerin gerçek motivasyonlarına dair kanıt değil, teşvik yapılarına yönelik bir eleştiridir. Güvenlik söylemlerinin planlanan halka arzları desteklemek için kullanıldığı iddiası da yerleşik bir olgu olarak değil, Burry’nin iddiası olarak değerlendirilmelidir. 1115

DeepSeek neyi değiştirdi, neyi değiştirmedi?

En güçlü sonuç dar ama önemli: DeepSeek, yapay zekâ-bellek yatırım tezinin fazla basitleştirilmiş biçimine meydan okudu. Yazılım, model mimarisi, nicemleme ve önbellek yönetiminin çıkarımın bellek yoğunluğunu anlamlı ölçüde azaltabileceğini gösterdi. 5255

Buna karşılık, toplam bellek talebinin düşeceğini kanıtlamış değil. Açıklanan azaltımlar, DeepSeek’in önceki mimarisiyle karşılaştırıldığında çıkarım sırasındaki KV önbelleğine ilişkin. Bu, modelin tamamının veya veri merkezinin %75 daha az HBM ve %87,5 daha az SSD kullandığı anlamına gelmiyor; model ağırlıkları ve eğitim süreçlerinin bellek gereksinimini de ortadan kaldırmıyor. 25

Üstelik daha düşük çalışma maliyetleri kullanımı büyütebilir: Ucuzlayan çıkarım, daha fazla kullanıcıya, daha uzun bağlamlara ve daha fazla ajan döngüsüne kapı açabilir. Nihai talep sonucu, istek başına verimlilik kazancı ile istek sayısı ve karmaşıklığındaki artışın hangisinin baskın geleceğine bağlı olacak.

Yapay zekâ bellek tezi için çıkarım

DeepSeek V4.1-Flash, HBM, NAND veya genel yapay zekâ altyapısı için uzun vadeli yatırım tezini geçersiz kılmadı. Fakat bu tezi daha koşullu hâle getirdi. Yapay zekâ kullanımındaki artışın, iş yükü başına bellek tüketimine bire bir yansıyacağı artık varsayılamaz.

Asıl soru, verimlilik kazanımlarının yapay zekâ kullanımının yayılma hızını geçip geçmeyeceği. DeepSeek, çıkarımın çok daha yalın hâle gelebileceğine dair kanıt sundu; ancak küresel yapay zekâ kullanımı, eğitim ölçeği ve donanım talebinin bundan sonra ne hızla büyüyeceğini henüz belirlemedi.