DeepSeek V4.1 Flash一推出就觸發記憶體股波動,核心原因唔係市場突然覺得AI唔使記憶體,而係一個原本被視為理所當然嘅假設受到挑戰:AI用得愈多,每項工作就必然要用愈多記憶體。
DeepSeek聲稱,V4.1 Flash喺長上下文推論時,將關鍵嘅KV Cache記憶體需求大幅削細。對靠AI基建需求帶動估值嘅HBM及SSD供應商嚟講,呢個係值得重估嘅風險;但要留意,成果主要針對推論期間嘅一部分記憶體開支,唔等同整個模型、訓練流程或者數據中心全部少用同樣幅度嘅資源。
9
10
到底慳咗邊一截?KV Cache係乜
模型生成文字時,會用**KV Cache(Key-Value Cache)**保存之前token嘅注意力狀態,避免每次出新字都由頭重算整段對話。對長對話、AI代理(agent)同長文檔處理而言,呢個快取會愈滾愈大,亦會變成伺服成本同記憶體容量嘅重要限制。
DeepSeek表示,V4.1 Flash結合咗Compressed Sparse Attention 2(CSA2)嘅跨層KV Cache重用,同埋FP4 KV caching。其全球KV Cache佔用量報稱為每token 890 bytes,約為V4-Flash相應數值嘅四分之一。
9
公司亦提出名為 SWA Bounded Replay 嘅部署方法,處理短視窗注意力快取:系統唔再將呢部分長期寫入SSD或主機記憶體,而係放入一個暫時性、分散式嘅主機DRAM池;遇上快取未命中時,只重算有限範圍嘅上下文。按DeepSeek說法,持久KV Cache佔用量因此可降至上一代約八分之一。
1
9
換算落嚟,即相對V4-Flash,KV Cache呢個功能所用HBM可減約75%,而持久SSD容量可減約87.5%。呢兩個百分比只適用於KV Cache,唔係成個模型或整個數據中心。
9
10
係咪即係同一批HBM可以頂四倍用戶?
理論上有可能——前提係服務系統主要受活躍KV Cache容量限制。每個長上下文請求若只用原來約四分之一快取記憶體,同一份HBM配置,理論上可以容納約四倍活躍快取。
不過,呢個係由每token數字推導出嚟嘅容量概念,唔係已獨立驗證嘅端到端同時用戶測試。實際並發量仲會受模型權重、運算力、網絡、請求長度、批次處理、延遲目標同部署軟件影響。
點解Samsung同SK Hynix首先受壓?
市場賣嘅唔係「記憶體冇用」,而係對未來需求密度嘅憂慮。HBM供應商,同埋NAND/企業級SSD廠商,一直受惠於AI系統愈來愈大、愈來愈食記憶體嘅預期。當有模型聲稱每個推論工作負載可以用少好多記憶體同持久儲存,投資者自然會問:未來要買嘅記憶體bit數,仲會唔會如原先預期咁快增長?
據彭博報道,DeepSeek公布消息後,Samsung Electronics於9月11日跌3.5%,SK Hynix跌2.2%。
17 當時亦有報道指,兩隻韓國股份喺首爾一度跌逾3%,而美國交易時段初段嘅Micron及SanDisk相對企得住。
8
所以,股價反應更似係估值重估:一旦AI工作負載嘅記憶體強度下降,供應商嘅需求增長、定價能力同資本開支預測,都可能要重新計數。
憂慮後來點樣蔓延到全球晶片股?
之後嘅跌勢已由一項推論效率消息,擴闊成對整體AI資本開支交易嘅反思。
當市場同時消化放慢前沿AI發展嘅呼籲,韓國SK Hynix同Samsung分別跌6.4%及4.1%,日本Kioxia跌6.4%;歐洲多隻半導體股亦向下,包括ASML、Infineon、ASM International、BE Semiconductor同STMicroelectronics。
18 另一報道指,SoftBank跌11%、Kioxia跌6.5%,台積電跌1.2%。
19
美股盤前方面,Marvell接近跌8%,Intel、Micron及SanDisk據報各跌約6%。
20
但唔應該將所有跌幅都歸因於一個DeepSeek版本。利率、科技股估值同AI增長前景,本來就會同時影響市場。不過,V4.1 Flash提供咗一個非常具體嘅測試:AI需求增長,未必會按比例轉化為每次查詢更多記憶體需求。
17
Amodei呼籲放慢AI,為何令市場再添一重壓力?
Anthropic行政總裁Dario Amodei其後呼籲AI公司放慢提升前沿模型能力嘅速度,希望騰出更多時間處理濫用及安全風險;其方案包括三個步驟。
對AI基建投資者而言,呢度出現兩個性質不同、但可同時影響估值嘅憂慮:
- 每項推論工作所需記憶體下降,可能壓低記憶體強度;
- 前沿模型競賽放慢,則可能推遲大型訓練、數據中心擴建,以及支撐加速器、HBM、網絡和儲存需求嘅計劃。
兩者唔係同一件事,但若市場原先已經為持續高速擴張定價,兩個訊號都足以令投資者轉趨審慎。相關報道亦將更廣泛嘅晶片股下跌,連結到市場對放慢AI發展呼籲嘅憂慮。
18
20
Michael Burry點解話係「自利」?
投資者Michael Burry批評放慢AI發展嘅說法屬於自利。他認為,領先AI公司嘅高層若強調自家技術發展得太快、甚至有危險,可能會從呢種敘事中獲益;他更以「IPO hype & puffery」形容,即為首次公開招股而製造宣傳熱度。
14
Burry嘅觀點係,放慢步伐可能令既有龍頭較有利,令規模較細嘅競爭者更難追趕,同時加強稀缺性、權威性及未來上市故事。呢個係他對企業誘因嘅解讀,唔可以當成AI安全風險並不真誠或毫無根據嘅證明。
14
呢次係晶片需求警號,定係過度解讀?
DeepSeek嘅公布確實有意義,因為低精度運算、快取壓縮、注意力架構重設、資料重用同更佳部署軟件,都唔係只有一間公司先做得到嘅方向。其他模型開發商同樣可以追求,故此推論記憶體效率係依賴「每個AI請求記憶體含量持續上升」嘅供應商所面對嘅結構性風險。
9
但結論唔可以一下跳到「AI晶片需求會崩」。
呢個係KV Cache優化,唔係所有記憶體都少咗
DeepSeek冇聲稱整個模型或整座數據中心少用75% HBM、87.5% SSD。比較範圍只係推論期間KV Cache嘅需要,而且係對比其上一代架構。模型權重、其他系統記憶體、網絡與儲存需求,都唔在呢個狹義比較之內。
10
模型訓練仍然係另一條需求主線
現有披露亦冇證明訓練前沿模型所需嘅運算同記憶體,會出現相同幅度下降。將KV Cache優化直接演繹成整個AI半導體需求崩塌,係超出證據所支持嘅範圍。
10
效率提升亦可能令AI用得更多
每次請求更平、更慳記憶體,的確會削弱每項請求嘅記憶體消耗;但同時,長上下文助手、代理工作流同自建部署亦可能因此變得負擔得起,令更多用戶與場景採用AI。
如果新增應用數量夠大,總記憶體需求未必會跌,甚至可以繼續上升。最後係「每項工作負載更慳」同「總工作負載爆發式增加」兩股力量嘅較量。
總結:市場真正要問嘅問題變咗
DeepSeek V4.1 Flash揭示咗AI記憶體牛市敘事嘅脆弱位:模型架構同部署軟件進步後,每項推論工作負載嘅記憶體需求可以急跌。其聲稱嘅每token 890 bytes全球KV Cache,以及持久快取縮至前代八分之一,正正解釋到點解HBM同SSD需求假設會突然受檢視。
9
但現時證據未足以將之稱為即時嘅晶片業需求衝擊。公布嘅減幅集中於推論KV Cache,唔包括模型訓練,亦唔代表整個數據中心堆疊。
對記憶體股投資者而言,問題已唔再只係「AI會唔會繼續增長」,而係:AI總工作負載增長,能否快過系統提升記憶體使用效率嘅速度?