DeepSeek 推出 V4.1 Flash 之所以令投資人不安,是因為它挑戰了 AI 基礎設施熱潮中的一項核心假設:AI 用得越多,每一項工作負載就必然需要越多記憶體。
這次公布的效率提升,對長上下文推論尤其值得注意;但它處理的是 AI 系統中的一個環節——KV Cache(鍵值快取),而不是大型模型訓練或部署的全部記憶體與算力需求。
9
10
技術重點:KV Cache 變得更小
KV Cache 是模型保存先前 token 注意力狀態的記憶體區域,讓模型在生成下一個 token 時,不必每次重新計算整段既有上下文。對長篇對話、AI Agent 等工作負載而言,這項快取特別重要,也可能相當昂貴。
DeepSeek 表示,V4.1 Flash 將 Compressed Sparse Attention 2(CSA2)的跨層 KV Cache 重用,與 FP4 KV 快取結合;其全球 KV Cache 的占用量為每 token 890 位元組,約為 V4-Flash 對應用量的四分之一。
9
該公司也提出名為 SWA Bounded Replay 的部署技術,用於短視窗注意力。系統不再把這部分快取長期保存在 SSD 或主機記憶體,而是使用暫時性的分散式主機 DRAM 資源池;若發生快取未命中,則只重算受限範圍內的上下文。DeepSeek 稱,這可將持久化 KV Cache 的占用降至前代約八分之一。
1
9
換算來看,這些說法意味著:就 KV Cache 這項功能而言,相較 V4-Flash,HBM 用量約少 75%,持久化 SSD 容量約少 87.5%。
9
10
這是否代表同一套硬體可同時服務四倍使用者?
在主要受「活躍 KV Cache 容量」限制的推論服務系統中,理論上有此可能。若每個長上下文請求的快取記憶體降至原本四分之一,同樣的 HBM 配置便可能容納約四倍的活躍快取。
不過,這是根據每 token 占用量推導的容量含義,不是經獨立驗證的端到端同時使用者測試結果。實際併發能力還取決於模型權重、可用算力、網路、請求長度、批次處理、延遲目標及推論軟體等因素。
為什麼記憶體股反應如此劇烈?
市場擔心的不是 DeepSeek 讓記憶體「不再需要」,而是未來每項 AI 推論工作負載所需的記憶體位元數與持久化儲存可能下降。
HBM 供應商、NAND 與企業級 SSD 業者近年受惠於一種預期:AI 系統能力愈強,會持續拉高記憶體與儲存基礎設施需求。當模型架構出現效率突破,投資人自然會重新評估每次推論所需記憶體與儲存容量是否變少,進而影響需求成長、定價能力及資本支出假設。
彭博報導指出,9 月 11 日 DeepSeek 公布消息後,三星電子在南韓下跌 3.5%、SK 海力士下跌 2.2%。
17 當時也有報導稱,兩家公司在首爾盤中跌幅均超過 3%,而美國交易時段初期的美光與 SanDisk 相對較為抗跌。
8
因此,投資人面對的是估值層面的風險:若 AI 工作負載的記憶體密度降低,記憶體供應商原先被市場定價的需求增速、議價能力與擴產邏輯,都可能需要下修。
疑慮如何從南韓記憶體股蔓延至全球?
後續市場反應,已從特定推論效率的擔憂,擴大為對整體 AI 資本支出交易的重新檢視。
在要求放慢前沿 AI 發展的呼聲出現後,晶片股跨市場走弱:SK 海力士與三星電子分別下跌 6.4%、4.1%,日本鎧俠(Kioxia)下跌 6.4%;歐洲的 ASML、英飛凌、ASM International、BE Semiconductor 與意法半導體也走低。
18 另有報導指出,軟銀下跌 11%、鎧俠下跌 6.5%,台積電在亞洲交易時段下跌 1.2%。
19
美國盤前交易中,Marvell 跌近 8%;英特爾、美光與 SanDisk 則各被報導下跌約 6%。
20
這些跌勢不應被解讀為「單靠 DeepSeek 一次發表就機械式造成所有下跌」。利率、科技股估值與 AI 成長預期等因素,本來就會同時影響市場。但這項發布提供了具體理由,讓市場檢驗一個脆弱前提:AI 需求成長,不必然等比例轉化為每次查詢更高的記憶體需求。
17
Amodei 倡議放慢前沿 AI,為何再添壓力?
賣壓在 Anthropic 執行長達里奧・阿莫迪(Dario Amodei)呼籲 AI 公司放慢推進前沿模型能力的速度後加劇。他提出的框架,是希望爭取更多時間來處理 AI 遭濫用與安全風險。
對基礎設施投資人來說,這在 DeepSeek 的效率主張之外,帶來第二層顧慮:
- 每項推論任務所需記憶體更少,可能降低記憶體密度。
- 前沿模型競賽若放慢,可能延後大型訓練、資料中心擴建與相關採購,連帶影響加速器、HBM、網路與儲存需求。
兩者的經濟意涵不同,但市場可以合理地把它們都視為對「AI 基建將持續高速擴張」這一已反映在股價中的預期之挑戰。相關報導也將更廣泛的晶片跌勢,直接連結到投資人對放慢 AI 發展訴求的憂慮。
18
20
Michael Burry 為何稱之為「自利」?
知名投資人 Michael Burry 批評放慢 AI 發展的訊息具有自利性。他認為,領先 AI 公司的高階主管若將自家技術描述成進展過快、甚至帶有危險性,可能從這種敘事中直接受益;他更將其斥為「IPO 的炒作與誇大宣傳」。
14
Burry 的觀點是,減速可能有利於既有領先者、增加後進競爭者追趕的難度,同時強化稀缺性、可信度與未來上市的敘事。這是他對企業誘因的解讀,並不構成 AI 安全疑慮不真誠或沒有根據的證據。
14
DeepSeek 的成果,對晶片需求代表什麼?
DeepSeek 的宣布之所以重要,在於其技術方向並非投資意義上的獨門祕技。低精度運算、快取壓縮、注意力機制重新設計、重用技術與更佳的推論系統,都是其他模型開發商也能追求的方向。
這使得推論記憶體效率成為一項結構性風險:若供應商的預期建立在「每個 AI 請求的記憶體內容量會一直增加」,這項預期就可能受到挑戰。
9
但這些數字有明確邊界。
它針對 KV Cache,不是所有記憶體需求
DeepSeek 沒有宣稱整個模型或整座資料中心的 HBM 需求減少 75%、SSD 容量減少 87.5%。比較範圍明確限於推論期間的 KV Cache,且比較對象是其前一代架構;模型權重、其他系統記憶體、網路與儲存需求,均不在這項狹義比較內。
10
訓練仍是另一個需求引擎
已披露的改善,也不能證明訓練前沿模型所需的運算與記憶體會出現同等幅度下降。若把 KV Cache 最佳化直接視為所有 AI 半導體需求即將崩落的證據,將會過度延伸這次發布所能說明的範圍。
10
效率提升也可能擴大使用量
更便宜、記憶體需求更低的推論,的確可能降低每次請求的記憶體消耗;但它也可能讓長上下文助手、AI Agent 工作流程與自建部署在更多情境下變得划算。
若因此帶來足夠多的新使用者與應用,總體記憶體需求仍可能保持韌性,甚至成長,儘管單一工作負載的需求下降。
結論:AI 記憶體需求的問題,從「會不會成長」變成「誰跑得更快」
DeepSeek V4.1 Flash 點出了 AI 記憶體多頭敘事的一項弱點:隨著模型架構與推論軟體改善,單一推論工作負載的記憶體需求可以顯著下降。其每 token 890 位元組的全球 KV Cache,以及持久化快取降至前代八分之一的說法,足以解釋投資人為何迅速重估 HBM 與 SSD 的需求假設。
9
但現有證據不足以將其稱為立即發生的晶片業需求衝擊。公布的削減範圍限於推論 KV Cache,並非模型訓練或整套資料中心架構。
長期結果將取決於兩股力量的競速:一邊是每項 AI 任務的記憶體密度下降;另一邊則是成本下降所帶來、更廣泛的 AI 採用與工作負載成長。
對記憶體股投資人而言,問題不再只是 AI 使用量會不會增加,而是:總工作負載的成長速度,能否超過 AI 系統提升記憶體使用效率的速度。