科大訊飛的國產算力策略：不拚最大上下文，改拚可交付的 AI 成果

科大訊飛並沒有打算靠國產算力，在所有面向都正面追上使用 Nvidia GPU 的前沿 AI 實驗室。它採取的是另一條路：先讓現有硬體足以支撐教育、醫療、汽車與企業部署，再把商業價值放在可靠完成任務，而不是模型能一次吞下多少上下文。

這個選擇，源於公司承認的一項現實限制：在超過 256K tokens 的長上下文訓練中，國產加速器的效率據稱最多可能比 Nvidia H200 低約 5 倍。不過，這個數字屬於管理層披露，目前並非根據主要業績電話會議逐字稿獨立核實的測試結果。8

不是每個應用都需要百萬 token 上下文

對多數實際部署而言，模型不一定要把數十萬甚至上百萬 token 的完整歷史，全部放進同一個注意力窗口。

學校系統可能需要查詢課程內容與學生紀錄；臨床工具需要找出相關醫療資料；車載助理需要掌握對話狀態與車輛資訊；企業系統則可能只需連接特定內部文件、資料庫與工作流程。

在這些場景中，檢索並切分相關資料、使用結構化記憶，或在需要時呼叫工具與智能體，往往就能提供任務所需的資訊。這並不代表長上下文沒有價值，而是可以降低每次都啟用最昂貴上下文窗口的必要性。

科大訊飛押注的，正是這個相對務實的商業區間：如果客戶更重視專業準確度、資料私密性、部署控制、延遲與工作流程的穩定完成，而不是基準測試中領先的上下文長度，公司就不必在每一種訓練規模上都複製 Nvidia 的成本效率。

從模型到部署，全面進行硬體與軟體協同設計

科大訊飛的解法並非單一軟體技巧，而是一套覆蓋 AI 技術堆疊的協同設計方案，包括：

• 模型架構，例如混合專家模型（Mixture of Experts，MoE）；
• 針對特定加速器設計的運算子與核心程式；
• 分散式通訊與專家並行；
• 記憶體配置與 KV cache 管理；
• 訓練框架、排程與部署工具。

這些工作旨在降低通訊開銷、減少記憶體瓶頸、提高硬體使用率，並讓模型更貼合國產晶片的特性。原因在於，一套完整訓練或推理系統的實際表現，並不只由加速器的紙面規格決定。

根據科大訊飛自行發布的說法，其國產算力集群早期的訓練效率約為業界主流集群的 30%；經過持續的算子優化、分散式策略迭代與整體工程調校後，已提升至 84%–93%。這些是公司披露的效能數據，並非經獨立審計的基準測試。17

星火 X2 系列是最直接的驗證

這項策略最清楚的證據，是科大訊飛持續在國產基礎設施上開發星火模型，而不只是把國外硬體訓練好的模型移植過來。

星火 X2-Flash 被描述為一個 300 億參數的混合專家模型，完全在華為昇騰 910B 集群上完成訓練與部署。其意義在於，這展示的是從訓練到上線的端到端國產路徑，而不只是模型完成訓練後才進行的適配。8

公司也將長序列推理流程與星火 X2，視為模型和基礎設施共同優化的成果。星火 X2-VL 則把這套模型家族延伸至多模態工作負載；科大訊飛發布的資料表示，X2、X2-Flash 與 X2-VL 均在 2026 年完成升級。17

這條路線也延續了科大訊飛早期的國產算力工作。公司表示，星火模型已採用涵蓋訓練、迭代與推理部署的全國產算力路徑。17 另有報導指出，將不同模型演算法迭代適配到國產晶片上，過去每次可能需要超過六個月，才能達到高階 Nvidia 晶片八成以上的效能。5

國產旗艦模型將成為下一場測試

在 2026 年 8 月 21 日的業績說明會上，科大訊飛宣布，將在當年的 Global 1024 Developer Festival 發布一款基於全國產算力的新一代通用旗艦模型。現有公告支持在活動前推出階段版本，但並不足以確認問題所指的「8 月下旬」具體時間。1

這款模型將測試科大訊飛的策略能否從專業場景延伸到更廣泛的通用應用。若發布順利，將說明國產基礎設施仍能支撐新一代大型模型；但單一模型的成功，並不能證明國產硬體已在所有訓練工作負載上追平 Nvidia。

為何這條路能支撐「產品優先」的商業模式

算力受限的公司通常有兩種選擇：直接與前沿模型公司競爭訓練成本與規模，或把模型嵌入產品，讓硬體只是整體價值的一部分。科大訊飛目前更強調後者。

公司的模型組合主要面向教育、醫療等垂直領域。在這些場景，私有化部署、專業領域品質與營運可靠性，可能和通用模型基準分數同樣重要。科大訊飛資料顯示，星火模型支援教育等應用；其醫療資料則提到，星火醫療大模型 V3.5 驅動的全科臨床決策支援系統，可支援超過 2,600 種疾病的診斷。17 35

產品導向的好處，是工程成果可以反覆使用。更好的算子、通訊方式、記憶體管理與部署框架，都能沿用到下一代模型及不同客戶的安裝環境。這種優勢不一定意味著絕對訓練成本更低，而是能在硬體受限時，榨取更多可用產出，並掌握從模型訓練到部署運營的完整週期。

劉慶峰為何認為兩年內可能出現轉折

科大訊飛對縮小差距的判斷，建立在累積的工程經驗上，而不是假設國產晶片已經等同 Nvidia 硬體。

過去數年，公司持續將模型架構、分散式系統與軟體工具適配到國產基礎設施。隨著晶片、網路、編譯器、訓練框架與開發者生態逐步成熟，這些經驗可能縮短新一代模型投入生產所需的時間。

在這種情境下，今天的劣勢反而可能轉化為組織能力上的優勢：科大訊飛或許能擁有較低的遷移成本、更豐富的生產經驗，以及更成熟的國產部署堆疊。公司公開說法將此形容為，持續打造從算力基礎設施到模型應用的自主、可控完整系統。3 17

但這仍是一條可能的路徑，而非確定結果。中國 AI 硬體市場的相關報導仍區分了國產晶片在推理方面的進展，以及 Nvidia 在訓練領域的剩餘優勢，尤其是記憶體系統表現上的差距。2 6

最大風險：前沿需求可能跑得更快

這套策略最適合的前提，是科大訊飛的目標客戶持續把安全部署、專業準確度、延遲、資料控制與工作成果放在無限上下文之前。

如果教育、醫療、汽車或企業客戶日後普遍要求真正的百萬 token 訓練與推理能力，國產硬體在長上下文領域的差距就會重新成為商業問題。

因此，核心問題不是科大訊飛能否消除每一項硬體差距，而是它能否靠工程能力與產品整合，讓這項差距對足夠多的高價值應用而言變得不再重要。星火 X2 系列、公司披露的效率提升，以及即將推出的國產旗艦模型，都顯示科大訊飛正在朝這個方向前進；但長上下文前沿，仍是最難迴避的考驗。