字節跳動開訓10萬億參數AI模型 規模、策略同中美AI競賽

10萬億參數模型嘅規模同進度

根據《金融時報》2026年8月7日嘅報道，字節跳動已經開始預訓練一個大型語言模型，總參數多達10萬億。呢個係有史以來中國公司嘗試過最大嘅AI模型，而家仲喺早期預訓練階段，呢個階段通常要搞3至6個月，之後先至會做微調然後推出。最終嘅參數數量仲未定死：字節跳動仲喺度評估緊係咪真係要訓練到10萬億呢個上限。同日另一份嚟自《晚點LatePost》嘅早期報道就話，字節跳動喺傾緊一個超過5萬億參數嘅模型，即係話呢個項目可能已經擴充咗規模。

路透社就話佢哋冇辦法獨立核實《金融時報》呢個報道。

點樣同Anthropic嘅Mythos 5以及其他主要模型比較？

字節跳動呢個10萬億嘅上限，會令佢接近甚至略超Anthropic嘅Mythos 5，業界估算Mythos 5大約有8萬億參數。以下係一啲對比：

不過要提提大家，淨計參數數量並唔直接等於模型有幾勁——佢只係一個粗略嘅架構指標。

一個好緊要嘅位：總參數 vs 活躍參數

報道所講嘅10萬億「總參數」，係指模型成個架構嘅完整參數數量。而家好多最先進嘅模型都會用**混合專家（MoE）**架構，即係每次運算只會啟動好少部分參數。舉個例，一個10萬億總參數嘅模型，可能每次實際運行嘅活躍參數得1至2萬億。《金融時報》嘅報道同之後嘅相關文章都冇講清楚呢個10萬億係總參數、活躍參數定係兩溝。呢個分別對於公平咁同其他模型做對比好重要。

張一鳴嘅「唔准蒸餾」指令

字節跳動創辦人張一鳴已經話畀Seed團隊知，佢哋唔可以用AI蒸餾技術去複製對手模型嘅輸出嚟整呢個新模型，就算短期內落後畀國內競爭對手都冇所謂。報道話佢大約喺2026年8月6號嘅一個管理層會議上重申呢個立場，話呢個係一個「延遲滿足」同建立獨立能力嘅長遠策略。呢個決定某程度上係考慮到字節跳動同美國政府（因為TikTok）嗰種複雜嘅監管關係，同埋想避免法律同出口管制嘅風險。

蒸餾技術喺中國AI labs之間好流行，用嚟快速模仿美國嘅前沿模型——張一鳴呢個指令係一個好明顯嘅策略性改變。

字節跳動嘅Seed團隊：規模同領導層

字節跳動喺2023年初成立咗Seed部門，直接係為咗應對ChatGPT嘅出現。負責呢個10萬億參數模型嘅團隊有呢啲重點：

• 規模：Seed團隊喺中國大約有2,000人，包括研究員、基建工程師同數據標註人員。
• 研究主管：吳永輝——前Google DeepMind研究副總裁同Google Fellow，2025年2月加入字節跳動。
• 基礎模型項目負責人：項亮，Seed Foundation嘅主管，同預訓練數據主管沈科合作。
• 匯報架構：吳永輝直接向字節跳動CEO梁汝波匯報。
• 重組：2025年，字節跳動將自己嘅AI Lab同機械人團隊合併入Seed，將所有基礎模型研發集中喺同一個部門。

中美AI競賽嘅動態

字節跳動呢個10萬億參數項目，普遍被視為係要直接追貼美國前沿AI labs——特別係Anthropic同OpenAI——嘅一個舉動。更闊嘅背景就包括：

• 美國政府對中國實施咗先進AI晶片嘅出口限制，逼到字節跳動要用國產同庫存嘅硬件。
• 字節跳動為咗呢個模型搞嘅大型基建擴充，某程度上係由張一鳴親自睇住運算資源分配，TechTimes形容呢個係「軍事級別嘅規模擴張」。
• 呢個項目嘅背景係，中國AI界之前畀DeepSeek R1（2025年1月）刺激到，證明咗中國 labs 就算冇咁多晶片，都可以做出有競爭力嘅成果。
• Anthropic嘅Mythos 5曾經捲入美國國家安全嘅討論——2026年6月，美國政府短暫暫停咗佢嘅全面網絡安全同生物防禦功能，之後先至局部恢復畀「可信」嘅機構用。呢件事反映咗，呢啲前沿模型本身就已經變成中美競爭入面嘅戰略資產。

字節跳動嘅封閉源碼策略同產品線

字節跳動冇講呢個10萬億模型會唔會公開。不過，佢哋一向嘅態度都係唔公開源碼，主攻產品整合：

• 字節跳動唔會開放佢哋旗艦大型模型嘅源碼，同Meta（Llama）或者部分中國對手好似DeepSeek做法唔同。
• 公司嘅消費者AI品牌係豆包，佢集成咗字節跳動Seed系列基礎模型嘅對話、助手同內容生成功能。
• 字節跳動2026年嘅AI重點，由吳永輝定出，包括：世界模型（目標係2026年底追到Google Genie 3嘅水平）、一個叫Seedance嘅編碼代理，同埋繼續推廣豆包商用。
• 如果呢個10萬億模型成功出到，佢好大機會會成為豆包同其他內部產品嘅骨幹，而唔係獨立推出做一個開放模型。

簡單嚟講：字節跳動係度賭緊一個超級巨大、長線嘅注碼，要自己搞出前沿級嘅AI。呢個策略由張一鳴親自下令唔准用蒸餾捷徑，由吳永輝帶領嘅2,000人Seed團隊主理，背後嘅燃料就係越嚟越激烈嘅中美科技競爭。呢個項目仲喺早期預訓練階段，最終嘅參數數量、時間表同能力結果仲有好大不確定性。