AI 模型不斷更新，但資料中心裡的晶片與運算設備往往得長期服役。FlagOS 2.2 想處理的，正是兩者之間的落差：不只讓模型能在不同晶片上執行，也要讓算子實作、編譯最佳化等工程成果能跨平台重複使用。 68

北京智源人工智慧研究院（BAAI）表示，FlagOS 2.2 的九大算子庫涵蓋 1,454 個算子，較上一版增加 890 個；在涵蓋逾 1,000 個算子、10 種異質 AI 硬體的測試中，跨晶片算子效能提升約 27%。這些是官方公布的測試結果，不代表所有模型或服務工作負載都會有相同幅度的改善。 6

從「能跑」進一步走向「能共用最佳化」

多晶片軟體堆疊首先要解決的是：讓模型在不同硬體上執行。再往前一步，則是讓算子實作、編譯器調校等工程工作也能在不同平台間重用。FlagOS 2.2 將算子實作與 FlagTree 編譯器最佳化結合，朝這個方向發展。 6

FlagGems 是其中一套算子庫，以 Triton 語言實作，設計目標是支援多種後端上的模型推論與訓練。 126

另有報導提到，FlagGems-SGLang 新增 40 個多晶片算子，涉及注意力機制、Mamba 狀態更新、混合專家（MoE）、LoRA、取樣與量化等功能。不過，現有會議報導與官方文件摘錄，並未逐一說明這些算子的硬體平台支援範圍或驗證方式；因此，這項清單應視為報導中的功能描述，而非已經獨立核實的效能結果。

核心生成與跨平台除錯

KernelGen 是一套自動化 Triton 核心開發平台，可用於生成、最佳化、測試及部署算子。 5 發布資訊稱，KernelGen 當季新增生成 765 個算子，其中 416 個據稱已在至少 5 款中國國產硬體平台通過精度驗證。這不代表 765 個算子全數都完成驗證，也不能據此判定通過驗證的核心已達到或超越各平台原生實作的效能。 6

FlagOS 文件將 FlagPrism 描述為面向 Triton 程式的多後端除錯與效能分析工具。 3 發布資訊表示，FlagPrism 已支援五家硬體廠商，包括 NVIDIA 與華為昇騰。 6 目前可取得的資料沒有完整列出所有廠商，也未提供各項除錯、效能分析功能的詳細比較。

量化與新模型適配

FlagOS-Compressor 支援檢查點轉換、權重量化、校準，以及對產出檔案進行驗證。 BAAI 表示，Qwen3.5-397B-A17B 經量化後，模型檔案大小縮減 49.1%。不過，相關報導沒有提供對應的準確度或服務速度數據；單看檔案縮小，無法判斷模型品質與執行效能之間的取捨。 6

BAAI 也表示，透過跨硬體框架外掛與 FlagOS-Compressor，新模型最多可在 12 款硬體平台達成 Day-0 適配，也就是新模型推出時便同步完成適配。這是官方公布的能力說法；目前資料沒有交代特定案例使用了哪些外掛，也不足以重現其所需時間。 6

如何解讀效能數字

BAAI 公布的跨晶片算子效能提升約 27%，測試範圍涵蓋逾 1,000 個算子與 10 種異質 AI 硬體。 6 這是算子層級的測試結果，不應直接解讀為端到端模型服務效能也提升 27%。實際服務表現會受到模型、硬體、精度、工作負載及部署設定等因素影響。

至於實際服務案例，《新京報》報導指出，GLM-5.3-Flash 在昇騰 910B 上的邏輯服務吞吐量，達到最佳化前的 2.04 倍。 但現有報導摘錄沒有交代足夠的工作負載與基準設定，不能直接推論其他部署環境也會得到相同結果。現有資料也不足以證實中國電信 Xing4.0-29B-A4B 在 10 個平台上的相關測試結果。

為什麼跨晶片重用可能重要

大會報導指出，AI 模型更迭快速，但運算基礎設施需要多年運作；FlagOS 的方向，是把模型所需的算子、編譯器與系統工程成果沉澱為可重複使用的能力，再透過不同晶片平台提供給開發者。 8

BAAI 另稱，已部署的 AI 算力中，超過 80% 來自非最新世代硬體。這是該機構提出的說法，現有來源並未提供獨立查證。若這項前提成立，透過軟體改善既有硬體支援新模型的能力，便可能成為設備業者延續既有投資效益的一種選項，而不只是汰換設備。 68

整體而言，FlagOS 2.2 展現了擴大算子覆蓋範圍、跨晶片重用最佳化成果的方向，也提供了核心生成、除錯與量化工具。公布的數字可作為專案進展的參考，但要評估實際部署效益，仍須依特定模型、硬體與服務負載進行測試；現有報導並未獨立驗證每一項平台、模型與效能主張。

AI 模型不斷更新，但資料中心裡的晶片與運算設備往往得長期服役。FlagOS 2.2 想處理的，正是兩者之間的落差：不只讓模型能在不同晶片上執行，也要讓算子實作、編譯最佳化等工程成果能跨平台重複使用。 68

北京智源人工智慧研究院（BAAI）表示，FlagOS 2.2 的九大算子庫涵蓋 1,454 個算子，較上一版增加 890 個；在涵蓋逾 1,000 個算子、10 種異質 AI 硬體的測試中，跨晶片算子效能提升約 27%。這些是官方公布的測試結果，不代表所有模型或服務工作負載都會有相同幅度的改善。 6

從「能跑」進一步走向「能共用最佳化」

多晶片軟體堆疊首先要解決的是：讓模型在不同硬體上執行。再往前一步，則是讓算子實作、編譯器調校等工程工作也能在不同平台間重用。FlagOS 2.2 將算子實作與 FlagTree 編譯器最佳化結合，朝這個方向發展。 6

FlagGems 是其中一套算子庫，以 Triton 語言實作，設計目標是支援多種後端上的模型推論與訓練。 126

另有報導提到，FlagGems-SGLang 新增 40 個多晶片算子，涉及注意力機制、Mamba 狀態更新、混合專家（MoE）、LoRA、取樣與量化等功能。不過，現有會議報導與官方文件摘錄，並未逐一說明這些算子的硬體平台支援範圍或驗證方式；因此，這項清單應視為報導中的功能描述，而非已經獨立核實的效能結果。

核心生成與跨平台除錯

KernelGen 是一套自動化 Triton 核心開發平台，可用於生成、最佳化、測試及部署算子。 5 發布資訊稱，KernelGen 當季新增生成 765 個算子，其中 416 個據稱已在至少 5 款中國國產硬體平台通過精度驗證。這不代表 765 個算子全數都完成驗證，也不能據此判定通過驗證的核心已達到或超越各平台原生實作的效能。 6

FlagOS 文件將 FlagPrism 描述為面向 Triton 程式的多後端除錯與效能分析工具。 3 發布資訊表示，FlagPrism 已支援五家硬體廠商，包括 NVIDIA 與華為昇騰。 6 目前可取得的資料沒有完整列出所有廠商，也未提供各項除錯、效能分析功能的詳細比較。

量化與新模型適配

FlagOS-Compressor 支援檢查點轉換、權重量化、校準，以及對產出檔案進行驗證。 BAAI 表示，Qwen3.5-397B-A17B 經量化後，模型檔案大小縮減 49.1%。不過，相關報導沒有提供對應的準確度或服務速度數據；單看檔案縮小，無法判斷模型品質與執行效能之間的取捨。 6

BAAI 也表示，透過跨硬體框架外掛與 FlagOS-Compressor，新模型最多可在 12 款硬體平台達成 Day-0 適配，也就是新模型推出時便同步完成適配。這是官方公布的能力說法；目前資料沒有交代特定案例使用了哪些外掛，也不足以重現其所需時間。 6

如何解讀效能數字

BAAI 公布的跨晶片算子效能提升約 27%，測試範圍涵蓋逾 1,000 個算子與 10 種異質 AI 硬體。 6 這是算子層級的測試結果，不應直接解讀為端到端模型服務效能也提升 27%。實際服務表現會受到模型、硬體、精度、工作負載及部署設定等因素影響。

至於實際服務案例，《新京報》報導指出，GLM-5.3-Flash 在昇騰 910B 上的邏輯服務吞吐量，達到最佳化前的 2.04 倍。 但現有報導摘錄沒有交代足夠的工作負載與基準設定，不能直接推論其他部署環境也會得到相同結果。現有資料也不足以證實中國電信 Xing4.0-29B-A4B 在 10 個平台上的相關測試結果。

為什麼跨晶片重用可能重要

大會報導指出，AI 模型更迭快速，但運算基礎設施需要多年運作；FlagOS 的方向，是把模型所需的算子、編譯器與系統工程成果沉澱為可重複使用的能力，再透過不同晶片平台提供給開發者。 8

BAAI 另稱，已部署的 AI 算力中，超過 80% 來自非最新世代硬體。這是該機構提出的說法，現有來源並未提供獨立查證。若這項前提成立，透過軟體改善既有硬體支援新模型的能力，便可能成為設備業者延續既有投資效益的一種選項，而不只是汰換設備。 68

整體而言，FlagOS 2.2 展現了擴大算子覆蓋範圍、跨晶片重用最佳化成果的方向，也提供了核心生成、除錯與量化工具。公布的數字可作為專案進展的參考，但要評估實際部署效益，仍須依特定模型、硬體與服務負載進行測試；現有報導並未獨立驗證每一項平台、模型與效能主張。