Câu trả lờiĐã xuất bản16 nguồn
FlagOS 2.2 muốn biến tối ưu phần mềm thành lợi thế chung cho nhiều chip
FlagOS 2.2 hướng tới việc tái sử dụng và tối ưu phần mềm giữa nhiều chip, thay vì chỉ tập trung giúp mô hình tương thích với từng nền tảng. BAAI cho biết chín thư viện bao phủ 1.454 toán tử; hiệu năng toán tử liên chip tăng khoảng 27% trong phạm vi thử nghiệm trên hơn 1.000 toán tử và 10 loại phần cứng AI.
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- FlagOS 2.2 hướng tới việc tái sử dụng và tối ưu phần mềm giữa nhiều chip, thay vì chỉ tập trung giúp mô hình tương thích với từng nền tảng.
- BAAI cho biết chín thư viện bao phủ 1.454 toán tử; hiệu năng toán tử liên chip tăng khoảng 27% trong phạm vi thử nghiệm trên hơn 1.000 toán tử và 10 loại phần cứng AI.
- Các con số này là kết quả được công bố, không đồng nghĩa mọi mô hình hay tác vụ phục vụ đều sẽ nhanh hơn tương ứng.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: How does the Beijing Academy of Artificial Intelligence’s FlagOS 2.2, released September 30 and showcased at the October 17, 2026 AI Open Co. Article summary: FlagOS 2.2’s central advance is a shift from making models run on different chips to reusing and optimizing a common software implementation across those chips, combining operator libraries, compilation, kernel generatio. Topic tags: general, documentation, general web, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
FlagOS 2.2 đánh dấu một bước chuyển trong cách tiếp cận phần mềm AI đa chip: từ việc giúp mô hình chạy được trên nhiều loại chip sang tái sử dụng và tối ưu phần mềm giữa các nền tảng. Bộ công cụ của hệ thống kết hợp thư viện toán tử, tối ưu hóa trình biên dịch, tạo kernel và công cụ triển khai. Viện Nghiên cứu Trí tuệ Nhân tạo Bắc Kinh (BAAI) cho biết hệ thống có 1.454 toán tử trong chín thư viện, đồng thời ghi nhận hiệu năng toán tử liên chip tăng khoảng 27% trong các thử nghiệm trên hơn 1.000 toán tử và 10 loại phần cứng AI. Đây là kết quả do đơn vị phát triển công bố, không phải bằng chứng rằng mọi mô hình hay tác vụ phục vụ đều sẽ cải thiện ở mức tương tự. 6
8
Từ tương thích phần cứng đến dùng chung công sức tối ưu
Một hệ thống phần mềm đa chip trước hết cần giúp mô hình hoạt động trên các phần cứng khác nhau. Nhưng để việc thích ứng có thể mở rộng, đội ngũ phát triển còn cần tránh phải làm lại từ đầu các công việc như viết và tối ưu toán tử cho từng nền tảng. FlagOS 2.2 kết hợp các phần triển khai toán tử với tối ưu hóa trình biên dịch FlagTree nhằm thúc đẩy hướng tiếp cận đó. 6
Theo BAAI, chín thư viện toán tử bao phủ tổng cộng 1.454 toán tử, tăng 890 so với phiên bản trước. FlagGems là một trong những thư viện này; thư viện được viết bằng Triton và hướng tới hỗ trợ suy luận lẫn huấn luyện trên nhiều backend phần cứng. 1
2
6
Một bài viết thứ cấp cho biết FlagGems-SGLang bổ sung 40 toán tử đa chip, phục vụ các chức năng như attention, cập nhật trạng thái Mamba, mixture-of-experts, LoRA, lấy mẫu và lượng tử hóa. Tuy nhiên, các trích đoạn tài liệu chính thức và thông tin hội nghị hiện có không xác nhận độc lập phạm vi nền tảng hay kết quả kiểm chứng của từng toán tử. Vì vậy, nên xem đây là mô tả tính năng được báo cáo, không phải kết quả hiệu năng đã được xác minh.
Tạo kernel và hỗ trợ gỡ lỗi
KernelGen là nền tảng tự động phát triển kernel Triton, với quy trình tạo, tối ưu, kiểm thử và triển khai toán tử trên nhiều loại phần cứng. 5 Theo thông tin về bản phát hành, công cụ tạo thêm 765 toán tử trong quý; trong số đó, 416 toán tử được cho là đã vượt qua kiểm định độ chính xác trên ít nhất năm nền tảng phần cứng trong nước. Điều này không có nghĩa cả 765 toán tử đều đã được kiểm định, hoặc các kernel được xác nhận có hiệu năng ngang bằng hay cao hơn bản triển khai gốc của từng nền tảng.
6
Tài liệu FlagOS mô tả FlagPrism là bộ công cụ đa backend để gỡ lỗi và phân tích hiệu năng các chương trình Triton. 3 BAAI cho biết công cụ hỗ trợ năm nhà cung cấp phần cứng, trong đó có Nvidia và Huawei Ascend.
6 Thông tin hiện có chưa liệt kê đầy đủ các nhà cung cấp hoặc so sánh chi tiết từng tính năng gỡ lỗi và phân tích hiệu năng.
Lượng tử hóa và thích ứng mô hình
FlagOS-Compressor hỗ trợ chuyển đổi checkpoint, lượng tử hóa trọng số, hiệu chuẩn và kiểm định các sản phẩm đầu ra. BAAI cho biết sau lượng tử hóa, tệp mô hình Qwen3.5-397B-A17B giảm 49,1% dung lượng. Báo cáo được trích dẫn không nêu số đo tương ứng về độ chính xác hay tốc độ phục vụ, nên riêng mức giảm dung lượng chưa đủ để đánh giá sự đánh đổi về chất lượng mô hình hoặc hiệu năng khi chạy. 6
Cũng theo thông tin do BAAI công bố, một mô hình mới có thể được thích ứng ngay trong ngày đầu tiên trên tối đa 12 nền tảng phần cứng, nhờ các plugin framework đa phần cứng kết hợp với FlagOS-Compressor. Đây là năng lực được báo cáo; tài liệu hiện có chưa chỉ rõ plugin nào được dùng cho từng lần thích ứng hoặc cung cấp đủ chi tiết để tái lập thời gian thực hiện. 6
Nên hiểu các con số hiệu năng thế nào?
BAAI báo cáo hiệu năng toán tử liên chip tăng khoảng 27%, dựa trên phạm vi thử nghiệm gồm hơn 1.000 toán tử và 10 loại phần cứng AI không đồng nhất. 6 Đây là kết quả ở cấp toán tử, không nên diễn giải thành mức tăng 27% cho toàn bộ quá trình phục vụ mô hình. Kết quả đầu cuối còn phụ thuộc vào mô hình, phần cứng, độ chính xác số, loại tác vụ và cấu hình phục vụ.
Ở cấp độ phục vụ, một bài báo cho biết thông lượng phục vụ logic của GLM-5.3-Flash trên Ascend 910B đạt 2,04 lần mức trước tối ưu. Trích đoạn nguồn chưa cung cấp đủ thông tin về tải công việc và mốc so sánh để áp dụng kết quả này cho các triển khai khác. Các tài liệu hiện có cũng chưa xác lập kết quả được yêu cầu cho Xing4.0-29B-A4B của China Telecom trên 10 nền tảng.
Vì sao việc tái sử dụng tối ưu hóa đáng chú ý?
Thông tin hội nghị nêu bật một bài toán thực tế: mô hình AI thay đổi nhanh, trong khi hạ tầng tính toán thường phải phục vụ trong nhiều năm. Hướng đi FlagOS mô tả là biến những phần việc vốn gắn với từng mô hình — từ toán tử, trình biên dịch đến hệ thống — thành năng lực có thể tái sử dụng trên nhiều loại chip. 8
BAAI cũng cho biết hơn 80% năng lực tính toán AI đã triển khai thuộc các thế hệ phần cứng không mới nhất. Đây là nhận định của tổ chức, không phải số liệu đã được các nguồn hiện có kiểm chứng độc lập. Nếu nhận định này chính xác, phần mềm giúp phần cứng đang sử dụng tiếp tục hỗ trợ các mô hình mới có thể là một lựa chọn bên cạnh việc thay thiết bị. 6
8
Điểm đáng chú ý của FlagOS 2.2 là phạm vi toán tử được mở rộng và bộ công cụ hướng tới chia sẻ công sức tối ưu giữa các chip. Những số liệu được công bố cho thấy tiến triển của dự án, nhưng quyết định triển khai vẫn cần dựa trên thử nghiệm với mô hình và tải công việc cụ thể; các báo cáo hiện có chưa xác nhận độc lập mọi nền tảng, mô hình hay tuyên bố hiệu năng.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "FlagOS 2.2 muốn biến tối ưu phần mềm thành lợi thế chung cho nhiều chip" là gì?
FlagOS 2.2 hướng tới việc tái sử dụng và tối ưu phần mềm giữa nhiều chip, thay vì chỉ tập trung giúp mô hình tương thích với từng nền tảng.
Những điểm chính cần xác nhận đầu tiên là gì?
FlagOS 2.2 hướng tới việc tái sử dụng và tối ưu phần mềm giữa nhiều chip, thay vì chỉ tập trung giúp mô hình tương thích với từng nền tảng. BAAI cho biết chín thư viện bao phủ 1.454 toán tử; hiệu năng toán tử liên chip tăng khoảng 27% trong phạm vi thử nghiệm trên hơn 1.000 toán tử và 10 loại phần cứng AI.
Tôi nên làm gì tiếp theo trong thực tế?
Các con số này là kết quả được công bố, không đồng nghĩa mọi mô hình hay tác vụ phục vụ đều sẽ nhanh hơn tương ứng.