Ascend và bài toán AI agent chạy dài: 5 hướng đi Huawei đặt cược

Khi một AI agent — hệ thống AI có thể thực hiện tác vụ qua nhiều bước — làm việc trong thời gian dài, tốc độ của một con chip không còn là câu trả lời đầy đủ. Agent có thể phải tạm dừng rồi tiếp tục, giữ lại trạng thái xử lý và nhiều lần tạo token đầu tiên đủ nhanh để phản hồi kịp thời. Nếu tác vụ trải trên nhiều NPU (bộ xử lý chuyên cho AI), việc truyền dữ liệu và bố trí bộ nhớ giữa các nút cũng trở thành vấn đề của chính ứng dụng. 26

Đó là bối cảnh cho nhận định của Zhu Zhaosheng tại HUAWEI CONNECT 2026: theo ông, Ascend đã vượt qua một “điểm bùng phát” về hệ sinh thái. Huawei không chỉ nói về năng lực phần cứng, mà còn viện dẫn phần mềm, cộng đồng nhà phát triển và tài nguyên tính toán dùng chung để các đối tác có thể xây dựng trên nền tảng này. Đây là đánh giá của Huawei, không phải kết luận rằng hiệu năng của mọi ứng dụng đã được chứng minh. 221

Năm hướng đi cho agent chạy dài

1. Ghép tài nguyên xuyên nút. Huawei đề xuất các API để kết hợp năng lực tính toán, truyền thông và bộ nhớ trong một SuperPoD hoặc SuperCluster — những hệ thống tập hợp nhiều bộ xử lý để hoạt động ở quy mô lớn. Mục tiêu là giúp lập trình viên diễn đạt tác vụ xuyên nút dễ hơn, đồng thời xử lý áp lực truyền dữ liệu và bộ nhớ khi agent mở rộng. Điều đó không có nghĩa chi phí kết nối giữa các nút sẽ biến mất. 24
2. Duy trì trạng thái thực thi của agent. ThinkPro và ThinkProcess của openEuler được Huawei định hướng để quản lý quá trình agent thực hiện một tác vụ dài. Giữ được trạng thái hữu ích có thể giảm phần việc phải làm lại khi agent tiếp tục chạy và cải thiện thời gian tạo token đầu tiên; tài liệu được dẫn chưa đưa ra mức giảm độ trễ đo được. 2
3. Linh hoạt cách lập trình NPU. Huawei đặt khả năng SIMD và SIMT của Ascend 950, cùng phương thức lập trình Regbase, vào bài toán xử lý cả phép tính dày đặc lẫn những thao tác kém đều đặn hơn. Hiệu quả sẽ phụ thuộc vào cách từng ứng dụng tận dụng các khả năng đó. 2
4. Chọn độ chính xác theo tác vụ. HiF4 được đề xuất như một lựa chọn độ chính xác thấp hơn để tăng thông lượng và giảm nhu cầu bộ nhớ khi mô hình cho phép. Lợi ích về tốc độ hoặc dung lượng phải được cân nhắc cùng độ chính xác của kết quả trên tác vụ cụ thể. 2
5. Dùng agent hỗ trợ phát triển toán tử. Huawei muốn dùng agent để tạo và tối ưu các toán tử tính toán, giúp kỹ thuật mô hình mới được triển khai hiệu quả trên Ascend nhanh hơn. Đây vẫn là một hướng phát triển được đề xuất, chưa phải lời giải đã được chứng minh cho mọi nút thắt phần mềm. 2

Vì sao Huawei gọi đây là bước ngoặt hệ sinh thái?

Năm hướng kỹ thuật trên chỉ có ý nghĩa nếu nhà phát triển thực sự tiếp cận và sử dụng được chúng. Huawei nêu PTO ISA mở — tập lệnh làm cơ sở để lập trình ở mức thấp — cùng quá trình phát triển CANN với sự tham gia của cộng đồng, hỗ trợ mô hình và framework, bộ công cụ cho nhà phát triển, và tài nguyên tính toán dùng chung ở quy mô 10.000 NPU cho đối tác. Một bản tin về phát biểu của Zhu cũng ghi nhận cộng đồng CANN có hơn 5.200 người dùng hoạt động hằng tháng. 2421

Các chỉ dấu đó giúp giải thích vì sao Zhu cho rằng Ascend đã đến một bước ngoặt: nền tảng được Huawei mô tả không chỉ gồm chip, mà còn có công cụ, người tham gia và khả năng thử nghiệm ở quy mô lớn. Tuy nhiên, mức độ hoạt động của cộng đồng hay quyền tiếp cận tài nguyên tính toán không tự chứng minh rằng mọi ứng dụng đều dễ chuyển sang Ascend hoặc chạy nhanh. Liệu năm hướng đi có cải thiện độ trễ, truyền dữ liệu và bộ nhớ cho agent chạy dài hay không vẫn cần kết quả đo trên từng khối lượng công việc. 26