iFLYTEK tìm cách vượt khoảng cách 5 lần với H200 bằng kỹ thuật toàn ngăn xếp

iFLYTEK không cố thắng cuộc đua AI bằng cách xây mô hình lớn nhất có thể, như các phòng thí nghiệm sử dụng hạ tầng Nvidia. Thay vào đó, công ty đang tìm cách biến phần cứng tính toán nội địa thành một nền tảng đủ hiệu quả cho giáo dục, y tế, ô tô và doanh nghiệp — rồi bán kết quả công việc đáng tin cậy thay vì chỉ bán độ dài ngữ cảnh tối đa.

Chiến lược này xuất phát từ một hạn chế mà công ty thừa nhận: các bộ tăng tốc nội địa được cho là có thể kém hiệu quả khoảng 5 lần so với Nvidia H200 khi huấn luyện ngữ cảnh dài hơn 256K token. Đây là con số được báo cáo từ ban lãnh đạo, chưa được kiểm chứng độc lập bằng bản ghi cuộc họp công bố kết quả kinh doanh gốc. 8

Chấp nhận ngữ cảnh vừa đủ, thay vì ngữ cảnh vô hạn

Phần lớn quy trình AI trong thực tế không cần xử lý liên tục một lịch sử dài hàng triệu token trong cùng một cửa sổ attention — cơ chế giúp mô hình liên hệ các phần thông tin trong chuỗi đầu vào.

Một hệ thống trường học có thể cần tra cứu chương trình học và hồ sơ học sinh. Công cụ lâm sàng có thể cần lấy ra thông tin y tế liên quan. Trợ lý trên xe có thể chỉ cần duy trì trạng thái cuộc hội thoại cùng dữ liệu phương tiện. Hệ thống doanh nghiệp thường chỉ cần truy cập các tài liệu nội bộ và quy trình đã xác định.

Với những trường hợp này, doanh nghiệp có thể chia nhỏ dữ liệu, truy xuất đúng phần thông tin cần thiết, sử dụng bộ nhớ có cấu trúc hoặc gọi công cụ và tác tử AI khi cần. Cách làm đó không xóa bỏ giá trị của khả năng xử lý ngữ cảnh dài, nhưng có thể giảm số lần phải sử dụng cửa sổ ngữ cảnh đắt đỏ nhất.

Đây là một lựa chọn chiến lược có phạm vi hẹp nhưng có ý nghĩa thương mại: nếu khách hàng coi trọng độ chính xác theo lĩnh vực, quyền riêng tư, khả năng kiểm soát triển khai, độ trễ và việc hoàn thành quy trình hơn một cửa sổ ngữ cảnh dẫn đầu benchmark, iFLYTEK có thể cạnh tranh mà không cần đạt hiệu quả huấn luyện ngang Nvidia ở mọi quy mô.

Tối ưu toàn bộ ngăn xếp AI

Câu trả lời của iFLYTEK không nằm ở một thủ thuật phần mềm đơn lẻ. Công ty đang theo đuổi chương trình đồng thiết kế phần cứng — phần mềm trên nhiều lớp, gồm:

• kiến trúc mô hình, trong đó có các mô hình hỗn hợp chuyên gia (Mixture-of-Experts, MoE);
• toán tử và kernel được tối ưu riêng cho từng bộ tăng tốc;
• cơ chế giao tiếp phân tán và phân bổ chuyên gia;
• bố trí bộ nhớ và quản lý KV-cache;
• framework huấn luyện, cơ chế lập lịch và công cụ triển khai.

Mục tiêu là giảm chi phí giao tiếp giữa các nút, hạn chế nút thắt bộ nhớ, nâng mức sử dụng phần cứng và điều chỉnh từng mô hình theo đặc tính của chip nội địa. Điều này quan trọng vì thông số của một bộ tăng tốc chưa thể quyết định hiệu năng của toàn bộ hệ thống huấn luyện hay suy luận.

Theo tài liệu do iFLYTEK công bố, các cụm tính toán nội địa của công ty ban đầu chỉ đạt khoảng 30% hiệu quả của những cụm phổ biến trong ngành. Sau quá trình tối ưu toán tử, thay đổi chiến lược phân tán và điều chỉnh kỹ thuật trên diện rộng, con số được báo cáo đã tăng lên 84–93%. Đây là số liệu do công ty tự công bố, không phải kết quả benchmark được kiểm toán độc lập. 17

Dòng Spark là bằng chứng rõ nhất

Bằng chứng đáng chú ý nhất cho chiến lược này là iFLYTEK vẫn tiếp tục phát triển dòng mô hình Spark trên hạ tầng nội địa, thay vì chỉ coi chip trong nước là phương án thay thế cho khâu suy luận.

Spark X2-Flash được mô tả là mô hình MoE có 30 tỷ tham số, được huấn luyện và triển khai hoàn toàn trên các cụm Huawei Ascend 910B. Điều này đáng kể vì nó cho thấy một quy trình nội địa khép kín từ huấn luyện đến triển khai, chứ không đơn thuần là chuyển một mô hình đã huấn luyện ở nơi khác sang phần cứng mới. 8

Công ty cũng nhấn mạnh pipeline suy luận chuỗi dài và Spark X2 như những ví dụ về việc đồng tối ưu mô hình với hạ tầng. Spark X2-VL mở rộng dòng sản phẩm sang các tác vụ đa phương thức, trong khi tài liệu của iFLYTEK cho biết X2, X2-Flash và X2-VL đều được nâng cấp trong năm 2026. 17

Hướng đi này tiếp nối các nỗ lực tính toán nội địa trước đó của iFLYTEK. Công ty cho biết các mô hình Spark đã sử dụng lộ trình tính toán hoàn toàn nội địa, bao phủ huấn luyện, lặp phát triển và triển khai suy luận. 17 Một báo cáo trước đó cũng cho biết việc điều chỉnh từng thế hệ thuật toán cho chip nội địa đòi hỏi hơn sáu tháng để đạt trên 80% hiệu năng của chip Nvidia cao cấp. 5

Mô hình chủ lực nội địa sẽ là phép thử tiếp theo

Tại buổi công bố kết quả kinh doanh ngày 21/8/2026, iFLYTEK thông báo sẽ ra mắt một mô hình chủ lực đa dụng mới, được xây dựng trên năng lực tính toán hoàn toàn nội địa, tại Global 1024 Developer Festival trong năm nay. Thông báo này cho thấy có thể có một phiên bản được phát hành theo từng giai đoạn trước sự kiện, nhưng chưa đủ cơ sở để khẳng định chính xác thời điểm “cuối tháng 8” như trong câu hỏi. 1

Mô hình này sẽ là phép thử quan trọng để xem cách tiếp cận của iFLYTEK có thể mở rộng vượt ra ngoài các kịch bản chuyên biệt hay không. Nếu ra mắt thành công, đây sẽ là dấu hiệu cho thấy hạ tầng nội địa có thể hỗ trợ thêm một thế hệ mô hình lớn. Tuy nhiên, riêng một lần phát hành chưa thể chứng minh chip nội địa đã ngang bằng Nvidia trong mọi loại hình huấn luyện.

Vì sao chiến lược sản phẩm có thể bảo vệ biên lợi nhuận

Một công ty bị giới hạn về tính toán thường có hai lựa chọn: cạnh tranh trực tiếp về chi phí và quy mô huấn luyện mô hình tiên phong, hoặc tích hợp mô hình vào các sản phẩm mà hạ tầng chỉ là một phần trong tổng giá trị. iFLYTEK đang nghiêng về lựa chọn thứ hai.

Danh mục mô hình của công ty hướng đến các lĩnh vực dọc như giáo dục và y tế — những nơi triển khai riêng tư, chất lượng theo chuyên môn và độ tin cậy vận hành có thể quan trọng không kém điểm benchmark đa dụng. Tài liệu của iFLYTEK cho biết Spark hỗ trợ giáo dục cùng nhiều kịch bản ứng dụng khác, trong khi tài liệu y tế của công ty giới thiệu hệ thống hỗ trợ quyết định lâm sàng dựa trên mô hình y khoa Spark. 17 35

Cách tiếp cận lấy sản phẩm làm trung tâm cũng giúp các cải tiến kỹ thuật được tái sử dụng. Toán tử tốt hơn, phương thức giao tiếp hiệu quả hơn, cách quản lý bộ nhớ và framework triển khai mới có thể được áp dụng qua nhiều thế hệ mô hình và nhiều hệ thống của khách hàng.

Lợi thế tạo ra không nhất thiết là chi phí huấn luyện tuyệt đối thấp hơn. Đúng hơn, đó là khả năng khai thác nhiều công việc hữu ích hơn từ phần cứng hạn chế, đồng thời duy trì quyền kiểm soát toàn bộ vòng đời triển khai.

Vì sao Lưu Khánh Phong tin khoảng cách có thể đổi chiều trong hai năm

Lập luận về khả năng thu hẹp khoảng cách dựa trên kinh nghiệm tích lũy, chứ không phải giả định rằng chip nội địa hiện đã tương đương phần cứng Nvidia. iFLYTEK đã dành nhiều năm điều chỉnh kiến trúc mô hình, hệ thống phân tán và công cụ phần mềm cho hạ tầng trong nước.

Khi chip, mạng kết nối, trình biên dịch, framework và hệ sinh thái nhà phát triển nội địa cùng tiến bộ, kinh nghiệm đó có thể rút ngắn thời gian cần thiết để đưa mỗi thế hệ mới vào vận hành hiệu quả.

Trong kịch bản này, bất lợi hiện tại có thể trở thành một dạng lợi thế tổ chức: iFLYTEK có chi phí chuyển đổi thấp hơn, nhiều kinh nghiệm sản xuất hơn và một nền tảng triển khai nội địa trưởng thành hơn. Các phát biểu công khai của công ty mô tả đây là nỗ lực liên tục nhằm xây dựng một hệ thống độc lập và có thể kiểm soát, từ hạ tầng tính toán đến ứng dụng mô hình. 3 17

Đây là một lộ trình có cơ sở, không phải lời bảo đảm. Các báo cáo về thị trường phần cứng AI Trung Quốc vẫn phân biệt rõ giữa tiến bộ của chip nội địa trong suy luận và lợi thế còn lại của Nvidia trong huấn luyện, đặc biệt ở hiệu năng của hệ thống bộ nhớ. 2 6

Rủi ro lớn nhất: yêu cầu tiên phong có thể tiến nhanh hơn

Chiến lược của iFLYTEK phát huy hiệu quả nhất nếu khách hàng trong giáo dục, y tế, ô tô và doanh nghiệp tiếp tục ưu tiên triển khai an toàn, độ chính xác theo lĩnh vực, độ trễ và kết quả quy trình hơn khả năng xử lý ngữ cảnh không giới hạn.

Ngược lại, chiến lược này sẽ kém thuyết phục hơn nếu các khách hàng bắt đầu coi năng lực huấn luyện và suy luận thực sự với hàng triệu token là tiêu chuẩn bắt buộc.

Vì vậy, câu hỏi trung tâm không phải là iFLYTEK có thể xóa bỏ mọi khoảng cách phần cứng hay không. Câu hỏi là liệu kỹ thuật và khả năng tích hợp sản phẩm của công ty có thể khiến khoảng cách đó trở nên không còn quan trọng về mặt thương mại trong đủ nhiều ứng dụng giá trị cao hay không.

Dòng Spark X2, mức cải thiện hiệu quả được công bố và kế hoạch ra mắt mô hình chủ lực nội địa cho thấy iFLYTEK đang theo đuổi mục tiêu này. Nhưng ở ranh giới ngữ cảnh dài, thách thức lớn nhất vẫn chưa được giải quyết hoàn toàn.