Spark X2.5 đưa ngữ cảnh 1 triệu token xuống thiết bị biên?

Hai mô hình nhỏ, tham vọng ngữ cảnh rất dài

Ngày 1/9/2026, Ciyuan Xinghuo — công ty con do iFLYTEK sở hữu toàn bộ — đã ra mắt và mã nguồn mở hai mô hình ngôn ngữ cho thiết bị biên: Spark (Xinghuo) X2.5-4B và Spark X2.5-1.7B. Điểm đáng chú ý nhất là cửa sổ ngữ cảnh gốc tối đa 1 triệu token, tức lượng văn bản mà mô hình có thể tiếp nhận trong một lượt xử lý. iFLYTEK gọi đây là những mô hình biên đầu tiên trong nhóm có khả năng này; đây vẫn là tuyên bố của hãng, chưa phải kết quả được kiểm chứng độc lập. 2

Cả hai dùng kiến trúc attention lai và được tinh chỉnh cho các tác vụ agent/công cụ, lập trình, suy luận toán học và làm theo chỉ dẫn. iFLYTEK cho biết chúng có hiệu năng tốt trước các mô hình mở cùng cỡ, nhưng thông báo phát hành không đưa ra đối chứng độc lập chi tiết. 2

Các mục tiêu triển khai gồm phần cứng thông minh, hệ thống trên xe, robot và thiết bị Internet vạn vật (IoT) — những nơi độ trễ, kết nối đám mây hoặc cách xử lý dữ liệu có thể là rào cản. 3

Vì sao 1 triệu token trên thiết bị lại đáng chú ý?

Khi làm việc với sổ tay kỹ thuật, tài liệu chính sách hay kho mã lớn, cách phổ biến là chia nhỏ tài liệu thành nhiều đoạn rồi truy xuất từng đoạn liên quan. Phương pháp này hữu ích, nhưng có nguy cơ bỏ sót điều khoản ngoại lệ, quy định ở chương khác hoặc mối phụ thuộc giữa các phần.

Ví dụ iFLYTEK nêu ra là một sổ tay hậu mãi. Nếu toàn bộ sổ tay nằm trong ngữ cảnh, mô hình về lý thuyết có thể đối chiếu đồng thời quy định về đổi trả, xử lý lỗi, ngoại lệ, vận chuyển, xóa dữ liệu và bên chịu chi phí. Hãng xem đây là cách hạn chế việc mất mạch thông tin liên chương khi tài liệu bị tách thành các đoạn rời. 2

Tuy vậy, cửa sổ ngữ cảnh lớn không tự động đồng nghĩa với suy luận đáng tin cậy hay câu trả lời chính xác. Khi triển khai thực tế, đội ngũ kỹ thuật vẫn cần đánh giá chất lượng truy xuất, độ trễ phản hồi, nhu cầu bộ nhớ phần cứng và khả năng áp dụng đúng quy tắc trên toàn bộ tài liệu.

Các năng lực cục bộ và kết quả hãng công bố

iFLYTEK định vị Spark X2.5 cho trợ lý năng suất chạy cục bộ, dù tài liệu phát hành chưa công bố danh sách tính năng tự động hóa văn phòng cụ thể hoặc benchmark chuyên biệt cho tác vụ văn phòng. 2

Một số tuyên bố khác của hãng gồm:

• Lập trình: Spark X2.5-4B được cho là có thể cạnh tranh với các mô hình đám mây lớn gấp 2–3 lần về số tham số trong triển khai thuật toán, hoàn thành mã và sinh mã. 2
• Nhà thông minh: Spark X2.5-1.7B được báo cáo đạt 90,3% độ chính xác thực thi chỉ dẫn đầu cuối trên bộ kiểm thử nhà thông minh Domux, với thời gian phản hồi trung bình 0,85 giây. Đây là kết quả hãng báo cáo trên một bộ kiểm thử xác định, không phải cam kết hiệu năng trong mọi môi trường thực tế. 2
• Robot và điều khiển biên: Hai mô hình được giới thiệu cho các tác vụ thao tác/điều khiển tại chỗ, theo dõi mục tiêu và ra quyết định điều hướng, nhằm giảm phụ thuộc vào kết nối đám mây liên tục và các kịch bản lập trình cứng. 2

Huấn luyện và triển khai

Theo iFLYTEK, hai mô hình được huấn luyện hoàn toàn trên các nền tảng tính toán nội địa, với khoảng 20 nghìn tỷ token tiền huấn luyện đa dạng; sau đó tiếp tục qua tinh chỉnh có giám sát và học tăng cường. 2

Danh sách tương thích được công bố gồm phần cứng NVIDIA, Huawei, Hygon và Hemo; các khung suy luận vLLM, SGLang và llama.cpp; đường triển khai qua Ollama và LM Studio; cùng LLaMA-Factory cho tinh chỉnh bổ sung. Tốc độ thực tế và mức dùng bộ nhớ vẫn sẽ phụ thuộc vào phiên bản mô hình, mức lượng tử hóa, độ dài ngữ cảnh và phần cứng đích. 2

Cách tiếp cận mô hình

iFLYTEK cho biết đã phát hành trọng số mô hình, kho mã nguồn và tài liệu triển khai, với các kênh sẵn có gồm Hugging Face và GitHub. Hãng cũng công bố API liên quan trên nền tảng Starry MaaS với quyền truy cập miễn phí trong thời gian giới hạn. Thông báo không nêu ngày hết hạn hay quota, vì vậy nhà phát triển nên kiểm tra điều kiện truy cập hiện tại trước khi đưa ưu đãi này vào kế hoạch sản phẩm. 26

Điều đáng theo dõi

Khác biệt chính của Spark X2.5 không chỉ là mã nguồn mở hoặc kích thước đủ nhỏ để hướng đến thiết bị biên. Điểm then chốt là tổ hợp mô hình 1,7B và 4B tham số với cửa sổ ngữ cảnh gốc 1 triệu token mà nhà cung cấp công bố. Nếu năng lực này được xác nhận trong các triển khai cụ thể, nó có thể hữu ích cho việc phân tích cục bộ các sổ tay đầy đủ, kho tư liệu kỹ thuật hay kho mã cần giữ liên kết xuyên nhiều phần. Bước tiếp theo hợp lý là thử nghiệm trực tiếp trên dữ liệu dài đại diện và đúng cấu hình thiết bị sẽ vận hành.