Cơn khát năng lực tính toán của AI Trung Quốc chuyển từ huấn luyện sang suy luận

Điểm nghẽn mới nằm sau quá trình huấn luyện

Huấn luyện tạo ra một mô hình AI. Suy luận là giai đoạn sau đó, khi mô hình dùng những gì đã học để tạo câu trả lời cho người dùng. Khi các ứng dụng AI chuyển từ thử nghiệm sang triển khai đại trà trong sản phẩm tiêu dùng, phần mềm doanh nghiệp và tác nhân AI, năng lực suy luận đang trở thành nút thắt trung tâm—không kém bài toán huấn luyện mô hình.

Một câu hỏi đơn giản có thể cần tương đối ít tài nguyên. Ngược lại, trợ lý lập trình hoặc tác nhân tự động có thể phải duy trì ngữ cảnh dài, viết mã, gọi công cụ bên ngoài, kiểm tra kết quả rồi liên tục sửa lại câu trả lời. Mỗi quy trình như vậy đòi hỏi nhiều lượt xử lý và độ ổn định cao hơn.

Vì sao GPU Nvidia vẫn được dành cho việc khó nhất?

Một phần khối lượng suy luận có thể được điều chỉnh để chạy trên các bộ tăng tốc do Trung Quốc phát triển. Tuy nhiên, điều đó không có nghĩa mọi tác vụ đều có thể chuyển đổi dễ dàng. Những ứng dụng đòi hỏi hiệu năng, bộ nhớ, độ tin cậy và hệ sinh thái phần mềm成熟 vẫn khó thay thế hoàn toàn phần cứng cao cấp.

Các nguồn tin trong ngành cho biết những tác vụ phức tạp như lập trình là điểm gây áp lực đặc biệt. Chip nội địa có thể xử lý một số yêu cầu suy luận, nhưng hiệu quả kém hơn trong các công việc mã hóa và lập luận demanding, buộc doanh nghiệp phải giữ lại nguồn cung Nvidia khan hiếm cho những nhiệm vụ khó thay thế nhất.

Nói cách khác, vấn đề không đơn giản là một công ty sở hữu bao nhiêu con chip. Câu hỏi quan trọng hơn là số lượng công việc chất lượng cao mà số chip đó có thể hoàn thành một cách ổn định.

“Token” không phải đơn vị giá trị đồng nhất

Token thường được dùng để đo lượng dữ liệu mà mô hình ngôn ngữ lớn xử lý. Nhưng một token sinh ra từ câu trả lời ngắn, đơn giản không tương đương với token được tạo ra sau một chuỗi suy luận dài hoặc nhiều lần gọi công cụ.

Yêu cầu trò chuyện cơ bản, phân loại hoặc tạo nội dung đơn giản có thể được chuyển sang phần cứng rẻ hơn. Trong khi đó, token “chất lượng cao”—được tạo bởi mô hình mạnh hơn, với ngữ cảnh dài hơn, độ tin cậy cao hơn hoặc quy trình suy luận nhiều bước—tiêu tốn nhiều năng lực tính toán hơn và thường có giá trị thương mại lớn hơn. Việc ngành công nghiệp chú trọng mở rộng năng lực tạo token chất lượng cao và kết hợp nhiều loại phần cứng phản ánh sự khác biệt này.

Vì vậy, tổng số token tăng mạnh có thể che giấu một tình trạng thiếu hụt nghiêm trọng hơn: thiếu năng lực suy luận cao cấp cho các tác vụ phức tạp.

Nhu cầu tăng hơn 1.000 lần

Lượng yêu cầu token AI trung bình mỗi ngày tại Trung Quốc đã vượt 140 nghìn tỷ vào tháng 3/2026, so với khoảng 100 tỷ vào đầu năm 2024—tức tăng hơn 1.000 lần, theo các số liệu được công bố từ Cục Quản lý Dữ liệu Quốc gia Trung Quốc.

Mức tăng này cho thấy AI đang bước ra khỏi giai đoạn thử nghiệm với những câu lệnh riêng lẻ. Các mô hình ngày càng được tích hợp vào trợ lý, phần mềm doanh nghiệp và tác nhân AI có thể thực hiện quy trình ngoài đời thực. Do đó, suy luận không còn là công đoạn phụ sau huấn luyện mà đang trở thành động lực chính kéo theo tiêu thụ năng lực tính toán.

Tối ưu phần mềm là đòn bẩy nhanh nhất

Việc bổ sung GPU cao cấp không dễ dàng khi các biện pháp kiểm soát xuất khẩu hạn chế khả năng tiếp cận sản phẩm Nvidia tiên tiến, nguồn cung hữu hạn và chi phí thay thế hệ sinh thái phần cứng rất lớn. Các mô hình, công cụ và quy trình hiện có cũng đã gắn sâu với những nền tảng phần mềm quen thuộc, khiến quá trình chuyển sang kiến trúc chip khác phát sinh chi phí kỹ thuật đáng kể.

Phần mềm không thể tạo ra thêm silicon, nhưng có thể giúp doanh nghiệp khai thác nhiều công việc hữu ích hơn từ mỗi bộ xử lý đang có. Những hướng đi chính gồm:

• Điều phối theo loại tác vụ: chuyển yêu cầu đơn giản sang chip rẻ hơn hoặc bộ tăng tốc nội địa, đồng thời dành GPU Nvidia cho các tác vụ phức tạp.
• Phục vụ hiệu quả hơn: cải thiện cách gom nhóm và lập lịch yêu cầu để phần cứng ít bị nhàn rỗi.
• Triển khai có ý thức về tài nguyên: điều chỉnh kích thước mô hình, độ dài ngữ cảnh và chiến lược trả lời theo độ khó cũng như giá trị của từng yêu cầu.
• Kết hợp hạ tầng không đồng nhất: tích hợp nhiều kiến trúc chip thay vì buộc mọi khối lượng công việc phải chạy trên cùng một nền tảng.

Đây là cây cầu nối giữa nhu cầu tăng nhanh và nguồn cung bị hạn chế, nhưng chưa phải sự thay thế hoàn chỉnh cho phần cứng tiên tiến. Những tác vụ nhạy cảm về chất lượng vẫn có thể phụ thuộc vào một nhóm bộ xử lý hẹp hơn.

Sức ép thương mại ngày càng lớn

Bài toán càng khó giải quyết vì giá dịch vụ suy luận đang chịu áp lực cạnh tranh. Các nhà phân tích Jefferies ước tính giá trung bình mỗi token của các mô hình Trung Quốc chỉ bằng khoảng một phần sáu so với các sản phẩm của những công ty lớn tại Mỹ.

Mức giá thấp có thể thúc đẩy người dùng nhanh chóng tiếp cận AI, nhưng đồng thời giới hạn doanh thu dùng để chi trả cho năng lực tính toán cao cấp. Trong khi đó, trợ lý lập trình và các sản phẩm dựa trên tác nhân thường tiêu tốn nhiều tài nguyên hơn chatbot thông thường.

Các công ty AI Trung Quốc vì thế phải đối mặt với thế giằng co: nhu cầu tăng mạnh, khách hàng kỳ vọng mức giá rẻ, còn năng lực suy luận mạnh nhất lại khó mở rộng hoặc thay thế. Một báo cáo thị trường cho biết các nhà phát triển mô hình và nhà cung cấp điện toán đám mây lớn tại Trung Quốc đã phải giảm tốc độ phục vụ, phân bổ quyền truy cập hoặc tăng giá khi nhu cầu vượt quá tài nguyên tính toán sẵn có, đặc biệt với các trợ lý lập trình ngốn nhiều tài nguyên.

Bài toán không chỉ là thiếu chip

Thách thức hạ tầng AI của Trung Quốc hiện không đơn thuần là thiếu số lượng chip. Vấn đề nằm ở sự thiếu hụt một tổ hợp gồm bộ xử lý tiên tiến, phần mềm tương thích và năng lực suy luận đủ tiết kiệm để phục vụ các tác vụ có giá trị cao.

Phần cứng nội địa có thể tiếp nhận nhiều khối lượng công việc hơn khi phần mềm được cải thiện và hệ thống được thiết kế theo thế mạnh của từng loại chip. Tuy nhiên, bằng chứng hiện tại cho thấy chiến lược của các công ty vẫn mang tính chuyển tiếp: tối ưu mọi lớp của quy trình suy luận, dùng chip nội địa ở nơi phù hợp và bảo toàn GPU Nvidia khan hiếm cho những công việc khó nhất.

Cách làm này có thể kéo dài tuổi thọ của nguồn lực hiện có. Nhưng nếu tác nhân AI tiếp tục phát triển và đảm nhận nhiều quy trình thực tế hơn, tăng trưởng dài hạn sẽ phụ thuộc vào khả năng Trung Quốc mở rộng cả nguồn cung phần cứng lẫn hệ sinh thái phần mềm giúp các kiến trúc chip khác nhau phối hợp hiệu quả.