Ngày 8 nghìn tỷ token của DeepSeek V4 Flash cho thấy AI agent đang đổi luật chơi

Một ngày xử lý 8 nghìn tỷ token của DeepSeek V4 Flash trên OpenCode không chỉ là câu chuyện về độ phổ biến của một mô hình. Đây là tín hiệu cho thấy đơn vị tiêu thụ AI đang thay đổi: từ một câu hỏi–một câu trả lời sang một vòng lặp agent.

Trong vòng lặp đó, AI có thể đọc kho mã, lập kế hoạch, sửa tệp, chạy chương trình, kiểm tra lỗi rồi thử lại. Mỗi bước kéo theo mã nguồn, đầu ra terminal, lỗi kiểm thử, các quyết định trước đó và bản vá mới vào ngữ cảnh. Vì thế, lượng token có thể tăng rất nhanh so với một phiên chatbot thông thường.

OpenCode báo cáo V4 Flash đã xử lý 8 nghìn tỷ token vào ngày 1/8, trong đó 5 nghìn tỷ đến từ hạn mức dùng thử miễn phí và 3 nghìn tỷ từ gói Go trả phí. Riêng bảng xếp hạng tuần 27/7–2/8 của OpenRouter — một nền tảng tập hợp nhiều mô hình — ghi nhận V4 Flash đạt 7,22 nghìn tỷ token trên toàn tuần. Đây là các số liệu do nền tảng công bố, không phải kiểm toán độc lập cho toàn bộ thị trường; tuy vậy, chúng cho thấy quy mô mà các quy trình agent có thể đạt tới. 202329

Agent ngốn token ở điểm nào?

Một yêu cầu chatbot một lần thường có prompt ngắn và câu trả lời hữu hạn. Ngược lại, agent lập trình phải xử lý một “bộ nhớ làm việc” lớn hơn nhiều: tệp mã, phụ thuộc, nhật ký terminal, kết quả kiểm thử, thay đổi vừa tạo và các lần gọi công cụ liên tiếp. Để hoàn thành một việc, nó có thể phải quay lại cùng một phần ngữ cảnh nhiều lần.

Theo dữ liệu công khai của OpenCode dành cho V4 Flash, một phiên dùng trung bình khoảng 12 triệu token, với 95% token đầu vào là cache. Các chỉ số này không chứng minh mọi phiên đều là tác vụ lập trình tự hành hoàn chỉnh, nhưng phù hợp với kiểu làm việc dài và lặp lại trên ngữ cảnh lớn hơn là trò chuyện ngắn. 25

Điều người dùng cần cuối cùng không phải là nhiều token hơn. Họ cần một pull request được chấp nhận, bộ kiểm thử chạy qua, một nguyên mẫu hoạt động được hoặc một quy trình hoàn tất đúng yêu cầu. Vì vậy, cách nhìn thực tế hơn là:

Chi phí cho một tác vụ được chấp nhận = tổng chi phí mô hình và vòng lặp công cụ ÷ xác suất tác vụ đạt chuẩn yêu cầu.

Mẫu số và tử số ở đây phải tính cả các lần thất bại, thử lại, thời gian chờ, công sức rà soát của con người và chi phí sửa sai — chứ không chỉ bảng giá token đầu vào/đầu ra.

Giá token thấp làm thay đổi số lần có thể thử

Các báo cáo về V4 Flash dẫn mức giá do DeepSeek công bố là 0,14 USD cho một triệu token đầu vào và 0,28 USD cho một triệu token đầu ra. 12 Khi chi phí ở mức này, nhà phát triển có thể để agent lặp nhiều hơn, giữ lại nhiều ngữ cảnh hơn và chạy kiểm thử tự động nhiều hơn so với khi dùng một mô hình đắt hơn đáng kể.

Không phải mô hình rẻ hơn luôn tốt hơn. Điểm then chốt là: với những việc thường ngày cần nhiều lượt xử lý, chênh lệch chất lượng nhỏ có thể bị lấn át bởi chênh lệch chi phí lớn.

Một so sánh cho thấy V4 Flash Max đạt 50 điểm trên Artificial Analysis Intelligence Index v4.1, trong khi Claude Opus 4.8 Max đạt 56 điểm. Nhưng chi phí gọi mô hình để chạy toàn bộ bộ đánh giá được nêu lần lượt là 72,02 USD và 3.752,55 USD. Đó là cách biệt chi phí rất lớn bên cạnh chênh lệch sáu điểm — nhưng chỉ là so sánh trong một bộ đánh giá, không phải cam kết rằng độ tin cậy thực tế sẽ tương đương. 16

Với công việc khó hoặc có hậu quả lớn, mô hình cao cấp vẫn có thể rẻ hơn trên mỗi kết quả được chấp nhận nếu nó giúp giảm mạnh lỗi triển khai, nhu cầu giám sát hoặc khối lượng làm lại. Kết luận không phải là dùng mô hình rẻ nhất ở mọi nơi, mà là phân luồng tác vụ theo tổng chi phí để đạt được đầu ra đạt chuẩn.

“Kill line” chủ yếu gây áp lực lên phân khúc giữa

Cụm từ “DeepSeek kill line” nên được hiểu là một ẩn dụ thị trường. Nó mô tả áp lực đối với những mô hình đắt hơn nhiều so với một lựa chọn giá thấp nhưng đã gần nhóm dẫn đầu, trong khi không tạo ra kết quả vượt trội rõ rệt ở cấp độ tác vụ.

Ba lớp thị trường sẽ phản ứng khác nhau:

• Mô hình định tuyến giá rẻ vẫn hữu ích cho phân loại, trích xuất, biến đổi ngắn và sàng lọc khối lượng lớn — nơi tốc độ và chi phí đơn vị thấp nhất quan trọng hơn suy luận phức tạp.
• Mô hình đầu bảng cao cấp vẫn có chỗ đứng ở tác vụ khó nhất: suy luận dài hạn, độ tin cậy đặc biệt cao, đa phương thức, yêu cầu quản trị và các tình huống mà chi phí người dùng phải kiểm tra lại rất cao.
• Mô hình tầm trung chịu phép thử gay gắt nhất. Nếu đắt hơn đáng kể so với Flash, chúng phải chứng minh tỷ lệ hoàn thành, độ trễ, năng lực dùng công cụ, khả năng tích hợp, hỗ trợ hoặc kiểm soát doanh nghiệp tốt hơn rõ rệt — không chỉ hơn chút ít trên benchmark.

Nói ngắn gọn, mô hình agent giá thấp có thể trở thành “người làm việc mặc định”, còn mô hình cao cấp được dùng như tuyến leo thang cho ca khó. Phân khúc giữa phải chứng minh rằng mình thực sự làm giảm tổng chi phí của tác vụ.

Vì sao V4 Flash có thể nhắm tới kinh tế quy mô agent?

DeepSeek V4 Flash là mô hình mixture-of-experts (MoE) với 284 tỷ tham số tổng cộng, nhưng chỉ khoảng 13 tỷ tham số được kích hoạt cho mỗi token, đồng thời hỗ trợ ngữ cảnh một triệu token. 17 Thiết kế này tách quy mô năng lực tổng thể khỏi lượng tính toán thực sự phải dùng khi tạo từng token.

Chiến lược hiệu quả của mô hình gồm nhiều phần:

• Định tuyến MoE: chỉ một nhóm chuyên gia được kích hoạt cho mỗi token, giúp giảm lượng tính toán hoạt động so với việc chạy toàn bộ tham số của mô hình dense. 17
• Cơ chế attention lai: dòng V4 kết hợp Compressed Sparse Attention (CSA) và Heavily Compressed Attention (HCA), nhằm hạ gánh nặng attention và bộ nhớ khi xử lý ngữ cảnh rất dài. 1733
• Giảm gánh nặng cache: NVIDIA mô tả các cải tiến attention của V4, trong phép so sánh được trích dẫn, hướng tới giảm 73% FLOPs suy luận trên mỗi token và giảm 90% dung lượng bộ nhớ KV-cache so với DeepSeek-V3.2. 33
• Quy trình làm việc tận dụng cache: khi agent liên tục gửi lại phần mã nguồn và ngữ cảnh công cụ bị trùng lặp, tỷ lệ tái sử dụng cache cao có thể tác động đáng kể đến chi phí thực tế. Tỷ lệ 95% do OpenCode báo cáo cho thấy chi tiết vận hành này quan trọng ra sao. 25

Đây không chỉ là thông số kỹ thuật. Chúng quyết định liệu có khả thi về tài chính hay không khi để agent đọc một codebase lớn, dùng công cụ và tự phục hồi sau sai sót vài lần trước khi đưa ra kết quả.

Biên giới mới: năng lực, độ tin cậy và giá của thêm một lần lặp

Benchmark về năng lực vẫn quan trọng, nhưng không còn là thước đo duy nhất cho agent. So sánh hữu ích hơn là sự đánh đổi giữa ba yếu tố:

1. Năng lực: Mô hình có giải được lớp tác vụ đó không?
2. Độ tin cậy: Bao nhiêu lần mô hình tạo được kết quả đạt yêu cầu mà không cần can thiệp tốn kém?
3. Chi phí biên của lần lặp tiếp theo: Thêm một lần gọi công cụ, chỉnh sửa, chạy test hoặc phục hồi lỗi có còn đủ rẻ không?

Ngày 8 nghìn tỷ token khiến yếu tố cuối cùng trở nên dễ thấy. Khi agent thay thế các truy vấn một lần, lượng token có thể tăng theo nhiều bậc độ lớn. Những mô hình khiến ngữ cảnh dài và việc thử lại trở nên rẻ hơn có thể trở thành lựa chọn mặc định cho các tác vụ agent rộng, lặp lại — dù mô hình đầu bảng mạnh hơn vẫn là phương án tốt hơn cho những trường hợp khó nhất. 202533