Claude Opus 4.7 API: cách tính chi phí cho tài liệu dài, chat dài và batch

Nếu không dùng cache, công thức cơ bản là:

Chi phí = input_tokens / 1.000.000 × 5
        + output_tokens / 1.000.000 × 25

Khi dùng prompt caching, cần tách phần ngữ cảnh có thể tái sử dụng khỏi phần mới phát sinh. Phần được ghi vào cache 5 phút tính theo $6,25/MTok; phần ghi vào cache 1 giờ tính theo $10/MTok; các lượt cache hit hoặc refresh sau đó tính theo $0,50/MTok. Câu hỏi mới, tin nhắn mới hoặc nội dung chưa cache vẫn tính như input thông thường, còn phần model trả lời vẫn tính theo giá output.

Tài liệu dài chỉ phân tích một lần: tính thẳng input + output

Nếu bạn chỉ đưa một tài liệu vào để tóm tắt, phân tích hoặc trích xuất thông tin một lần, không có chuỗi hỏi đáp tiếp theo, cách tính khá đơn giản: tài liệu, system prompt và câu hỏi đều là input; câu trả lời của model là output. Các ví dụ dưới đây dùng giá công khai Claude API.

Ví dụ với 300k input và 8k output:

300.000 / 1.000.000 × 5  = 1,50
8.000 / 1.000.000 × 25   = 0,20
Tổng cộng                 = 1,70 USD

Một điểm dễ bị bỏ sót khi chuyển từ model cũ sang Opus 4.7: Anthropic ghi chú rằng Opus 4.7 dùng tokenizer mới, nên cùng một đoạn văn bản cố định có thể tăng số token tối đa 35%.

Vì vậy, nếu trước đây bạn ước tính 300k input, một cách bảo thủ là nâng lên 405k input. Với 8k output, chi phí sẽ là:

405.000 / 1.000.000 × 5  = 2,025
8.000 / 1.000.000 × 25   = 0,20
Tổng cộng                 ≈ 2,23 USD

Hỏi nhiều lần trên cùng tài liệu: cache là điểm hòa vốn

Với sản phẩm hỏi đáp tài liệu, phần tốn tiền thường không nằm ở một câu trả lời riêng lẻ, mà ở việc cùng một tài liệu lớn bị đưa lại vào context ở từng lượt hỏi. Nếu người dùng sẽ hỏi tiếp trên cùng tài liệu, nên đưa prompt caching vào mô hình ngân sách ngay từ đầu.

Giả sử:

• Tài liệu: 300k token
• Mỗi câu hỏi mới: 2k token
• Mỗi câu trả lời: 2k output token
• Dùng prompt cache 5 phút

Ở lượt đầu, ghi cache 5 phút thậm chí đắt hơn so với không cache. Nhưng chỉ cần cùng tài liệu được hỏi sang lượt thứ hai, tổng chi phí đã đổi chiều:

Không cache, 2 lượt: khoảng 1,56 × 2 = 3,12 USD
Dùng cache 5 phút, 2 lượt: khoảng 1,935 + 0,21 = 2,145 USD

Vì vậy, khi lập ngân sách cho tính năng hỏi đáp tài liệu, câu hỏi quan trọng không chỉ là tài liệu dài bao nhiêu. Bạn cần biết tài liệu đó có được hỏi lặp lại không, các câu hỏi tiếp theo có rơi trong thời hạn cache không, và mỗi lượt có kéo thêm nhiều nội dung mới chưa cache hay không.

Hội thoại dài: đừng trả tiền lại cho lịch sử giống hệt mỗi lượt

Hội thoại dài có logic chi phí gần giống tài liệu dài. Nếu ứng dụng cứ gửi lại toàn bộ lịch sử trò chuyện ở mỗi lượt, input cost sẽ cộng dồn rất nhanh. Phần lịch sử ổn định, có khả năng tái sử dụng nên được đánh giá để cache.

Giả sử:

• Lịch sử hội thoại: 200k token
• Tin nhắn mới mỗi lượt: 1k token
• Output mỗi lượt: 2k token

Chọn cache 5 phút hay 1 giờ không nên chỉ nhìn giá ghi cache. Hãy nhìn hành vi thực tế của người dùng:

• Nếu người dùng thường hỏi liên tục trong vòng 5 phút, cache 5 phút là giả định đáng thử trước.
• Nếu họ hay quay lại sau hơn 5 phút nhưng vẫn trong vòng 1 giờ, cache 1 giờ có thể hợp lý hơn dù lượt ghi đầu tiên đắt hơn.
• Nếu khoảng cách giữa các lượt rất khó đoán, nên lấy mẫu traffic thật, đo tỷ lệ cache hit rồi mới tối ưu kiến trúc.

Tác vụ batch: trước tiên hãy lập ngân sách bảo thủ

Batch, hay xử lý theo lô, thường dùng cho phân tích ngoại tuyến, gán nhãn dữ liệu, tóm tắt hàng loạt hoặc phân loại số lượng lớn. Tuy nhiên, nếu chưa xác nhận tài khoản, hợp đồng hoặc endpoint bạn dùng có áp dụng batch pricing cụ thể hay không, đừng đưa một mức chiết khấu chưa kiểm chứng vào ngân sách cần phê duyệt.

Cách bảo thủ là tính trước theo giá API đồng bộ công khai, sau đó thay đơn giá khi bạn đã xác nhận được giá batch thực tế.

Tổng chi phí = tổng input_tokens / 1.000.000 × 5
             + tổng output_tokens / 1.000.000 × 25

Ví dụ: 10.000 tác vụ, mỗi tác vụ có 2k input và 500 output.

Tổng input  = 10.000 × 2.000 = 20.000.000 token
Tổng output = 10.000 × 500   = 5.000.000 token

Chi phí input  = 20 × 5  = 100 USD
Chi phí output = 5 × 25  = 125 USD
Tổng cộng      = 225 USD

Con số $225 ở đây là ngân sách bảo thủ theo giá đồng bộ, chưa tính bất kỳ batch discount nào. Khi đã xác nhận đơn giá thực tế, bạn chỉ cần thay các mức $5 và $25 bằng giá áp dụng cho tài khoản hoặc nền tảng của mình.

Nếu bạn không gọi trực tiếp Claude API của Anthropic mà đi qua nền tảng cloud hoặc nhà cung cấp định tuyến model, hóa đơn thực tế có thể khác. Dữ liệu bên thứ ba từ CloudPrice liệt kê Opus 4.7 ở loại Anthropic / global là $5 input và $25 output mỗi MTok, đồng thời ghi một số mã vùng AWS Bedrock ở mức $5,50 input và $27,50 output mỗi MTok. Những dữ liệu như vậy hữu ích để kiểm tra chéo, nhưng ngân sách chính thức vẫn nên dựa trên trang billing, hợp đồng và tài liệu chính thức của nền tảng bạn dùng.

Đừng quên buffer: lý thuyết thường thấp hơn hóa đơn thật

Nếu chưa có log token thực tế, ước tính bằng kịch bản lý tưởng thường hơi lạc quan. Ít nhất nên thêm phần đệm cho ba nhóm rủi ro:

1. Rủi ro tokenizer khi chuyển model: Opus 4.7 có tokenizer mới, và cùng một đoạn văn bản cố định có thể tăng tối đa 35% token.
2. Tỷ lệ cache hit chưa chắc chắn: cache chỉ giảm chi phí rõ rệt khi ngữ cảnh thực sự được dùng lại và vẫn còn trong thời hạn hiệu lực.
3. Hành vi sử dụng ngoài giả định: người dùng có thể yêu cầu output dài hơn, thử lại nhiều lần, tải tài liệu lớn hơn hoặc duy trì hội thoại dài hơn kế hoạch.

Một cách đặt buffer không chính thức, thiên về quản trị ngân sách:

Các hệ số này không phải báo giá chính thức của Anthropic. Sau khi vận hành thật, nên dùng log token, tỷ lệ cache hit và hóa đơn thực tế để cập nhật lại mô hình chi phí.

Mẫu tính nhanh cho đội sản phẩm hoặc kỹ thuật

Nếu không dùng cache, có thể ước tính chi phí tháng như sau:

Chi phí tháng ≈ số request mỗi ngày × 30
              × (input trung bình / 1.000.000 × 5
                 + output trung bình / 1.000.000 × 25)

Nếu có cache, đừng gộp tất cả thành một dòng. Hãy tách riêng:

Chi phí tháng ≈ chi phí input thông thường
              + chi phí cache write
              + chi phí cache hit / refresh
              + chi phí output

Trước khi triển khai, ít nhất nên điền các biến sau:

Chốt lại: nên bắt đầu từ đâu?

Với phân tích tài liệu một lần, hãy lấy giá $5/MTok input và $25/MTok output để tính trực tiếp.

Với hỏi đáp lặp lại trên cùng tài liệu hoặc hội thoại dài phải mang nhiều lịch sử, hãy thử tính prompt caching trước khi chốt kiến trúc. Trong ví dụ tài liệu 300k token, câu hỏi 2k token và output 2k token, lượt cache hit 5 phút chỉ khoảng $0,21, trong khi gửi lại toàn bộ tài liệu mỗi lần khoảng $1,56.

Với batch, nếu chưa xác nhận được giá áp dụng, hãy lập ngân sách theo giá đồng bộ công khai rồi điều chỉnh sau. Nếu đang chuyển từ model cũ sang Opus 4.7, nên nhân ước tính input token tối đa với 1,35 trước, sau đó cộng thêm buffer vận hành. Cách này thường gần thực tế hơn so với chỉ nhìn bảng giá niêm yết.