Giá API OpenAI đang đổi cách đội ngũ xây sản phẩm AI

Điểm quan trọng là: khi giá giữa các model trong cùng một họ có thể cách nhau 5 lần hoặc 20 lần, định tuyến không còn là tối ưu nhỏ lẻ. Nó có thể quyết định một tính năng AI có hiệu quả kinh tế hay không .

Bẫy chi phí vẫn nằm ở token đầu ra

Giá input thấp hơn không có nghĩa áp lực chi phí biến mất. Trong họ GPT-4.1, OpenAI niêm yết token đầu ra đắt gấp 4 lần token đầu vào: $4.00 so với $1.00 ở GPT-4.1, $0.80 so với $0.20 ở GPT-4.1 mini, và $0.20 so với $0.05 ở GPT-4.1 nano . OpenAI cũng niêm yết o3-pro ở mức $10.00 cho mỗi 1 triệu token đầu vào và $40.00 cho mỗi 1 triệu token đầu ra .

Điều này đặc biệt quan trọng với các sản phẩm tạo phản hồi dài hoặc chạy nhiều bước: chatbot, trợ lý lập trình, công cụ tạo báo cáo, công cụ nghiên cứu, hoặc agent liên tục sửa câu trả lời và gọi model nhiều lần. Trong các hệ thống đó, hóa đơn có thể bị đẩy lên không phải bởi phần người dùng gõ vào, mà bởi phần ứng dụng yêu cầu model tạo ra.

Các biện pháp kiểm soát nên có gồm giới hạn độ dài output, phong cách trả lời mặc định ngắn gọn, ngân sách token theo từng tính năng, cảnh báo khi có câu trả lời dài bất thường, và tách riêng theo dõi chi phí input với output.

Cached input biến thiết kế prompt thành quyết định tài chính

Trang giá API của OpenAI tách cached input khỏi standard input và nêu một mức cached input là $0.50 cho mỗi 1 triệu token, so với $5.00 cho mỗi 1 triệu token standard input ở một model được liệt kê . Tác động cụ thể phụ thuộc vào model có đủ điều kiện hay không và cách thiết kế workload, nhưng tín hiệu giá rất rõ: ngữ cảnh lặp lại có thể trở thành một mặt trận tiết kiệm chi phí lớn.

Điều này ảnh hưởng đến các ứng dụng thường xuyên gửi lại cùng system prompt, hướng dẫn dùng công cụ, schema, văn bản chính sách, ngữ cảnh truy xuất hoặc phần đầu của cuộc hội thoại. Nhà phát triển nên rà soát phần ngữ cảnh nào ổn định và có thể tái sử dụng ở nơi cached-input pricing áp dụng. Với doanh nghiệp, prompt quá dài cần được xem như một chi phí vận hành trước khi mở rộng tính năng.

Batch phù hợp với việc không cần trả lời ngay

Không phải công việc AI nào cũng cần phản hồi tức thì. Azure OpenAI cho biết Batch API có thể trả completions trong vòng 24 giờ với mức giảm 50% so với Global Standard Pricing . Vì vậy, xử lý bất đồng bộ trở nên hấp dẫn với các workload như làm giàu dữ liệu tài liệu, đánh giá ngoại tuyến, gắn thẻ nội dung, dọn dữ liệu và tự động hóa back-office.

Azure OpenAI cũng nêu provisioned throughput units, hay PTUs, là cách phân bổ thông lượng với chi phí dễ dự đoán hơn; các đặt chỗ theo tháng và theo năm có thể giúp giảm tổng chi phí . Với doanh nghiệp, lựa chọn giá vì thế mang tính chiến lược hơn: giữ toàn bộ lưu lượng theo usage-based pricing, chuyển việc chịu được độ trễ sang batch, hoặc đặt trước năng lực cho workload lớn và ổn định.

Doanh nghiệp nên thay đổi gì ngay

Môi trường giá hiện nay có lợi cho các đội ngũ quản lý usage có chủ đích. Model rẻ hơn có thể cải thiện biên lợi nhuận, nhưng output không kiểm soát, prompt dài và vòng lặp agent lặp đi lặp lại vẫn có thể ăn mòn lợi nhuận rất nhanh.

Một kế hoạch vận hành thực tế nên bao gồm:

1. Hạch toán chi phí theo từng tính năng để đội sản phẩm biết phần nào đang tạo chi phí.
2. Đo usage theo từng khách hàng để tài khoản dùng nhiều không âm thầm trở nên kém lợi nhuận.
3. Quy tắc định tuyến model bắt đầu từ model rẻ hơn và chỉ nâng cấp khi kiểm tra chất lượng yêu cầu.
4. Ngân sách output cho chat, báo cáo, lập trình và workflow nghiên cứu.
5. Rà soát độ dài prompt để loại bỏ ngữ cảnh không cần thiết và xác định phần có thể dùng cached input nếu đủ điều kiện.
6. Hàng đợi batch cho công việc có thể chờ vài giờ thay vì vài giây.
7. Cảnh báo ngân sách và phát hiện bất thường khi lượng token tăng đột biến.

Kết luận

Các thay đổi về giá API của OpenAI khiến nhiều tính năng AI trở nên khả thi hơn về mặt kinh tế, đặc biệt khi đội ngũ có thể dùng các model chi phí thấp như GPT-4.1 mini hoặc GPT-4.1 nano . Nhưng công thức thắng không đơn giản là chọn model rẻ nhất. Công thức đúng hơn là kiến trúc biết chi phí: định tuyến theo độ khó của tác vụ, cache ngữ cảnh lặp lại khi có thể, đưa việc không gấp vào batch, và kiểm soát output dài trước khi nó trở thành phần lớn nhất của hóa đơn.