Câu trả lờiĐã xuất bản25 nguồn
Jalapeño thắng Blackwell trong bài toán suy luận, nhưng chưa thể thay thế GPU Nvidia
OpenAI báo cáo Jalapeño tạo ra nhiều hơn 1,5–1,9 lần khối lượng công việc AI trên mỗi watt và có độ trễ đầu cuối thấp hơn 1,7–3,6 lần so với hệ thống Nvidia GB200 và GB300 trong các bài kiểm tra trên ba mô hình ngôn ngữ. Jalapeño là ASIC chuyên cho suy luận, do OpenAI đồng phát triển cùng Broadcom; chip có công suất...
Đăng bởiBiên tập bằng GPT-5.6 LunaHình ảnh được tạo bằng GPT Image 1.5
Câu trả lời nghiên cứu
Bài học chính
- OpenAI báo cáo Jalapeño tạo ra nhiều hơn 1,5–1,9 lần khối lượng công việc AI trên mỗi watt và có độ trễ đầu cuối thấp hơn 1,7–3,6 lần so với hệ thống Nvidia GB200 và GB300 trong các bài kiểm tra trên ba mô hình ngôn ngữ.
- Jalapeño là ASIC chuyên cho suy luận, do OpenAI đồng phát triển cùng Broadcom; chip có công suất định mức 700 watt và mức tiêu thụ duy trì trong thử nghiệm không vượt quá 550 watt.
- Phép so sánh chưa hoàn toàn tương đương vì Jalapeño sử dụng bộ nhớ HBM4, trong khi các hệ thống Blackwell được thử nghiệm không dùng công nghệ bộ nhớ này.
- Kết quả cho thấy ASIC tùy biến có thể gây sức ép lên Nvidia ở mảng suy luận, nhưng Nvidia vẫn giữ vai trò quan trọng trong huấn luyện, nghiên cứu và các khối lượng công việc cần tính linh hoạt cao.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What are the reported performance results, power and cost-efficiency benefits, testing details and caveats, deployment timeline, development. Article summary: OpenAI reports that Jalapeño—a Broadcom co-developed, inference-focused ASIC—beats Nvidia’s Blackwell GB200/GB300 systems on the tested LLM-serving workloads for work per watt and latency. It is a meaningful proof point . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Kết quả benchmark đầu tiên được OpenAI công bố cho Jalapeño đưa ra một tuyên bố đáng chú ý nhưng có phạm vi khá cụ thể: chip ASIC chuyên cho suy luận này vượt các hệ thống Nvidia GB200 và GB300 về hiệu suất trên mỗi watt và độ trễ trong một số bài kiểm tra phục vụ mô hình ngôn ngữ lớn. 5
7
Điều đó quan trọng vì khi các dịch vụ AI mở rộng, chi phí điện, làm mát và phân phối điện trong trung tâm dữ liệu ngày càng ảnh hưởng trực tiếp đến giá thành mỗi câu trả lời. Dù vậy, Jalapeño không phải GPU đa năng và cũng chưa phải giải pháp thay thế toàn diện cho Nvidia. 5
7
Jalapeño được thiết kế cho nhiệm vụ gì?
Jalapeño là mạch tích hợp chuyên dụng, hay ASIC, do OpenAI đồng phát triển với Broadcom cho hoạt động suy luận mô hình ngôn ngữ lớn. Suy luận là giai đoạn mô hình đã được huấn luyện tạo ra câu trả lời cho người dùng; nó khác với quá trình huấn luyện ban đầu để xây dựng mô hình. 6
19
Một ASIC có thể đánh đổi tính linh hoạt để đạt hiệu suất cao hơn trong các tác vụ ổn định, lặp lại và có khối lượng lớn. Đây chính là điểm then chốt khi đọc kết quả của Jalapeño: GPU Nvidia được xây dựng để đáp ứng nhiều loại công việc hơn, còn Jalapeño được tối ưu quanh nhu cầu phục vụ mô hình và toàn bộ hệ thống phần cứng–phần mềm của OpenAI. 5
6
OpenAI công bố những con số nào?
OpenAI cho biết họ đã thử Jalapeño với các hệ thống dựa trên Nvidia GB200 và GB300, sử dụng ba mô hình công khai: GPT-OSS 120B, DeepSeek R1 670B và Kimi K2.5 1T của Moonshot AI. Theo số liệu công ty công bố, Jalapeño tạo ra nhiều hơn 1,5–1,9 lần khối lượng công việc AI trên mỗi watt ở mức thông lượng đỉnh, đồng thời có độ trễ đầu-cuối thấp hơn 1,7–3,6 lần. 5
7
13
Các kết quả theo từng mô hình cho thấy mức chênh lệch cụ thể:
- Với GPT-OSS 120B, Jalapeño đạt 85.448 token hỗn hợp mỗi giây trên mỗi kilowatt, so với 44.960 của hệ thống GB200, tương đương lợi thế khoảng 1,9 lần. Độ trễ đầu-cuối được báo cáo là 1,03 giây, so với 1,80 giây.
7
- Với DeepSeek R1 670B, Jalapeño đạt 19.641 token hỗn hợp mỗi giây trên mỗi kilowatt, so với 11.781 của GB300, tức tạo ra khoảng 1,7 lần khối lượng công việc trên mỗi watt. Độ trễ lần lượt là 1,65 giây và 5,99 giây.
- Với Kimi K2.5 1T, Jalapeño đạt 18.195 token hỗn hợp mỗi giây trên mỗi kilowatt, so với 11.862 của GB300, tương đương lợi thế khoảng 1,5 lần về hiệu suất trên mỗi watt.
Ở các điểm vận hành ưu tiên phản hồi nhanh—chẳng hạn những ứng dụng tương tác cao—OpenAI cho biết lợi thế còn lớn hơn, với hiệu suất cao hơn 2,1–4,1 lần. 4
13
Công suất thấp hơn có đồng nghĩa chi phí thấp hơn?
Jalapeño có công suất định mức 700 watt. Trong khi đó, các bộ tăng tốc được đem ra so sánh có mức định danh 1.200 watt đối với GB200 và 1.400 watt đối với GB300. OpenAI cho biết mức điện năng duy trì đo được của Jalapeño không vượt quá 550 watt trong các tác vụ thử nghiệm. 6
12
13
Tuy nhiên, công suất của riêng chip không phản ánh toàn bộ hóa đơn vận hành trung tâm dữ liệu. Hệ thống còn cần bộ nhớ, mạng kết nối, máy chủ, làm mát và điện năng cho các thành phần phụ trợ. Vì vậy, chip tiêu thụ ít điện hơn không tự động có nghĩa tổng chi phí trung tâm dữ liệu giảm tương ứng.
Dù vậy, nếu một hệ thống có thể phục vụ nhiều yêu cầu hơn với cùng lượng điện, nó có thể làm giảm áp lực lên nguồn điện, hệ thống làm mát và hạ tầng phân phối điện. Ở quy mô OpenAI đang hướng tới, đây là cơ sở kinh tế quan trọng nhất của việc tự phát triển chip suy luận. 5
Phép so sánh đáng tin đến đâu?
Các thử nghiệm sử dụng InferenceX, bộ benchmark công khai của SemiAnalysis, và đo hoạt động phục vụ mô hình từ đầu đến cuối trên nhiều mô hình cũng như nhiều điểm vận hành. Cách đo này sát với hoạt động suy luận thực tế hơn so với việc chỉ nhìn vào thông số lý thuyết của chip. 7
Tuy nhiên, đây vẫn là kết quả do OpenAI tự báo cáo, chưa phải kết luận trung lập đã được các bên độc lập tái lập. Vì vậy, các con số nên được xem là tín hiệu ban đầu có ý nghĩa, chứ chưa phải phán quyết cuối cùng về năng lực tương đối giữa hai nền tảng. 4
5
Có một điểm cần lưu ý hơn nữa: Jalapeño sử dụng bộ nhớ HBM4, còn các hệ thống GB200 và GB300 trong phép thử không dùng công nghệ bộ nhớ này. SemiAnalysis cho rằng phép so sánh vì thế chưa đầy đủ và không hoàn toàn công bằng. 5
Bộ nhớ có vai trò lớn khi phục vụ các mô hình rất lớn, cả về dung lượng lẫn băng thông. Nền tảng Rubin của Nvidia cũng sử dụng HBM4, nên có thể là đối thủ so sánh cùng thế hệ phù hợp hơn so với các hệ thống Blackwell nói trên. Nói cách khác, việc Jalapeño vượt GB200 và GB300 chưa chứng minh chip này sẽ vượt Rubin. 5
17
Ngoài ra, Jalapeño là chip chỉ tập trung vào suy luận, trong khi GPU Nvidia có thể phục vụ huấn luyện, tinh chỉnh, suy luận và nhiều kiến trúc mô hình khác nhau. ASIC chỉ phát huy tối đa ưu thế khi khối lượng công việc đủ ổn định để biện minh cho sự chuyên môn hóa. 5
20
Khi nào OpenAI triển khai Jalapeño?
OpenAI dự kiến bắt đầu đưa Jalapeño vào hạ tầng tính toán của mình với số lượng rất nhỏ vào cuối năm 2026, trước khi mở rộng đáng kể trong năm 2027. 11
33
Công ty cũng định hướng đây là một nền tảng phát triển qua nhiều thế hệ. OpenAI cho biết chip thế hệ thứ hai và thứ ba đã được triển khai trong quá trình phát triển, còn Broadcom mô tả lộ trình hướng tới các trung tâm dữ liệu quy mô gigawatt cùng Microsoft và những đối tác khác. 3
11
30
Chiến lược rộng hơn là đồng thiết kế theo chiều dọc: phối hợp mô hình, phần mềm suy luận, bộ nhớ, mạng, hệ thống và silicon thay vì xem bộ tăng tốc là một linh kiện độc lập. Cách tiếp cận này có thể giúp kiểm soát chặt hơn độ trễ và chi phí phục vụ, nhưng đổi lại phần cứng sẽ khó tái sử dụng cho những công việc khác hơn GPU đa năng. 3
6
33
Việc Jalapeño đi từ thiết kế ban đầu đến tape-out—giai đoạn hoàn tất thiết kế để chuyển sang sản xuất thử—trong thời gian rất ngắn là đáng chú ý. Nhưng tape-out nhanh không đồng nghĩa với sản xuất hàng loạt đã được chứng minh. Hiệu suất sản xuất, khả năng tích hợp hệ thống, độ trưởng thành của phần mềm, nguồn cung và khả năng theo kịp các mô hình tương lai mới quyết định liệu lợi thế benchmark có trở thành lợi thế hạ tầng bền vững hay không. Các nguồn hiện có xác nhận kế hoạch triển khai, nhưng chưa cho thấy quy mô sản xuất cuối cùng. 30
33
Vì sao Jalapeño chưa thể thay Nvidia ngay lập tức?
OpenAI đã nói rõ rằng họ sẽ tiếp tục dựa vào Nvidia cho hoạt động huấn luyện và vẫn coi Nvidia là đối tác tính toán. 4
11
Sự phân công này khá hợp lý. Huấn luyện các mô hình tiên phong cần hệ thống linh hoạt để thích ứng với kiến trúc, thuật toán và thử nghiệm mới. GPU Nvidia cũng có lợi thế từ hệ sinh thái phần mềm CUDA, cùng lớp hạ tầng mạng và hệ thống trung tâm dữ liệu hoàn chỉnh. 5
Vì vậy, Jalapeño nên được hiểu là một chiến lược thay thế có mục tiêu. OpenAI có thể dùng chip này cho các tác vụ suy luận lặp lại, ổn định và dễ kiểm soát—nhất là khi công ty nắm cả mô hình, phần mềm phục vụ lẫn hạ tầng. Nvidia vẫn cần thiết cho huấn luyện, nghiên cứu, lặp lại mô hình và những công việc đòi hỏi tính linh hoạt cao. 4
5
Vì sao quan điểm của Jensen Huang không đơn giản là “ASIC không đáng kể”?
Lập luận để Nvidia giảm nhẹ mối đe dọa từ chip tùy biến nằm ở chỗ Nvidia không chỉ bán một con chip suy luận. Công ty cung cấp nền tảng tính toán có thể huấn luyện, tinh chỉnh và chạy mô hình, đồng thời thích ứng khi kiến trúc hoặc thuật toán thay đổi. CUDA, hệ thống mạng và giải pháp trung tâm dữ liệu của Nvidia cũng khiến cuộc cạnh tranh rộng hơn so với việc so sánh thông lượng của từng chip. 5
Quy mô triển khai cũng hạn chế tác động thương mại trước mắt. Ban đầu, Jalapeño sẽ phục vụ hạ tầng riêng của OpenAI thay vì trở thành một sản phẩm phổ biến mà khách hàng trên thị trường có thể tự mua và triển khai. 1
4
Do đó, thông báo này có thể thay đổi vị thế đàm phán của OpenAI trong mảng suy luận sớm hơn là làm đảo lộn toàn bộ thị trường tính toán AI. OpenAI đã cho thấy một phần khối lượng công việc của họ có thể chuyển sang phần cứng tự thiết kế, nhưng công ty chưa chấm dứt sự phụ thuộc vào Nvidia.
Jalapeño có thể tác động thế nào đến Nvidia và thị trường chip AI?
Các nhà phân tích xem Jalapeño là bằng chứng cho thấy ASIC do những nhà vận hành hạ tầng AI quy mô lớn thiết kế có thể ngang bằng hoặc vượt các hệ thống Blackwell về hiệu suất suy luận. Điều này có thể gây sức ép lên Nvidia trong mảng suy luận, đặc biệt khi các công ty AI lớn muốn giảm chi phí phục vụ và bớt phụ thuộc vào một nhà cung cấp duy nhất. 17
32
OpenAI cũng không phải công ty duy nhất theo đuổi silicon tùy biến. Google, AWS và Meta đều được nhắc đến như những doanh nghiệp công nghệ lớn đang phát triển chip AI riêng, cho thấy xu hướng hạ tầng được tối ưu theo từng loại công việc đang ngày càng rõ nét. 5
Kịch bản có khả năng xảy ra nhất không phải là GPU Nvidia sụp đổ ngay lập tức, mà là thị trường bị phân mảnh rõ hơn:
- ASIC tùy biến có thể hấp dẫn với các tác vụ suy luận ổn định, khối lượng lớn và do những nền tảng lớn kiểm soát.
- GPU Nvidia nhiều khả năng vẫn giữ giá trị cao trong huấn luyện, thử nghiệm mô hình nhanh, các khối lượng công việc hỗn hợp và hệ sinh thái phần mềm coi trọng tính linh hoạt.
5
20
- Các công ty tự phát triển chip có thể dùng phần cứng của mình để chuyển một phần nhu cầu suy luận dự đoán được ra khỏi GPU, từ đó có vị thế tốt hơn khi đàm phán các đơn hàng GPU trong tương lai.
Câu hỏi quan trọng nhất là liệu lợi thế Jalapeño có duy trì khi được so sánh với các nền tảng cùng thế hệ, trên những mô hình thay đổi liên tục và ở quy mô sản xuất thực tế hay không. Với bằng chứng hiện có, kết luận thận trọng nhất là: OpenAI đã cho thấy silicon tùy biến có thể cạnh tranh rất mạnh với Blackwell trong một số tác vụ suy luận, còn Nvidia vẫn giữ vị trí sâu rộng trong phần lớn hệ sinh thái tính toán AI.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Jalapeño thắng Blackwell trong bài toán suy luận, nhưng chưa thể thay thế GPU Nvidia" là gì?
OpenAI báo cáo Jalapeño tạo ra nhiều hơn 1,5–1,9 lần khối lượng công việc AI trên mỗi watt và có độ trễ đầu cuối thấp hơn 1,7–3,6 lần so với hệ thống Nvidia GB200 và GB300 trong các bài kiểm tra trên ba mô hình ngôn ngữ.
Những điểm chính cần xác nhận đầu tiên là gì?
OpenAI báo cáo Jalapeño tạo ra nhiều hơn 1,5–1,9 lần khối lượng công việc AI trên mỗi watt và có độ trễ đầu cuối thấp hơn 1,7–3,6 lần so với hệ thống Nvidia GB200 và GB300 trong các bài kiểm tra trên ba mô hình ngôn ngữ. Jalapeño là ASIC chuyên cho suy luận, do OpenAI đồng phát triển cùng Broadcom; chip có công suất định mức 700 watt và mức tiêu thụ duy trì trong thử nghiệm không vượt quá 550 watt.
Tôi nên làm gì tiếp theo trong thực tế?
Phép so sánh chưa hoàn toàn tương đương vì Jalapeño sử dụng bộ nhớ HBM4, trong khi các hệ thống Blackwell được thử nghiệm không dùng công nghệ bộ nhớ này.