AnswersPublished25 sources
Jalapeño OpenAI Lebih Cekap Daripada Nvidia Blackwell untuk Inferens AI
OpenAI melaporkan Jalapeño menghasilkan 1.5–1.9 kali lebih banyak kerja AI bagi setiap watt dan kependaman hujung ke hujung 1.7–3.6 kali lebih rendah berbanding sistem Nvidia GB200 dan GB300 dalam ujian tiga model bah... Jalapeño ialah ASIC yang dibangunkan bersama Broadcom khusus untuk inferens, dengan kuasa terkad...
Diterbitkan olehDisunting dengan GPT-5.6 LunaImej dijana dengan GPT Image 1.5
Research answer
Key takeaways
- OpenAI melaporkan Jalapeño menghasilkan 1.5–1.9 kali lebih banyak kerja AI bagi setiap watt dan kependaman hujung ke hujung 1.7–3.6 kali lebih rendah berbanding sistem Nvidia GB200 dan GB300 dalam ujian tiga model bah...
- Jalapeño ialah ASIC yang dibangunkan bersama Broadcom khusus untuk inferens, dengan kuasa terkadar 700 watt dan penggunaan kuasa berterusan yang diukur pada 550 watt atau kurang dalam ujian yang dilaporkan.
- Perbandingan itu belum benar benar setara kerana Jalapeño menggunakan memori HBM4, sedangkan sistem Blackwell yang diuji tidak menggunakannya; platform Nvidia Rubin mungkin menjadi perbandingan generasi yang lebih adil.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What are the reported performance results, power and cost-efficiency benefits, testing details and caveats, deployment timeline, development. Article summary: OpenAI reports that Jalapeño—a Broadcom co-developed, inference-focused ASIC—beats Nvidia’s Blackwell GB200/GB300 systems on the tested LLM-serving workloads for work per watt and latency. It is a meaningful proof point . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Keputusan pertama yang diterbitkan untuk Jalapeño membawa satu mesej yang lebih khusus daripada sekadar dakwaan bahawa OpenAI telah mengalahkan Nvidia: cip ASIC inferens itu mengatasi sistem Nvidia GB200 dan GB300 dari segi kerja per watt serta kependaman dalam beberapa ujian penyajian model bahasa besar. 5
7
Pencapaian itu penting kerana kos elektrik dan penyejukan kini menjadi antara faktor utama dalam mengendalikan perkhidmatan AI pada skala besar. Namun, Jalapeño direka untuk inferens, bukan sebagai pengganti GPU Nvidia bagi semua jenis tugasan. Kaedah ujian dan perbandingan perkakasan itu juga mempunyai batasan yang ketara. 5
7
Jalapeño direka untuk tugasan apa?
Jalapeño ialah litar bersepadu khusus aplikasi atau ASIC yang dibangunkan bersama OpenAI dan Broadcom untuk inferens model bahasa besar. Inferens merujuk kepada fasa apabila model terlatih menjana jawapan, berbeza daripada proses latihan yang digunakan untuk membina model tersebut. 6
19
Kelebihan ASIC terletak pada pengkhususan. Ia boleh mengorbankan sebahagian fleksibiliti untuk mencapai kecekapan lebih tinggi bagi tugasan yang stabil, berulang dan berlaku pada jumlah yang sangat besar.
Di sinilah perbandingan dengan Nvidia perlu difahami dengan berhati-hati. Sistem GPU Nvidia dibina untuk pelbagai kegunaan, termasuk latihan, penalaan halus, inferens dan perubahan seni bina model. Jalapeño pula dioptimumkan untuk keperluan penyajian OpenAI serta gabungan perkakasan dan perisiannya sendiri. 5
6
Keputusan prestasi dan penggunaan kuasa
OpenAI berkata Jalapeño diuji berbanding sistem berasaskan Nvidia GB200 dan GB300 menggunakan tiga model yang tersedia kepada umum: GPT-OSS 120B, DeepSeek R1 670B dan Kimi K2.5 1T daripada Moonshot AI.
Dalam perbandingan tersebut, OpenAI melaporkan Jalapeño menghasilkan 1.5–1.9 kali lebih banyak kerja AI bagi setiap watt pada kadar daya pemprosesan puncak, selain mencatat kependaman hujung ke hujung 1.7–3.6 kali lebih rendah. 5
7
13
Antara angka yang dilaporkan ialah:
- Bagi GPT-OSS 120B, Jalapeño mencapai 85,448 token campuran sesaat bagi setiap kilowatt, berbanding 44,960 bagi sistem GB200 — kira-kira 1.9 kali lebih tinggi. Kependaman hujung ke hujung pula ialah 1.03 saat berbanding 1.80 saat.
7
- Bagi DeepSeek R1 670B, Jalapeño mencapai 19,641 token campuran sesaat bagi setiap kilowatt, berbanding 11,781 bagi GB300 — kira-kira 1.7 kali lebih banyak kerja bagi setiap watt. Kependaman yang dilaporkan ialah 1.65 saat berbanding 5.99 saat.
- Bagi Kimi K2.5 1T, Jalapeño menghasilkan 18,195 token campuran sesaat bagi setiap kilowatt, berbanding 11,862 bagi GB300 — kira-kira 1.5 kali lebih tinggi.
Untuk beban kerja yang sangat interaktif, iaitu situasi yang mengutamakan respons pantas berbanding daya pemprosesan keseluruhan, OpenAI melaporkan kelebihan prestasi yang lebih besar, antara 2.1 hingga 4.1 kali. 4
13
Penggunaan kuasa membantu menjelaskan daya tarikan cip ini. Jalapeño mempunyai penarafan 700 watt, manakala pemecut yang dibandingkan masing-masing dinilai pada 1,200 watt bagi GB200 dan 1,400 watt bagi GB300. OpenAI berkata penggunaan kuasa berterusan Jalapeño yang diukur kekal pada atau di bawah 550 watt dalam beban kerja yang diuji. 6
12
13
Namun, kuasa pemecut yang lebih rendah tidak semestinya bermakna kos keseluruhan pusat data turun pada kadar yang sama. Kecekapan lebih tinggi masih berpotensi mengurangkan tekanan terhadap bekalan elektrik, sistem penyejukan dan pengagihan kuasa. Pada skala operasi OpenAI, kesan inilah yang menjadi asas ekonomi utama kepada pembangunan cip inferens tersuai. 5
Sejauh mana perbandingan ini boleh dipercayai?
Ujian tersebut menggunakan penanda aras awam InferenceX daripada SemiAnalysis. Ia mengukur penyajian model secara hujung ke hujung merentasi beberapa model dan titik operasi, bukan sekadar bergantung pada spesifikasi teori cip. Ini menjadikan hasilnya lebih berkait dengan operasi inferens sebenar. 7
Bagaimanapun, angka itu masih merupakan keputusan yang dilaporkan oleh OpenAI, bukannya keputusan muktamad yang telah diulang secara bebas oleh pihak neutral. 4
5
Terdapat juga isu berkaitan generasi perkakasan. Jalapeño menggunakan memori HBM4, manakala sistem GB200 dan GB300 yang diuji tidak menggunakan teknologi memori yang sama. SemiAnalysis menyifatkan perbandingan itu sebagai tidak lengkap dan tidak sepenuhnya adil atas sebab tersebut. 5
Perkara ini penting kerana kapasiti serta lebar jalur memori memainkan peranan besar ketika menyajikan model yang sangat besar. Platform Rubin Nvidia juga menggunakan HBM4, menjadikannya perbandingan generasi yang lebih relevan berbanding sistem Blackwell yang tidak mempunyai teknologi memori sama. Oleh itu, kelebihan Jalapeño berbanding GB200 dan GB300 belum membuktikan bahawa ia akan mengatasi Rubin. 5
17
Perbandingan itu turut melibatkan jenis produk yang berbeza. GPU Nvidia boleh digunakan untuk latihan, penalaan halus, inferens dan seni bina model yang berubah-ubah. ASIC tersuai pula paling bernilai apabila beban kerja yang disasarkan cukup stabil untuk menghalalkan kos dan risiko pengkhususan. 5
20
Bila Jalapeño akan digunakan?
OpenAI merancang untuk mula menggunakan Jalapeño dalam infrastruktur pengkomputerannya sendiri dalam jumlah yang sangat kecil menjelang akhir 2026, sebelum meningkat dengan lebih ketara pada 2027. 11
33
Program itu dirancang sebagai platform yang merangkumi beberapa generasi. OpenAI berkata cip generasi kedua dan ketiga sudah dalam pembangunan, manakala Broadcom menggambarkan pelan hala tuju yang menyasarkan penggunaan pada skala gigawatt bersama Microsoft dan rakan kongsi pusat data lain. 3
11
30
Strategi lebih luasnya ialah reka bentuk bersama secara menegak — menyelaraskan model, perisian inferens, memori, rangkaian, sistem dan silikon, bukannya menganggap pemecut sebagai komponen yang berdiri sendiri. Pendekatan ini berpotensi memberikan kawalan lebih ketat terhadap kependaman dan kos penyajian, tetapi perkakasannya menjadi kurang serba guna berbanding GPU umum. 3
6
33
Kitaran pembangunan yang pantas memang menarik perhatian, tetapi proses tape-out yang cepat tidak sama dengan pengeluaran besar-besaran yang telah terbukti. Hasil pembuatan, integrasi sistem, kematangan perisian, bekalan dan keupayaan menyokong model masa depan akan menentukan sama ada kelebihan penanda aras itu berubah menjadi kelebihan infrastruktur yang berkekalan. Sumber yang tersedia mengesahkan rancangan pelancaran, tetapi belum membuktikan skala pengeluaran akhirnya. 30
33
Mengapa Jalapeño belum menggantikan Nvidia?
OpenAI berkata ia akan terus bergantung pada Nvidia untuk latihan dan sebagai rakan pengkomputeran. 4
11
Pembahagian tugas itu masuk akal. Latihan model AI termaju memerlukan sistem yang fleksibel untuk menampung seni bina, algoritma dan eksperimen yang sentiasa berubah. GPU Nvidia juga disokong oleh ekosistem perisian CUDA serta rangkaian dan sistem pusat data yang lengkap. 5
Jalapeño lebih tepat dilihat sebagai strategi penggantian terpilih. OpenAI boleh menggunakannya untuk beban kerja inferens yang berulang dan boleh dijangka, terutama apabila syarikat itu mengawal model, perisian penyajian dan infrastrukturnya sendiri. Nvidia pula kekal penting untuk latihan, penyelidikan, iterasi model dan tugasan yang memerlukan fleksibiliti. 4
5
Mengapa Jensen Huang tidak melihatnya sebagai ancaman serta-merta?
Hujah Nvidia terhadap ancaman cip tersuai bukanlah bahawa ASIC tidak boleh menang dalam penanda aras inferens yang sempit. Sebaliknya, Nvidia menekankan bahawa pelanggannya memerlukan platform pengkomputeran yang boleh mengendalikan pelbagai jenis kerja apabila model dan perisian berubah.
GPU boleh melatih, menala dan menjalankan model, manakala ASIC khusus menumpukan kelebihan pada beban kerja yang lebih sempit. Ekosistem CUDA, rangkaian serta sistem pusat data Nvidia turut menjadikan perbandingan itu lebih luas daripada kelajuan cip semata-mata. 5
Skala penggunaan juga mengehadkan kesan persaingan dalam jangka terdekat. Pada peringkat awal, Jalapeño akan digunakan dalam infrastruktur OpenAI sendiri, bukannya ditawarkan secara meluas sebagai alternatif yang boleh dibeli dan dipasang oleh pelanggan di seluruh pasaran. 1
4
Jadi, pengumuman ini lebih banyak mengubah kedudukan rundingan OpenAI dalam pasaran inferens berbanding mengubah keseluruhan pasaran pengkomputeran AI. OpenAI telah menunjukkan bahawa sebahagian beban kerjanya boleh dijalankan menggunakan alternatif tersuai, tetapi pergantungannya kepada Nvidia belum berakhir.
Kesan kepada Nvidia dan pasaran cip AI
Penganalisis melihat Jalapeño sebagai bukti bahawa ASIC yang direka oleh syarikat teknologi berskala besar boleh menyamai atau mengatasi sistem kelas Blackwell dari segi kecekapan inferens. Perkembangan ini berpotensi memberi tekanan kepada Nvidia dalam pasaran inferens, khususnya apabila pengendali AI besar mahu mengurangkan kos penyajian dan kebergantungan kepada satu pembekal. 17
32
OpenAI juga bukan satu-satunya syarikat yang membangunkan silikon sendiri. Google, AWS dan Meta turut disebut sebagai syarikat teknologi utama yang membangunkan cip AI masing-masing, menunjukkan peralihan yang lebih luas ke arah infrastruktur khusus mengikut beban kerja. 5
Namun, kesan yang paling munasabah bukanlah kejatuhan GPU secara serta-merta, sebaliknya pasaran yang semakin terbahagi:
- ASIC tersuai mungkin menjadi pilihan menarik untuk inferens yang stabil, berjumlah tinggi dan dikawal oleh platform besar.
- GPU Nvidia berkemungkinan kekal bernilai untuk latihan, eksperimen model yang pantas, beban kerja pelbagai jenis dan ekosistem perisian yang mengutamakan fleksibiliti.
5
20
- Pelanggan yang membangunkan silikon sendiri boleh memperoleh kuasa tawar-menawar lebih besar ketika merundingkan pembelian GPU pada masa depan dengan mengalihkan permintaan inferens yang boleh dijangka kepada perkakasan dalaman.
Persoalan utama sekarang ialah sama ada kelebihan Jalapeño akan kekal dalam perbandingan yang lebih adil, apabila model berubah dan cip itu digunakan pada skala pengeluaran sebenar. Buat masa ini, bukti menyokong kesimpulan yang lebih berhati-hati: OpenAI menunjukkan bahawa silikon tersuai boleh bersaing dengan sangat baik berbanding Blackwell untuk beban kerja inferens terpilih, sementara Nvidia masih menguasai sebahagian besar ekosistem pengkomputeran AI yang lain.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Jalapeño OpenAI Lebih Cekap Daripada Nvidia Blackwell untuk Inferens AI"?
OpenAI melaporkan Jalapeño menghasilkan 1.5–1.9 kali lebih banyak kerja AI bagi setiap watt dan kependaman hujung ke hujung 1.7–3.6 kali lebih rendah berbanding sistem Nvidia GB200 dan GB300 dalam ujian tiga model bah...
What are the key points to validate first?
OpenAI melaporkan Jalapeño menghasilkan 1.5–1.9 kali lebih banyak kerja AI bagi setiap watt dan kependaman hujung ke hujung 1.7–3.6 kali lebih rendah berbanding sistem Nvidia GB200 dan GB300 dalam ujian tiga model bah... Jalapeño ialah ASIC yang dibangunkan bersama Broadcom khusus untuk inferens, dengan kuasa terkadar 700 watt dan penggunaan kuasa berterusan yang diukur pada 550 watt atau kurang dalam ujian yang dilaporkan.
What should I do next in practice?
Perbandingan itu belum benar benar setara kerana Jalapeño menggunakan memori HBM4, sedangkan sistem Blackwell yang diuji tidak menggunakannya; platform Nvidia Rubin mungkin menjadi perbandingan generasi yang lebih adil.