AnswersPublished22 sources
Nvidia Groq 3 LPX Masuk Pengeluaran Penuh untuk Respons AI Lebih Pantas
Nvidia mengumumkan pada 24 Ogos bahawa Groq 3 LPX telah memasuki pengeluaran penuh. LPX bukan pengganti GPU Nvidia. Ia ialah pemecut khusus untuk fasa decode dalam inferens, iaitu ketika model menjana jawapan token demi token.
Diterbitkan olehDisunting dengan GPT-5.6 LunaImej dijana dengan GPT Image 1.5
Research answer
Key takeaways
- Nvidia mengumumkan pada 24 Ogos bahawa Groq 3 LPX telah memasuki pengeluaran penuh.
- LPX bukan pengganti GPU Nvidia. Ia ialah pemecut khusus untuk fasa decode dalam inferens, iaitu ketika model menjana jawapan token demi token.
- Nebius menjadi pengguna awan AI pertama yang diumumkan, dengan rancangan mengintegrasikan LPX ke dalam platform Token Factory sebelum akhir 2026.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia mengumumkan di persidangan Hot Chips pada 24 Ogos bahawa pemecut inferens berskala rak Groq 3 LPX kini telah memasuki pengeluaran penuh. Sistem ini direka untuk berfungsi bersama Vera Rubin NVL72, dengan fokus mempercepatkan peringkat penjanaan token—bahagian yang banyak mempengaruhi seberapa pantas aplikasi AI interaktif memberikan respons. 26
Dalam penanda aras Artificial Analysis, Groq 3 LPX menghasilkan 3,400 token output sesaat ketika menjalankan model sumber terbuka Google, Gemma 4 31B, dengan konteks sepanjang 100,000 token. Bacaan median yang lebih tepat ialah 3,431 token sesaat, manakala Nvidia membundarkan angka itu kepada 3,400 dalam pengumumannya. Syarikat itu mendakwa keputusan tersebut empat kali lebih pantas daripada platform alternatif terdekat bagi beban kerja yang diuji. 17
35
Apa fungsi Groq 3 LPX?
Groq 3 LPX menyasarkan inferens kependaman rendah untuk ejen AI, pembantu pengekodan dan aplikasi lain yang perlu bertindak balas dengan pantas walaupun memproses konteks yang panjang. Nvidia menggambarkannya sebagai pemecut inferens interaktif yang memberikan penjanaan token berkelajuan tinggi dan lebih konsisten. 19
26
Untuk memahami peranannya, proses inferens biasanya boleh dibahagikan kepada dua peringkat utama:
- Prefill memproses arahan pengguna serta konteks yang mengiringinya.
- Decode menjana jawapan, satu token pada satu-satu masa.
LPX terutama ditugaskan untuk mempercepatkan peringkat kedua, iaitu decode. Vera Rubin NVL72 pula kekal sebagai sistem yang lebih serba guna untuk latihan model, inferens umum dan pemprosesan konteks berkapasiti tinggi. 34
Pembahagian kerja ini bermakna LPX dipasarkan sebagai pelengkap kepada infrastruktur GPU Nvidia, bukannya pengganti keseluruhan. GPU terus mengendalikan pengkomputeran dipercepat yang lebih umum, sementara seni bina berasaskan teknologi Groq digunakan untuk bahagian penyampaian model yang paling sensitif terhadap kependaman.
Angka 3,400 token sesaat—dan had perbandingannya
Keputusan utama datang daripada ujian Artificial Analysis menggunakan Gemma 4 31B dengan konteks 100,000 token. Sistem Groq 3 LPX mencatat median 3,431 token output sesaat, sebelum Nvidia membundarkan angka itu kepada 3,400 token sesaat dalam pengumuman rasmi. 17
Namun, dakwaan “empat kali lebih pantas” itu perlu difahami mengikut konteks. Ia bukan ukuran universal untuk semua jenis prestasi AI, sebaliknya terpakai pada model, panjang konteks dan tetapan penanda aras yang diuji. Nvidia menyifatkan LPX sebagai empat kali lebih responsif berbanding platform alternatif terdekat dalam senario tersebut. 35
Kelajuan penjanaan token hanyalah satu daripada beberapa faktor yang menentukan pengalaman sebenar pengguna. Saiz model, panjang arahan, bilangan pengguna serentak, kapasiti memori, rangkaian dan masa untuk memproses konteks awal semuanya boleh mempengaruhi prestasi aplikasi.
Siapa yang akan menggunakan LPX?
Nebius ialah pengguna awan AI pertama yang diumumkan. Syarikat itu merancang mengintegrasikan Groq 3 LPX ke dalam Nebius Token Factory, platform inferens pengeluarannya, sebelum akhir 2026. 2
Groq juga menyatakan bahawa ia akan menjadi antara pengguna terawal. Syarikat itu merancang menggunakan LPX bersama Vera Rubin NVL72 dalam perkhidmatan awan inferens AI khusus miliknya. Gabungan ini mempunyai pembahagian tugas yang jelas: sistem Rubin menyediakan keupayaan platform yang lebih luas, manakala LPX meningkatkan kelajuan penjanaan token bagi beban kerja yang menggunakan konteks panjang. 18
Kedudukan LPX dalam ekosistem Vera Rubin
Nvidia meletakkan Groq 3 LPX sebagai komponen utama ketujuh dalam platform Vera Rubin. Platform tersebut turut merangkumi Vera CPU, yang menurut Nvidia mempunyai 88 teras Olympus rekaan tersuai. 33
Vera CPU pula mengendalikan kerja di sekeliling inferens model, termasuk penyelarasan, pemprosesan data, penggunaan alat dan pelaksanaan kod. Nvidia turut mengumumkan bahawa SpaceXAI merancang menggunakan Vera CPU untuk aplikasi ejen AI generasi seterusnya serta sistem Vera Rubin NVL72 yang dioptimumkan untuk satelit AI Starmind generasi pertama. 40
Kesemua pengumuman ini menunjukkan hala tuju lebih besar Nvidia: membina “kilang AI” menggunakan komponen khusus mengikut jenis beban kerja, bukannya menganggap semua tugas perlu diselesaikan oleh GPU. Dalam pendekatan itu, CPU menyelaraskan tugasan ejen, GPU mengendalikan pengkomputeran berskala besar yang fleksibel, manakala LPX memberi tumpuan kepada penjanaan respons yang pantas dan lebih boleh dijangka.
Apa sebenarnya yang berlaku dalam perjanjian Nvidia-Groq bernilai AS$20 bilion?
Pelancaran LPX ialah hasil produk paling jelas setakat ini daripada perjanjian Nvidia dengan Groq pada Disember 2025. Namun, menyebutnya sebagai pengambilalihan Groq secara terus adalah kurang tepat.
Laporan yang tersedia menggambarkan perjanjian itu sebagai lesen tidak eksklusif untuk teknologi inferens Groq, bersama pengambilan pengasas dan Ketua Pegawai Eksekutif Groq, Jonathan Ross, Presiden Sunny Madra serta beberapa kakitangan penting lain oleh Nvidia. 4
8
Groq kekal beroperasi selepas perjanjian tersebut dan kemudiannya memperoleh pembiayaan tambahan. Perkembangan ini lebih selari dengan urus niaga teknologi dan bakat berbanding pembelian keseluruhan syarikat yang sedang beroperasi. 3
Struktur itu turut menjelaskan kedudukan produk ini. Nvidia memasukkan teknologi pemprosesan bahasa Groq ke dalam platform berskala raknya sendiri, manakala Groq terus beroperasi sebagai syarikat bebas dan merancang menggunakan perkakasan Nvidia yang terhasil dalam perkhidmatan awannya.
Mengapa pengumuman ini penting?
Pengumuman Nvidia bukan sekadar tentang satu lagi cip AI. Yang lebih penting ialah keputusan untuk memisahkan beberapa peringkat penyampaian perkhidmatan AI dan memberikan tugas paling sensitif terhadap kependaman kepada pemecut khusus.
Bagi ejen interaktif, proses decode yang lebih pantas boleh menjadikan tugasan berbilang langkah terasa lebih responsif. Penanda aras Nvidia menunjukkan kelebihan besar dalam satu konfigurasi konteks panjang, tetapi manfaat sebenar akan bergantung pada aplikasi serta keseluruhan rangkaian sistem inferens.
Status pengeluaran penuh, pelaksanaan oleh Nebius dan rancangan penggunaan oleh Groq akan menjadi ujian yang lebih bermakna—iaitu sama ada kelebihan dalam penanda aras itu benar-benar boleh diterjemahkan kepada prestasi awan yang tersedia secara meluas.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nvidia Groq 3 LPX Masuk Pengeluaran Penuh untuk Respons AI Lebih Pantas"?
Nvidia mengumumkan pada 24 Ogos bahawa Groq 3 LPX telah memasuki pengeluaran penuh.
What are the key points to validate first?
Nvidia mengumumkan pada 24 Ogos bahawa Groq 3 LPX telah memasuki pengeluaran penuh. LPX bukan pengganti GPU Nvidia. Ia ialah pemecut khusus untuk fasa decode dalam inferens, iaitu ketika model menjana jawapan token demi token.
What should I do next in practice?
Nebius menjadi pengguna awan AI pertama yang diumumkan, dengan rancangan mengintegrasikan LPX ke dalam platform Token Factory sebelum akhir 2026.