JawabanDipublikasikan17 sumber
Nvidia Mulai Produksi Penuh Groq 3 LPX untuk Mempercepat Respons AI Agentik
Di Hot Chips pada 24 Agustus 2026, Nvidia menyatakan Groq 3 LPX telah masuk produksi penuh sebagai komponen inferensi berlatensi rendah dan berkonteks panjang pada platform Vera Rubin. Dalam benchmark Artificial Analysis, LPX menghasilkan 3.431 token keluaran per detik pada model open source Gemma 4 31B dengan konte...
Diterbitkan olehGambar dibuat dengan GPT Image 1.5
Jawaban penelitian
Poin-poin penting
- Di Hot Chips pada 24 Agustus 2026, Nvidia menyatakan Groq 3 LPX telah masuk produksi penuh sebagai komponen inferensi berlatensi rendah dan berkonteks panjang pada platform Vera Rubin.
- Dalam benchmark Artificial Analysis, LPX menghasilkan 3.431 token keluaran per detik pada model open source Gemma 4 31B dengan konteks 100.000 token.
- Nvidia mengklaim LPX memiliki respons hingga empat kali lebih cepat dibandingkan platform alternatif terdekat untuk beban kerja serupa.
- Groq 3 LPX melengkapi sistem Vera Rubin NVL72, bukan menggantikan GPU untuk pelatihan dan pekerjaan inferensi umum.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack scale accelerator had entered full production as the low latency, long context inference component of the Vera Rubin platform.. Topic tags: general web, openai, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnai
Nvidia mengumumkan di konferensi Hot Chips pada 24 Agustus 2026 bahwa Groq 3 LPX telah masuk produksi penuh. Akselerator berbasis rak ini menjadi komponen inferensi berlatensi rendah untuk platform Vera Rubin, terutama untuk aplikasi AI agentik yang membutuhkan pembuatan token secara cepat dan konsisten dalam konteks panjang. 3
6
Apa yang diumumkan Nvidia?
Dalam benchmark Artificial Analysis, Groq 3 LPX menghasilkan 3.431 token keluaran per detik saat menjalankan model open-source Gemma 4 31B dengan konteks sepanjang 100.000 token. Nvidia membulatkan hasil tersebut menjadi 3.400 token per detik dalam pengumumannya. 1
6
Menurut Nvidia, angka itu membuat LPX memiliki respons hingga empat kali lebih cepat dibandingkan platform alternatif terdekat untuk beban kerja yang sensitif terhadap latensi dan menggunakan konteks panjang. 6
Fokus utama LPX adalah tahap decode atau generasi dalam proses inferensi—yakni menghasilkan token berikutnya secepat dan seprediktif mungkin. Sementara itu, sistem Vera Rubin NVL72 tetap menangani pekerjaan yang lebih luas, termasuk pelatihan, pemrosesan konteks, prefill, dan layanan inferensi berskala besar. 3
6
Nvidia menempatkan LPX sebagai komponen utama ketujuh dalam platform Vera Rubin, di samping Vera CPU dan chip-chip lainnya. Vera CPU sendiri memiliki 88 inti Olympus yang dirancang khusus Nvidia. 2
Siapa yang akan menggunakan Groq 3 LPX?
Nebius diumumkan sebagai penyedia cloud AI pertama yang mengadopsi Groq 3 LPX. Perusahaan tersebut berencana menambahkan akselerator ini ke Token Factory, platform inferensi produksinya. 6
Groq juga menyatakan akan menjadi salah satu pengguna awal. Perusahaan itu berencana menempatkan LPX bersama sistem Vera Rubin NVL72 dalam layanan cloud inferensi AI yang dibangunnya secara khusus. 4
Mengapa teknologi ini penting?
Nvidia sedang mendorong pendekatan berbasis beban kerja untuk “pabrik AI” masa depan. GPU dan sistem Rubin dapat menangani komputasi AI yang fleksibel serta pelatihan dan inferensi berskala besar. LPX, di sisi lain, ditujukan untuk mengatasi hambatan yang paling terasa oleh pengguna: waktu tunggu saat agen AI menghasilkan jawaban atau menyelesaikan rangkaian tugas.
Dalam AI agentik, sistem tidak hanya memberikan satu jawaban. Agen dapat membaca konteks panjang, memanggil alat, lalu menghasilkan banyak langkah secara berurutan. Karena itu, kecepatan pembuatan token dapat menentukan seberapa responsif pengalaman pengguna. Groq 3 LPX dirancang untuk menangani bagian tersebut, sementara Vera Rubin NVL72 tetap berperan sebagai sistem serbaguna. 3
6
Koreksi soal “akuisisi” Groq
Pernyataan bahwa Nvidia “membeli Groq” perlu diperjelas. Berdasarkan laporan yang tersedia, kesepakatan senilai US$20 miliar itu lebih tepat digambarkan sebagai perjanjian lisensi teknologi Groq sekaligus perekrutan pendiri Jonathan Ross, Presiden Sunny Madra, dan sejumlah eksekutif kunci—bukan akuisisi penuh atas perusahaan Groq. Groq kemudian tetap beroperasi dan memperoleh pendanaan baru. 5
Bukti yang tersedia juga belum cukup untuk memastikan sejumlah klaim teknis lain, termasuk konfigurasi 256 chip per rak, kapasitas SRAM on-die 500 MB per chip, perbedaan manufaktur Samsung dan TSMC, serta klaim mengenai respons AMD, Cerebras, atau mode 750 token per detik dari OpenAI.
Selain itu, sumber yang ada mendukung rencana SpaceXAI untuk menggunakan Vera CPU dalam aplikasi AI agentik, tetapi belum membuktikan rincian tentang eksekusi alat, simulasi di antara satelit orbit, maupun cakupan dan jadwal penerapannya secara spesifik. 7
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Nvidia Mulai Produksi Penuh Groq 3 LPX untuk Mempercepat Respons AI Agentik"?
Di Hot Chips pada 24 Agustus 2026, Nvidia menyatakan Groq 3 LPX telah masuk produksi penuh sebagai komponen inferensi berlatensi rendah dan berkonteks panjang pada platform Vera Rubin.
Apa poin penting yang harus divalidasi terlebih dahulu?
Di Hot Chips pada 24 Agustus 2026, Nvidia menyatakan Groq 3 LPX telah masuk produksi penuh sebagai komponen inferensi berlatensi rendah dan berkonteks panjang pada platform Vera Rubin. Dalam benchmark Artificial Analysis, LPX menghasilkan 3.431 token keluaran per detik pada model open source Gemma 4 31B dengan konteks 100.000 token.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Nvidia mengklaim LPX memiliki respons hingga empat kali lebih cepat dibandingkan platform alternatif terdekat untuk beban kerja serupa.
Sumber
developer.nvidia.comInside NVIDIA Groq 3 LPX: The Low-Latency Inference ...
blogs.nvidia.comNVIDIA Advances Vera Rubin Inference With New LPX and ...