Groq 3 LPX Nvidia Kini Dalam Pengeluaran Penuh: Fokus Kepada Respons AI Lebih Pantas

Nvidia mengumumkan pada acara Hot Chips pada 24 Ogos 2026 bahawa pemecut inferens berskala rak Groq 3 LPX telah memasuki pengeluaran penuh. Peranti ini menjadi komponen kependaman rendah dan konteks panjang bagi platform Vera Rubin, dengan fokus khusus untuk menjana token dengan pantas dalam aplikasi AI berasaskan ejen. 36

Apa yang diumumkan Nvidia?

Dalam penanda aras Artificial Analysis, Groq 3 LPX menghasilkan 3,431 token keluaran sesaat ketika menjalankan model sumber terbuka Gemma 4 31B dengan konteks sepanjang 100,000 token. Nvidia membundarkan angka itu kepada 3,400 token sesaat dalam pengumumannya. 16

Nvidia mendakwa prestasi tersebut menjadikan LPX sehingga empat kali lebih pantas dari segi respons berbanding platform alternatif terdekat bagi beban kerja yang menggunakan konteks panjang dan memerlukan kependaman rendah. 6

Fungsi utama LPX ialah bahagian decode atau penjanaan dalam proses inferens—iaitu menghasilkan token seterusnya dengan pantas dan konsisten. Sistem Vera Rubin pula terus mengendalikan latihan, pemprosesan konteks dan tugasan pengkomputeran AI yang lebih luas. Oleh itu, LPX bukan pengganti GPU, sebaliknya pemecut khusus yang bekerja bersama GPU serta sistem Vera Rubin NVL72. 36

Nvidia turut meletakkan LPX sebagai cip utama ketujuh dalam platform Vera Rubin, bersama-sama CPU Vera dan cip lain dalam platform itu. CPU Vera mempunyai 88 teras Olympus yang direka khusus oleh Nvidia. 2

Siapa yang akan menggunakannya?

Nebius diumumkan sebagai penyedia awan AI pertama yang menerima pakai Groq 3 LPX. Syarikat itu merancang untuk menambah LPX pada platform inferens pengeluaran Token Factory. 6

Groq juga akan menjadi antara pengguna awal, dengan rancangan menggunakan LPX bersama sistem Vera Rubin NVL72 dalam awan AI inferens khusus miliknya. 4

Mengapa teknologi ini penting untuk AI berasaskan ejen?

Dalam sistem AI berasaskan ejen, kelajuan menghasilkan token memberi kesan terus kepada tempoh pengguna menunggu jawapan atau tindakan seterusnya. Sistem sedemikian lazimnya perlu membaca konteks yang panjang, membuat keputusan dalam beberapa langkah dan memberi respons secara interaktif.

Pendekatan Nvidia ialah membahagikan tugasan mengikut jenis beban kerja: GPU dan sistem Rubin digunakan untuk pengkomputeran AI berskala besar serta fleksibel, manakala LPX dikhususkan untuk bahagian penjanaan token yang menjadi penentu utama kepada rasa responsif sesuatu ejen. 36

Penjelasan tentang dakwaan pengambilalihan Groq

Walaupun sering digambarkan sebagai pembelian Groq bernilai AS$20 bilion, laporan yang tersedia menunjukkan bahawa perjanjian itu lebih tepat digambarkan sebagai pelesenan teknologi Groq secara tidak eksklusif serta pengambilan beberapa tokoh utama syarikat, termasuk pengasas Jonathan Ross dan Presiden Sunny Madra. Groq kemudiannya terus beroperasi dan mengumpul dana baharu. 5

Perkara yang belum disahkan oleh bukti

Bahan yang tersedia tidak mencukupi untuk mengesahkan beberapa dakwaan khusus, termasuk angka 256 cip bagi setiap rak, 500 MB SRAM pada setiap cip, dakwaan bahawa LPX dibuat oleh Samsung berbanding pengeluaran GPU Nvidia oleh TSMC, serta dakwaan tentang tindak balas kompetitif AMD, Cerebras atau mod 750 token sesaat OpenAI.

Begitu juga, bukti yang ada hanya menyokong bahawa SpaceXAI merancang menggunakan CPU Vera untuk aplikasi AI berasaskan ejen. Ia belum mengesahkan secara terperinci dakwaan berkaitan pelaksanaan alat, simulasi merentasi satelit orbit atau skop dan jadual sebenar penggunaannya. 7