คำตอบเผยแพร่แล้ว22 แหล่งที่มา
Nvidia เดินหน้าผลิต Groq 3 LPX เต็มรูปแบบ ชูความเร็วสร้างคำตอบ AI 3,400 โทเคนต่อวินาที
Nvidia ประกาศเมื่อวันที่ 24 สิงหาคมว่า Groq 3 LPX เข้าสู่การผลิตเต็มรูปแบบ โดยทำความเร็วได้ 3,400 โทเคนเอาต์พุตต่อวินาทีในการทดสอบ Gemma 4 31B ด้วยบริบท 100,000 โทเคน และบริษัทอ้างว่าเร็วกว่าแพลตฟอร์มทางเลือกที่ใกล้เค... LPX ไม่ได้ถูกวางให้มาแทนที่ GPU ของ Nvidia แต่เป็นตัวเร่งเฉพาะทางสำหรับขั้นตอน decode ซึ่งเป็นช่...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Lunaรูปภาพสร้างด้วย GPT Image 1.5
คำตอบการวิจัย
ประเด็นสำคัญ
- Nvidia ประกาศเมื่อวันที่ 24 สิงหาคมว่า Groq 3 LPX เข้าสู่การผลิตเต็มรูปแบบ โดยทำความเร็วได้ 3,400 โทเคนเอาต์พุตต่อวินาทีในการทดสอบ Gemma 4 31B ด้วยบริบท 100,000 โทเคน และบริษัทอ้างว่าเร็วกว่าแพลตฟอร์มทางเลือกที่ใกล้เค...
- LPX ไม่ได้ถูกวางให้มาแทนที่ GPU ของ Nvidia แต่เป็นตัวเร่งเฉพาะทางสำหรับขั้นตอน decode ซึ่งเป็นช่วงที่โมเดลสร้างคำตอบทีละโทเคน
- Nebius เป็นผู้ให้บริการคลาวด์ AI รายแรกที่ประกาศนำ LPX ไปใช้ โดยมีแผนผสานเข้ากับแพลตฟอร์ม Token Factory ก่อนสิ้นปี 2026 ขณะที่ Groq ก็เตรียมนำไปติดตั้งคู่กับ Vera Rubin NVL72 ในคลาวด์ AI ของตน
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia ประกาศที่งาน Hot Chips เมื่อวันที่ 24 สิงหาคมว่า Groq 3 LPX ซึ่งเป็นตัวเร่งการประมวลผลอนุมาน AI แบบทั้งแร็ก (rack-scale) เข้าสู่การผลิตเต็มรูปแบบแล้ว ระบบนี้ออกแบบมาให้ทำงานร่วมกับ Vera Rubin NVL72 เพื่อเร่งขั้นตอนการสร้างโทเคน ซึ่งเป็นปัจจัยสำคัญที่กำหนดว่าแชตบอตหรือเอเจนต์ AI จะตอบกลับผู้ใช้ได้เร็วเพียงใด 26
ในการทดสอบของ Artificial Analysis, Groq 3 LPX สร้างโทเคนเอาต์พุตได้ 3,400 โทเคนต่อวินาที ขณะรันโมเดลโอเพนซอร์ส Gemma 4 31B พร้อมบริบทขนาด 100,000 โทเคน โดย Nvidia ระบุว่าผลลัพธ์นี้มีความเร็วในการตอบสนองมากกว่าแพลตฟอร์มทางเลือกที่ใกล้เคียงที่สุด 4 เท่าสำหรับเวิร์กโหลดที่ทดสอบ 17
35
Groq 3 LPX ทำหน้าที่อะไร
LPX มุ่งเป้าไปที่งานอนุมานที่ต้องการความหน่วงต่ำ เช่น AI แบบเอเจนต์ ผู้ช่วยเขียนโค้ด และแอปพลิเคชันที่ต้องตอบสนองรวดเร็วแม้ต้องประมวลผลบริบทขนาดยาว Nvidia อธิบายว่า LPX เป็นตัวเร่งการอนุมานแบบอินเทอร์แอกทีฟ ซึ่งเน้นการสร้างโทเคนที่รวดเร็วและมีความสม่ำเสมอ 19
26
หัวใจสำคัญคือการแยกสองช่วงของการอนุมานออกจากกัน ได้แก่ prefill และ decode
- Prefill คือการอ่านและประมวลผลพรอมต์ รวมถึงบริบทโดยรอบก่อนเริ่มตอบ
- Decode คือการสร้างคำตอบทีละโทเคนจนกลายเป็นข้อความสมบูรณ์
Groq 3 LPX เน้นเร่งช่วง decode เป็นหลัก ขณะที่ Vera Rubin NVL72 ยังคงทำหน้าที่เป็นระบบที่ยืดหยุ่นกว่า สำหรับการฝึกโมเดล การอนุมานทั่วไป และการประมวลผลบริบทด้วยอัตรารับส่งข้อมูลสูง 34
แนวทางนี้ทำให้ Nvidia นำเสนอ LPX ในฐานะส่วนเสริมของโครงสร้างพื้นฐาน GPU ไม่ใช่ผลิตภัณฑ์ที่เข้ามาแทนที่ทั้งหมด GPU ยังคงเหมาะกับการประมวลผลเร่งความเร็วแบบอเนกประสงค์ ส่วนสถาปัตยกรรมที่ได้จาก Groq จะรับผิดชอบช่วงการให้บริการโมเดลที่ไวต่อความหน่วงมากที่สุด
ตัวเลข 3,400 โทเคนต่อวินาทีบอกอะไร—and ข้อจำกัดของการทดสอบ
ผลการทดสอบที่แม่นยำกว่าซึ่ง Artificial Analysis รายงานคือค่ามัธยฐาน 3,431 โทเคนเอาต์พุตต่อวินาที ในการทดสอบบริบท 100K กับ Gemma 4 31B ขณะที่ Nvidia ปัดตัวเลขดังกล่าวเป็น 3,400 โทเคนต่อวินาทีในการประกาศ 17
อย่างไรก็ตาม ตัวเลขนี้เป็นข้ออ้างด้านประสิทธิภาพสำหรับเวิร์กโหลดเฉพาะ ไม่ใช่คำยืนยันว่า LPX จะเร็วกว่าแพลตฟอร์มอื่นในทุกสถานการณ์ การเปรียบเทียบขึ้นอยู่กับโมเดล ความยาวบริบท และการตั้งค่าของการทดสอบ โดย Nvidia ระบุว่า LPX ตอบสนองได้เร็วกว่าแพลตฟอร์มทางเลือกที่ใกล้เคียงที่สุด 4 เท่าในกรณีดังกล่าว 35
ประสิทธิภาพของระบบอนุมานในโลกจริงยังขึ้นอยู่กับปัจจัยอื่นด้วย เช่น ขนาดโมเดล ความยาวพรอมต์ จำนวนผู้ใช้พร้อมกัน หน่วยความจำ เครือข่าย และเวลาที่ใช้ประมวลผลบริบทเริ่มต้น ดังนั้นความเร็วในการสร้างโทเคนจึงเป็นเพียงองค์ประกอบหนึ่งของประสบการณ์ใช้งานทั้งหมด
ใครจะนำ Groq 3 LPX ไปใช้
Nebius เป็นผู้ให้บริการคลาวด์ AI รายแรกที่ประกาศรับระบบนี้ไปใช้งาน โดยมีแผนผสาน Groq 3 LPX เข้ากับ Nebius Token Factory ซึ่งเป็นแพลตฟอร์มสำหรับการอนุมานในสภาพแวดล้อมการผลิต ก่อนสิ้นปี 2026 2
ด้าน Groq ระบุว่าจะเป็นหนึ่งในกลุ่มผู้ใช้งานรายแรกเช่นกัน โดยเตรียมนำ LPX ไปติดตั้งคู่กับ Vera Rubin NVL72 ในคลาวด์ AI สำหรับงานอนุมานที่บริษัทพัฒนาขึ้นโดยเฉพาะ แนวคิดคือให้ระบบ Rubin ดูแลความสามารถด้านการประมวลผลโดยรวม ขณะที่ LPX เพิ่มความเร็วในการสร้างโทเคนสำหรับงานที่มีบริบทยาวและต้องตอบสนองแบบทันที 18
บทบาทในระบบนิเวศ Vera Rubin
Nvidia วาง Groq 3 LPX ให้เป็นองค์ประกอบหลักลำดับที่ 7 ของแพลตฟอร์ม Vera Rubin โดยแพลตฟอร์มนี้ยังมี Vera CPU ซึ่ง Nvidia ระบุว่าประกอบด้วยคอร์ Olympus ที่ออกแบบเองจำนวน 88 คอร์ 33
Vera CPU รับผิดชอบงานที่อยู่รอบการอนุมานของโมเดล เช่น การจัดการงานของเอเจนต์ การประมวลผลข้อมูล การเรียกใช้เครื่องมือ การประสานงาน และการรันโค้ด Nvidia ยังประกาศว่า SpaceXAI มีแผนติดตั้ง Vera CPU สำหรับแอปพลิเคชัน AI แบบเอเจนต์รุ่นถัดไป และใช้ระบบ Vera Rubin NVL72 ที่ปรับแต่งเฉพาะกับดาวเทียม AI Starmind รุ่นแรก 40
ภาพรวมดังกล่าวสะท้อนกลยุทธ์ของ Nvidia ที่ต้องการสร้าง “โรงงาน AI” จากชิ้นส่วนเฉพาะทาง แทนการใช้ GPU รับทุกงานแบบเดียวกันทั้งหมด ในโมเดลนี้ CPU ทำหน้าที่ประสานงานเอเจนต์ GPU รับผิดชอบการคำนวณขนาดใหญ่ที่ยืดหยุ่น และ LPX มุ่งเน้นการสร้างคำตอบที่รวดเร็วและคาดการณ์ได้
ดีล Groq มูลค่า 20,000 ล้านดอลลาร์คือการซื้อบริษัทหรือไม่
การเปิดตัว LPX ถือเป็นผลลัพธ์ด้านผลิตภัณฑ์ที่ชัดเจนที่สุดของข้อตกลงระหว่าง Nvidia กับ Groq ในเดือนธันวาคม 2025 แต่การเรียกดีลดังกล่าวว่าเป็นการ “ซื้อ Groq” โดยตรงอาจทำให้เข้าใจคลาดเคลื่อน
รายงานระบุว่าโครงสร้างดีลเป็นการให้สิทธิ์ใช้งานเทคโนโลยีการอนุมานของ Groq แบบไม่ผูกขาด ควบคู่กับการที่ Nvidia รับ Jonathan Ross ผู้ก่อตั้งและซีอีโอของ Groq, Sunny Madra ประธานบริษัท และพนักงานสำคัญรายอื่นเข้าร่วมงาน 4
8
หลังธุรกรรมดังกล่าว Groq ยังคงดำเนินงานต่อและสามารถระดมทุนเพิ่มเติมได้ ลักษณะนี้สอดคล้องกับดีลด้านเทคโนโลยีและบุคลากร มากกว่าการซื้อกิจการทั้งบริษัท 3
โครงสร้างดังกล่าวยังช่วยอธิบายชื่อและตำแหน่งทางการตลาดของผลิตภัณฑ์ Nvidia นำเทคโนโลยีการประมวลผลภาษาของ Groq มาผสานเข้ากับแพลตฟอร์มแบบแร็กของตน ขณะที่ Groq ยังคงดำเนินงานเป็นบริษัทอิสระและมีแผนใช้ฮาร์ดแวร์ Nvidia ที่เกิดขึ้นจากความร่วมมือนี้ในคลาวด์ของบริษัท
ความหมายเชิงกลยุทธ์
ประเด็นสำคัญของการประกาศครั้งนี้ไม่ใช่แค่ Nvidia เปิดตัวชิป AI อีกหนึ่งรุ่น แต่คือการแยกขั้นตอนต่าง ๆ ของการให้บริการ AI ออกจากกัน แล้วมอบงานที่ไวต่อความหน่วงมากที่สุดให้กับตัวเร่งเฉพาะทาง
สำหรับเอเจนต์ AI แบบอินเทอร์แอกทีฟ การเร่งช่วง decode อาจทำให้การทำงานหลายขั้นตอนต่อเนื่องดูตอบสนองมากขึ้น ผลทดสอบของ Nvidia ชี้ให้เห็นศักยภาพอย่างมากในสถานการณ์ที่มีบริบทยาว แต่ผลลัพธ์ในโลกจริงจะขึ้นอยู่กับลักษณะของแอปพลิเคชันและโครงสร้างระบบโดยรวม
การเข้าสู่การผลิตเต็มรูปแบบ การติดตั้งโดย Nebius และแผนใช้งานของ Groq จะเป็นบททดสอบที่สำคัญกว่า ว่าความได้เปรียบจากตัวเลข benchmark จะเปลี่ยนเป็นประสิทธิภาพคลาวด์ที่ผู้ใช้งานเข้าถึงได้อย่างกว้างขวางหรือไม่
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Nvidia เดินหน้าผลิต Groq 3 LPX เต็มรูปแบบ ชูความเร็วสร้างคำตอบ AI 3,400 โทเคนต่อวินาที" คืออะไร
Nvidia ประกาศเมื่อวันที่ 24 สิงหาคมว่า Groq 3 LPX เข้าสู่การผลิตเต็มรูปแบบ โดยทำความเร็วได้ 3,400 โทเคนเอาต์พุตต่อวินาทีในการทดสอบ Gemma 4 31B ด้วยบริบท 100,000 โทเคน และบริษัทอ้างว่าเร็วกว่าแพลตฟอร์มทางเลือกที่ใกล้เค...
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Nvidia ประกาศเมื่อวันที่ 24 สิงหาคมว่า Groq 3 LPX เข้าสู่การผลิตเต็มรูปแบบ โดยทำความเร็วได้ 3,400 โทเคนเอาต์พุตต่อวินาทีในการทดสอบ Gemma 4 31B ด้วยบริบท 100,000 โทเคน และบริษัทอ้างว่าเร็วกว่าแพลตฟอร์มทางเลือกที่ใกล้เค... LPX ไม่ได้ถูกวางให้มาแทนที่ GPU ของ Nvidia แต่เป็นตัวเร่งเฉพาะทางสำหรับขั้นตอน decode ซึ่งเป็นช่วงที่โมเดลสร้างคำตอบทีละโทเคน
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
Nebius เป็นผู้ให้บริการคลาวด์ AI รายแรกที่ประกาศนำ LPX ไปใช้ โดยมีแผนผสานเข้ากับแพลตฟอร์ม Token Factory ก่อนสิ้นปี 2026 ขณะที่ Groq ก็เตรียมนำไปติดตั้งคู่กับ Vera Rubin NVL72 ในคลาวด์ AI ของตน