उत्तरप्रकाशित2 माह पहलेLast edited 2 माह पहले17 स्रोत

Nvidia ने Groq 3 LPX को फुल प्रोडक्शन में उतारा: एजेंटिक AI के लिए 3,431 टोकन प्रति सेकंड

Nvidia ने 24 अगस्त को Hot Chips में बताया कि Groq 3 LPX रैक स्केल इंफरेंस एक्सेलेरेटर अब फुल प्रोडक्शन में है। LPX को एजेंटिक AI में कम लेटेंसी और लंबे संदर्भ वाले कार्यों के दौरान तेज व पूर्वानुमेय टोकन जनरेशन के लिए बनाया गया है। Artificial Analysis के बेंचमार्क में Gemma 4 31B मॉडल और 100,000 टोकन के संदर्भ पर 3,...

प्रकाशितकर्ताGPT Image 1.5 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

Nvidia ने 24 अगस्त को Hot Chips में बताया कि Groq 3 LPX रैक स्केल इंफरेंस एक्सेलेरेटर अब फुल प्रोडक्शन में है।
LPX को एजेंटिक AI में कम लेटेंसी और लंबे संदर्भ वाले कार्यों के दौरान तेज व पूर्वानुमेय टोकन जनरेशन के लिए बनाया गया है।
Artificial Analysis के बेंचमार्क में Gemma 4 31B मॉडल और 100,000 टोकन के संदर्भ पर 3,431 आउटपुट टोकन प्रति सेकंड दर्ज किए गए। [1][6]
Nvidia का दावा है कि इन संवेदनशील, लंबे संदर्भ वाले वर्कलोड में LPX निकटतम वैकल्पिक प्लेटफॉर्म से प्रतिक्रिया के मामले में चार गुना तेज है। [6]

What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired thAI-generated editorial hero image for What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack scale accelerator had entered full production as the low latency, long context inference component of the Vera Rubin platform.. Topic tags: general web, openai, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnai
openai.com

24 अगस्त को Hot Chips 2026 में Nvidia ने घोषणा की कि उसका Groq 3 LPX रैक-स्केल इंफरेंस एक्सेलेरेटर फुल प्रोडक्शन में पहुंच गया है। इसे Nvidia के Vera Rubin प्लेटफॉर्म का कम-लेटेंसी, लंबे-संदर्भ वाला इंफरेंस घटक बनाया गया है। इसका मुख्य काम AI एजेंट द्वारा जवाब तैयार करते समय अगले टोकन को बेहद तेज और स्थिर गति से जनरेट करना है। 3 6

यह Vera Rubin NVL72 का विकल्प नहीं है। Nvidia के अनुसार, NVL72 एक लचीला, सामान्य-उद्देश्य वाला सिस्टम बना रहेगा, जो ट्रेनिंग, संदर्भ-प्रोसेसिंग और बड़े पैमाने के इंफरेंस वर्कलोड संभालेगा। LPX उस हिस्से पर ध्यान देगा जो उपयोगकर्ता को AI की प्रतिक्रिया कितनी जल्दी मिलती है, यह तय करता है। 3 6

Nvidia ने क्या बताया?

Nvidia ने Artificial Analysis के बेंचमार्क का हवाला देते हुए कहा कि Groq 3 LPX ने Google के ओपन-सोर्स Gemma 4 31B मॉडल को 100,000 टोकन के संदर्भ के साथ चलाते हुए करीब 3,400 आउटपुट टोकन प्रति सेकंड की गति हासिल की। Nvidia के अधिक सटीक आंकड़े के अनुसार परिणाम 3,431 टोकन प्रति सेकंड था। 1 6
कंपनी ने दावा किया कि लंबे-संदर्भ और कम-लेटेंसी वाले इन वर्कलोड में LPX की प्रतिक्रिया निकटतम वैकल्पिक प्लेटफॉर्म से चार गुना तेज रही। 6
LPX इंफरेंस के डिकोड या जनरेशन चरण के लिए अनुकूलित है—यानी मॉडल द्वारा अगला टोकन तैयार करने की प्रक्रिया। Vera Rubin सिस्टम ट्रेनिंग, संदर्भ को पढ़ने और अन्य व्यापक AI-फैक्टरी कार्यों के लिए काम करता रहेगा। 3 6
Nvidia ने LPX को Vera Rubin प्लेटफॉर्म का सातवां प्रमुख चिप घटक बताया है। इस प्लेटफॉर्म में Vera CPU भी शामिल है, जिसमें Nvidia के 88 कस्टम Olympus कोर हैं। 2
AI क्लाउड कंपनी Nebius Groq 3 LPX अपनाने वाली पहली कंपनी होगी और इसे अपने Token Factory प्रोडक्शन-इंफरेंस प्लेटफॉर्म में जोड़ेगी। 6
Groq ने भी कहा है कि वह शुरुआती अपनाने वालों में शामिल होगी और अपने विशेष AI इंफरेंस क्लाउड में LPX को Vera Rubin NVL72 के साथ तैनात करेगी। 4

इसका रणनीतिक मतलब क्या है?

Nvidia का संदेश है कि अगली पीढ़ी के AI डेटा सेंटर या “AI फैक्टरी” हर काम के लिए एक ही तरह के प्रोसेसर पर निर्भर नहीं होंगे। सामान्य और बड़े पैमाने की AI कंप्यूटिंग के लिए GPU तथा Rubin सिस्टम काम करेंगे, जबकि LPX जैसे एक्सेलेरेटर एजेंटिक AI की तत्काल प्रतिक्रिया के लिए खास तौर पर तैयार किए जाएंगे। 3 6

एजेंटिक AI में मॉडल केवल एक जवाब नहीं देता; वह कई चरणों में योजना बना सकता है, टूल का इस्तेमाल कर सकता है और लगातार नए टोकन जनरेट कर सकता है। ऐसे मामलों में कुल कंप्यूटिंग क्षमता के साथ-साथ हर अगले टोकन के आने की गति भी उपयोगकर्ता अनुभव के लिए महत्वपूर्ण होती है।

Groq को Nvidia ने खरीदा था? जरूरी सुधार

इस घोषणा को Nvidia द्वारा Groq की 20 अरब डॉलर में पूरी खरीद के रूप में पेश करना सटीक नहीं है। उपलब्ध रिपोर्टों के अनुसार, Nvidia ने Groq की इंफरेंस तकनीक का गैर-अनन्य लाइसेंस लिया और संस्थापक Jonathan Ross, अध्यक्ष Sunny Madra तथा कुछ अन्य प्रमुख कर्मचारियों को नियुक्त किया। Groq इसके बाद भी स्वतंत्र रूप से सक्रिय रही और उसने नई फंडिंग जुटाई। 5

इसीलिए Groq 3 LPX का नाम Nvidia के Vera Rubin प्लेटफॉर्म में शामिल होना तकनीकी साझेदारी, लाइसेंसिंग और प्रमुख प्रतिभाओं के Nvidia में आने का परिणाम बताता है—इसे सीधे तौर पर Groq कंपनी के अधिग्रहण के रूप में नहीं पढ़ना चाहिए।

किन दावों की पुष्टि उपलब्ध साक्ष्यों से नहीं होती?

उपलब्ध स्रोत 256 चिप प्रति रैक, हर चिप में 500 MB ऑन-डाई SRAM, Samsung द्वारा निर्माण बनाम TSMC की GPU फैब्रिकेशन, AMD या Cerebras की कथित प्रतिक्रिया और OpenAI के 750 टोकन प्रति सेकंड वाले मोड जैसे विशिष्ट दावों को पर्याप्त रूप से प्रमाणित नहीं करते।

इसी तरह, स्रोत यह समर्थन करते हैं कि SpaceXAI एजेंटिक AI अनुप्रयोगों के लिए Vera CPU तैनात करने की योजना बना रही है, लेकिन टूल एक्जीक्यूशन, कक्षीय उपग्रहों के बीच सिमुलेशन या उस तैनाती के सटीक दायरे और समय से जुड़े विस्तृत दावे स्थापित नहीं होते। 7

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं