उत्तरप्रकाशित3 घंटे पहलेLast edited 3 घंटे पहले15 स्रोत

GPUWorks: कम आकार में GPU प्रबंधन और AI इन्फ़रेंस

ZStack ने 4 नवंबर 2026 को GPUWorks को Apache 2.0 लाइसेंस के तहत ओपन सोर्स किया; इसका कोड FlitAI के GitHub रिपॉज़िटरी पर उपलब्ध है। यह लगभग 40MB का GPU प्रबंधन और AI मॉडल डिप्लॉयमेंट प्लेटफ़ॉर्म है, जिसे Kubernetes के बिना इस्तेमाल करने के लिए बनाया गया है। 1,003 GPU सर्वर और 69,000 टोकन प्रति सेकंड जैसे आँकड़े कंपनी...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

ZStack ने 4 नवंबर 2026 को GPUWorks को Apache 2.0 लाइसेंस के तहत ओपन सोर्स किया; इसका कोड FlitAI के GitHub रिपॉज़िटरी पर उपलब्ध है।
यह लगभग 40MB का GPU प्रबंधन और AI मॉडल डिप्लॉयमेंट प्लेटफ़ॉर्म है, जिसे Kubernetes के बिना इस्तेमाल करने के लिए बनाया गया है।
1,003 GPU सर्वर और 69,000 टोकन प्रति सेकंड जैसे आँकड़े कंपनी की रिपोर्ट किए गए परीक्षणों के हैं; उन्हें स्वतंत्र रूप से सत्यापित बेंचमार्क नहीं मानना चाहिए।

Editorial illustration representing GPUWorks and AI inference infrastructure — What is GPUWorks, the enterprise AI inference platform open-sourced on November 4, 2026, according to IT Home, and how does it combine ApachGPUWorks is positioned as a lightweight control plane for managing AI inference across accelerator clusters.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What is GPUWorks, the enterprise AI inference platform open-sourced on November 4, 2026, according to IT Home, and how does it combine Apach. Article summary: GPUWorks is ZStack’s lightweight, enterprise-grade AI inference and Model-as-a-Service (MaaS) platform, announced as open source under Apache-2.0 on November 4, 2026, with a public `flitai-io/gpuworks` GitHub repository.. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
openai.com

GPUWorks, ZStack का हल्का GPU-प्रबंधन और Model-as-a-Service (MaaS) प्लेटफ़ॉर्म है। इसका मकसद अलग-अलग एक्सेलरेटर वाले इन्फ़्रास्ट्रक्चर पर AI इन्फ़रेंस सेवाओं को तैनात और प्रबंधित करना है। ZStack ने इसे 4 नवंबर 2026 को Apache-2.0 लाइसेंस के तहत ओपन-सोर्स करने की घोषणा की; प्रोजेक्ट flitai-io/gpuworks GitHub रिपॉज़िटरी में उपलब्ध है।2 3 इसका मुख्य विचार है—छोटा कंट्रोल प्लेन, कई तरह के एक्सेलरेटर का प्रबंधन और Kubernetes की अनिवार्यता के बिना मॉडल डिप्लॉयमेंट।1 3

GPUWorks किस काम के लिए बनाया गया है?

GPUWorks का लक्ष्य GPU और अन्य एक्सेलरेटर संसाधनों को एक साझा क्लस्टर में लाकर इन्फ़रेंस सेवाओं को तैनात और प्रबंधित करने का रास्ता देना है। प्रोजेक्ट सार्वजनिक और निजी क्लाउड में मिश्रित एक्सेलरेटर वाले क्लस्टर की बात करता है।3 एक अलग रिपोर्ट में NVIDIA, Huawei Ascend, T-Head PPU और Hygon हार्डवेयर का नाम दिया गया है।7 उपलब्ध स्रोत AMD सपोर्ट की पुष्टि नहीं करते, इसलिए उसे समर्थित हार्डवेयर सूची में मान लेना ठीक नहीं होगा।

इस प्लेटफ़ॉर्म की एक खास बात इसका छोटा आकार बताया गया है। ZStack की लॉन्च रिपोर्ट के अनुसार, इसका पैकेज 40MB से थोड़ा बड़ा है, इसे एक कमांड से इंस्टॉल किया जा सकता है और इसके लिए Kubernetes की जरूरत नहीं है। GitHub रिपॉज़िटरी भी डाउनलोड को लगभग 40MB बताती है।1 3 ये अनुमानित आकार हैं—हर इंस्टॉलेशन या डिप्लॉयमेंट का आकार एक जैसा होने की गारंटी नहीं।

लॉन्च कवरेज में करीब 400 मॉडल और 1,000 से अधिक मॉडल-और-चिप लॉन्च कॉन्फ़िगरेशन का दावा भी किया गया है। इसमें एक AI सहायक द्वारा गड़बड़ी पहचानने और शेड्यूलिंग के फैसलों का कारण बताने की बात शामिल है।1 ये कंपनी की ओर से बताए गए उत्पाद फीचर हैं; उपलब्ध स्रोत इनकी स्वतंत्र जाँच या परीक्षण नहीं दिखाते।

GPU संसाधन साझा करना और प्रदर्शन के दावे

GPUWorks के दस्तावेज़ों में मॉडल के स्लीप और वेक व्यवहार का ज़िक्र है। दस्तावेज़ के अनुसार, जब किसी मॉडल की तत्काल जरूरत न हो, तो इन्फ़रेंस इंजन के स्लीप मोड से वह GPU मेमोरी छोड़ सकता है, जबकि उसका कंटेनर चालू रह सकता है। जरूरत पड़ने पर मॉडल को फिर सक्रिय किया जा सकता है।27 कंपनी की घोषणा इसे GPU संसाधनों के साझा इस्तेमाल का तरीका बताती है, ताकि कई मॉडल एक ही GPU पूल का बारी-बारी से उपयोग कर सकें।1

ZStack की रिलीज़ में फिजिकल हार्डवेयर पर किए गए एक परीक्षण के नतीजे भी दिए गए हैं। कंपनी के मुताबिक, एक GPUWorks सर्वर ने 1,003 GPU सर्वरों का प्रबंधन किया, चार मिनट में 500 से अधिक इन्फ़रेंस रेप्लिका शुरू कीं और प्रति सेकंड 69,000 टोकन का आउटपुट हासिल किया। उसी रिपोर्ट में प्रबंधन सर्वर के लिए नौ CPU कोर और 1.6GB मेमोरी इस्तेमाल होने की बात कही गई है।2

इन आँकड़ों को कंपनी द्वारा रिपोर्ट किए गए परीक्षण परिणाम समझना चाहिए, स्वतंत्र रूप से सत्यापित बेंचमार्क नहीं। उपलब्ध सामग्री में परीक्षण की इतनी जानकारी नहीं है कि यह तय किया जा सके कि दूसरे हार्डवेयर या अलग वर्कलोड पर ऐसे नतीजे मिलेंगे या नहीं।

ओपन-सोर्स उपलब्धता—और क्या अभी स्पष्ट नहीं है

Apache-2.0 लाइसेंस की घोषणा और सार्वजनिक GitHub रिपॉज़िटरी से लाइसेंस तथा कोड तक पहुँच की पुष्टि होती है।2 3 लेकिन यहाँ उपलब्ध स्रोत योगदान देने की पूरी प्रक्रिया नहीं बताते और न ही GPUWorks से जुड़े हर व्यापक फीचर-दावे की पुष्टि करते हैं। खास तौर पर AMD सपोर्ट, सभी डिप्लॉयमेंट वातावरण, OpenAI-संगत API, विस्तृत बिलिंग और उपयोग-गणना, तथा मॉडल को जगाने में लगने वाले समय और तुलनात्मक कोल्ड-स्टार्ट नतीजों के पर्याप्त प्रमाण नहीं मिलते।

फिलहाल सबसे ठोस निष्कर्ष यही है: GPUWorks लगभग 40MB का ओपन-सोर्स प्लेटफ़ॉर्म है, जिसे कई तरह के एक्सेलरेटर वाले इन्फ़्रास्ट्रक्चर और AI इन्फ़रेंस डिप्लॉयमेंट को Kubernetes के बिना संभालने के लिए बनाया गया है। इसके बड़े पैमाने और परिचालन क्षमता से जुड़े आँकड़ों को स्वतंत्र पुष्टि मिलने तक लॉन्च के दावों के रूप में देखना बेहतर होगा।

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं