Jev: टेक्स्ट लिखने के बजाय सॉफ्टवेयर के लिए संरचित फैसले लेने वाला AI मॉडल

TypeSafe AI का Jev उसका पहला “System One Model” है। यह डेवलपर्स के लिए बनाया गया मॉडल है, जिसका काम बातचीत करना या टेक्स्ट जनरेट करना नहीं, बल्कि सॉफ्टवेयर के भीतर सीमित और मशीन-पठनीय निर्णय लेना है। कंपनी दो वर्ष के स्टेल्थ मोड से बाहर आई है और उसने DCVC के नेतृत्व में 4 करोड़ डॉलर की सीड फंडिंग की सूचना दी है। Jev फिलहाल डेवलपर वेटलिस्ट के जरिए अर्ली ऐक्सेस में है। 61112

Jev वास्तव में करता क्या है?

डेवलपर Jev को प्राकृतिक भाषा में विवरण, JSON जैसे संरचित डेटा, या दोनों को मिलाकर एक state देता है। साथ में वह तय प्रकार के प्रश्न भेजता है। बदले में मॉडल सीधे ऐसा आउटपुट देता है जिसे प्रोग्राम उपयोग कर सके, जैसे:

• पहले से तय विकल्पों में से एक चुनाव — एक choice primitive में अधिकतम 255 विकल्प;
• कोई संख्यात्मक स्कोर;
• हां/नहीं की बाइनरी संभाव्यता;
• और उस निर्णय के साथ संभाव्यता या कॉन्फिडेंस की जानकारी। 16

मसलन, “मेरे कार्ड से दो बार शुल्क कट गया” जैसे संदेश और ग्राहक-संदर्भ को देखकर सिस्टम टिकट की श्रेणी चुन सकता है, जोखिम-स्कोर दे सकता है या मामले को मानव एजेंट तक भेजने की संभावना बता सकता है। इस आउटपुट को पढ़ने के लिए LLM के लिखे हुए गद्य को पार्स करने की जरूरत नहीं पड़ती।

सामान्य LLM से अंतर क्या है?

ChatGPT जैसे ऑटोरेग्रेसिव LLM एक-एक टोकन उत्पन्न करते हैं; अगला टोकन पहले वाले पर निर्भर होता है। TypeSafe का कहना है कि Jev टेक्स्ट लिखने के बजाय मांगे गए संरचित उत्तरों को एक ही क्वेरी में समानांतर रूप से देता है। इससे टेक्स्ट जनरेशन, उसके बाद पार्सिंग और फॉर्मेट सत्यापन की जरूरत घटती है। 611

इसे एक बड़े, निश्चित सॉफ्टवेयर वर्कफ़्लो के भीतर AI-सक्षम “स्मार्ट if-statement”, क्लासिफ़ायर या स्कोरर की तरह समझना अधिक सही है। यह सामान्य-purpose चैटबॉट का विकल्प नहीं है।

RLCD और “ईमानदार” कॉन्फिडेंस का दावा

TypeSafe अपनी प्रशिक्षण पद्धति को RLCD (Reinforcement Learning for Calibrated Decisions) कहती है। इसका घोषित लक्ष्य केवल उत्तर देना नहीं, बल्कि अनिश्चितता को कैलिब्रेट करना है: समान तरह की बहुत-सी भविष्यवाणियों में जिस उत्तर का रिपोर्ट किया गया कॉन्फिडेंस अधिक हो, उसकी वास्तविक सटीकता भी औसतन अधिक होनी चाहिए। 16

यह संचालन के लिहाज से उपयोगी हो सकता है। उदाहरण के लिए, कंपनी 95% कॉन्फिडेंस वाले मामलों को अपने-आप निपटा सकती है, मध्यम कॉन्फिडेंस पर अतिरिक्त जांच लगा सकती है, और कम कॉन्फिडेंस वाले मामलों को किसी कर्मचारी या अधिक विचार-विमर्श करने वाले मॉडल तक भेज सकती है। लेकिन किसी एक उत्तर का कॉन्फिडेंस बहुत ऊंचा होना उसके सही होने की गारंटी नहीं है।

गति और कीमत: दावे बड़े हैं, पर अभी कंपनी के अपने आंकड़े हैं

TypeSafe के मुताबिक Jev का एंड-टू-एंड रिस्पॉन्स समय करीब 70–500 मिलीसेकंड है। कंपनी का दावा है कि System One के अनुकूल कार्यों और चुने गए बेसलाइन के आधार पर यह 20–200 गुना तेज़ और 40–400 गुना सस्ता हो सकता है। उसके प्रमुख वर्कफ़्लो आंकड़े 193.6 गुना तेज़ और 444.6 गुना सस्ता होने के हैं। 67

सूचीबद्ध कीमत 10 लाख इनपुट टोकन के लिए 0.042 डॉलर है। आउटपुट को मुफ्त बताया गया है, क्योंकि कंपनी के अनुसार उसे मापने लायक लागत ही नहीं है। 67

इन संख्याओं को सावधानी से पढ़ना चाहिए: ये कंपनी के दावे हैं, स्वतंत्र रूप से दोहराए गए निष्कर्ष नहीं। लाभ कितना मिलेगा, यह कार्य के स्वरूप, मॉडल तुलना, प्रॉम्प्ट, इंटीग्रेशन और त्रुटि-सुधार की जरूरत पर निर्भर करेगा।

डेमो में DOOM और विकिपीडिया चुनौती

कंपनी के DOOM डेमो में Jev को गेम की संरचित स्थिति दी गई और उसने लगातार अगली कार्रवाई चुनी — करीब 10 कॉल प्रति सेकंड की रफ्तार से। अनुमानित लागत लगभग 7 डॉलर प्रति घंटा बताई गई। 6

TypeSafe ने यह भी कहा कि विकिपीडिया के लिंक-नेविगेशन चैलेंज में Jev ने कई frontier models को पछाड़ा। हालांकि कंपनी ने खुद नोट किया कि तुलना में अधिकतर मॉडलों के non-reasoning मोड इस्तेमाल हुए थे। इसलिए इसे व्यापक “बुद्धिमत्ता” रैंकिंग नहीं, बल्कि सीमित कार्य पर एक संकेत के रूप में देखना चाहिए। 6

किन कामों में उपयोगी हो सकता है?

Jev उन जगहों पर फिट बैठता है जहां निर्णय बार-बार, बड़ी संख्या में और तय विकल्पों के भीतर लेने हों। उदाहरण:

• बड़ी मात्रा में सपोर्ट टिकट रूटिंग;
• जानकारी निकालना और वर्गीकरण;
• नीति-अनुपालन की जांच;
• धोखाधड़ी या जोखिम स्कोरिंग;
• किसी दूसरे मॉडल के आउटपुट पर गार्डरेल या जजिंग;
• रीयल-टाइम UI फैसले;
• बड़े दस्तावेज़-संग्रह पर map-reduce शैली का विश्लेषण। 16

व्यावहारिक डिज़ाइन में डेवलपर कार्रवाई की सीमा पहले तय करेगा, Jev के निर्णय को सामान्य कोड के साथ जोड़ेगा और कम कॉन्फिडेंस वाले मामलों को मानव या अधिक विचारशील LLM तक बढ़ा देगा।

इसकी सीमाएं समझना जरूरी है

Jev लॉन्च के समय:

• गद्य या लंबा टेक्स्ट नहीं लिख सकता;
• कोड नहीं बना सकता;
• अपने तर्क की व्याख्या नहीं दे सकता;
• इमेज इनपुट स्वीकार नहीं करता। 1611

“कोई type error नहीं” का अर्थ यह है कि उत्तर घोषित schema में फिट होगा। इसका अर्थ यह नहीं कि मॉडल का वास्तविक निर्णय गलत नहीं हो सकता। इसलिए इसे “hallucination-free” कहना भ्रामक हो सकता है: Jev मनगढ़ंत मुक्त-रूप टेक्स्ट नहीं लिखेगा, लेकिन वह गलत संरचित भविष्यवाणी फिर भी कर सकता है। 1611

अभी क्या साबित होना बाकी है?

Jev के बेंचमार्क तरीके, उत्पादन में कॉन्फिडेंस-कैलिब्रेशन, लंबे समय की इकाई-अर्थव्यवस्था और एक अलग structured-decision-model श्रेणी की स्थायी उपयोगिता पर स्वतंत्र प्रमाण अभी पर्याप्त नहीं हैं।

निकट भविष्य में सबसे मजबूत उपयोग-मामला प्रतिस्पर्धा नहीं, बल्कि पूरक भूमिका का दिखता है: तेज़, सीमित और बार-बार होने वाले फैसलों के लिए Jev; जबकि भाषा-लेखन, खुले प्रश्नों पर तर्क, मल्टीमॉडल इनपुट और स्पष्टीकरण के लिए सामान्य-purpose LLM।