AMD ने खरीदा Taalas: AI इंफरेंस की दुनिया में बड़ा बदलाव लाने वाली चिप तकनीक

Taalas का दृष्टिकोण: 'मॉडल ही चिप है'

AI इंफरेंस में सबसे बड़ी रुकावट है मेमोरी बैंडविड्थ। जब एक GPU किसी AI मॉडल को चलाता है, तो मॉडल के वज़न (तथाकथित पैरामीटर) को बार-बार हाई-बैंडविड्थ मेमोरी (HBM) से कंप्यूट यूनिट में लाना-ले जाना होता है। Taalas इस प्रक्रिया को ही खत्म कर देता है। वह मॉडल के वज़न को निर्माण के दौरान सीधे चिप के ट्रांजिस्टर लेआउट में उकेर देता है ।

कंपनी इसे "मॉडल हार्डकोर" या मॉडल-विशिष्ट इंटीग्रेटेड सर्किट (MSIC) कहती है ।

Taalas का पहला टेस्ट चिप, HC1, TSMC की N6 प्रक्रिया पर बना है। इसमें लगभग 53 बिलियन ट्रांजिस्टर हैं और यह 815 mm² के डाई पर बना है। यह चिप खासतौर से मेटा के Llama 3.1-8B मॉडल के लिए डिज़ाइन किया गया है। इसमें वज़न को HBM या DRAM की बजाय mask-ROM-आधारित सरणी (array) में स्टोर किया जाता है ।

Taalas दावा करता है कि HC1 प्रति उपयोगकर्ता 17,000 टोकन प्रति सेकंड तक की स्पीड से इंफरेंस चला सकता है, जो समकक्ष GPU-आधारित सिस्टम से लगभग 10 गुना तेज़, 20 गुना सस्ता और 10 गुना कम बिजली खपत वाला है ।

इसका नुकसान यह है कि एक Taalas चिप सिर्फ एक ही मॉडल चला सकता है। मॉडल बदलने के लिए नई चिप की जरूरत होती है। हालांकि, कंपनी का कहना है कि उसकी ऑटोमेटेड प्रक्रिया किसी भी नए मॉडल को कुछ हफ्तों में चिप डिज़ाइन में बदल सकती है, और TSMC लगभग दो महीने में कस्टमाइज़्ड पार्ट तैयार कर सकता है ।

AMD कैसे करेगा Taalas को इंटीग्रेट

AMD की आधिकारिक प्रेस रिलीज़ के अनुसार, वह Taalas की तकनीक को अपने पूरे AI प्लेटफॉर्म में एकीकृत करेगा । योजना एक हाइब्रिड वर्कफ़्लो की है:

• प्रीफिल फेज़ (इनपुट प्रोसेसिंग, जहां अंकगणितीय तीव्रता अधिक होती है) को AMD Instinct GPU पर चलाया जाएगा।
• टोकन जनरेशन फेज़ को Taalas एक्सेलेरेटर पर हैंड ऑफ किया जाएगा, जहां मॉडल-विशिष्ट आर्किटेक्चर अधिकतम थ्रूपुट दे सकता है ।

AMD अपने Instinct GPU, EPYC CPU, ROCm सॉफ्टवेयर और Helios रैक-स्केल सिस्टम के साथ सिस्टम-लेवल सॉल्यूशंस देने की योजना बना रहा है ।

Taalas के सह-संस्थापक और पूर्व Tenstorrent CEO Ljubisa Bajic (जो खुद AMD के पूर्व कार्यकारी हैं) और Taalas की टीम AMD के AI संगठन में Vamsi Boppana के अधीन शामिल होंगे ।

कनाडाई सेमीकंडक्टर पैटर्न: प्रतिभा का पलायन

Taalas उन कनाडाई सेमीकंडक्टर स्टार्टअप्स की बढ़ती सूची में नवीनतम है जिन्हें अमेरिकी कंपनियों ने खरीदा है - इनमें Hyperlume, Untether AI, और चिप-संबंधित CentML शामिल हैं ।

कनाडा के सेमीकंडक्टर काउंसिल के प्रबंध निदेशक Paul Slaby ने इस अधिग्रहण को "कनाडाई AI चिप प्रतिभा में भरोसे का वोट" बताया। उन्होंने कहा, "AMD Taalas जैसी टीम को तभी खरीदता है जब वहां के लोग वर्ल्ड-क्लास हों" । लेकिन साथ ही उन्होंने चेतावनी दी कि यह डील कनाडा की अपनी होमग्रोन सेमीकंडक्टर कंपनियों को बनाए रखने में विफलता को उजागर करती है ।

काउंसिल बार-बार कहता रहा है कि बेहतर प्रारंभिक चरण की पूंजी और घरेलू स्केल-अप पथों के बिना, कनाडा अपने चिप स्टार्टअप्स और उनमें विकसित बौद्धिक संपदा को खोता रहेगा । 2025 की एक रिपोर्ट में प्रतिभा की कमी को कनाडा के सेमीकंडक्टर सेक्टर के विकास में नंबर 1 बाधा बताया गया था । कनाडाई स्टार्टअप्स में निवेश किया जाने वाला आधे से अधिक वेंचर कैपिटल अमेरिका से आता है ।

वित्तीय शर्तें

इस लेन-देन की वित्तीय शर्तों का खुलासा नहीं किया गया है । यह डील सामान्य समापन शर्तों और नियामक अनुमोदनों के अधीन है ।