Huawei CloudMatrix 384 AI क्लस्टर ने Nvidia GB200 को पीछे छोड़ा

हुआवेई ने अपना एआई क्लाउडमैट्रिक्स 384 सिस्टम पेश किया है, जो एक बड़े पैमाने का क्लस्टर है जिसे एनवीडिया के अग्रणी GB200 NVL72 आर्किटेक्चर के साथ सीधे प्रतिस्पर्धा करने के लिए डिज़ाइन किया गया है। इसमें कंपनी के Ascend 910C प्रोसेसर की एक बड़ी संख्या को तैनात किया गया है। अमेरिकी सरकार द्वारा 15 अप्रैल के आसपास चीन को Nvidia के H20 AI चिप के निर्यात पर प्रभावी रूप से प्रतिबंध लगाने के तुरंत बाद घोषित, क्लाउडमैट्रिक्स 384 इस कमी को पूरा करने के उद्देश्य से एक घरेलू विकल्प का प्रतिनिधित्व करता है।

यह प्रदर्शन के ऐसे मानक हासिल करता है जो कागज़ पर, कई क्षेत्रों में Nvidia के वर्तमान प्रमुख GB200 NVL72 सिस्टम से बेहतर हैं, लेकिन ऐसा सिलिकॉन परिष्कार की तुलना में पैमाने को तरजीह देने वाली रणनीति के माध्यम से होता है, जिसके परिणामस्वरूप बिजली की खपत में भारी कमी आती है।

इस सिस्टम का आधार Ascend 910C है, जो एक डुअल-चिपलेट प्रोसेसर है जो AI में आम BF16 संख्यात्मक प्रारूप का उपयोग करके 780 TFLOPS प्रदान करता है। पूर्ण क्लाउडमैट्रिक्स 384 क्लस्टर में इनमें से 384 एक्सेलरेटर एकीकृत हैं, और सेमीएनालिस के अनुसार, यह अनुमानित कुल 300 PFLOPS सघन BF16 प्रदर्शन तक पहुँच रहा है।

यह आँकड़ा Nvidia के 72-GPU GB200 NVL72 सेटअप के लगभग 180 PFLOPS से अधिक है। Huawei के डिज़ाइन में काफ़ी ज़्यादा मेमोरी भी है, जिसमें Nvidia के 13.8 TB की तुलना में कुल HBM (हाई बैंडविड्थ मेमोरी, जो प्रोसेसर के लिए तेज़ डेटा एक्सेस प्रदान करने वाली एक प्रकार की स्टैक्ड मेमोरी है) क्षमता 49.2 TB है, और कुल HBM बैंडविड्थ 576 TB/s की तुलना में 1229 TB/s है।

प्रदर्शन पैमाने से, दक्षता से नहीं

यह प्रदर्शन लाभ, Nvidia तुलना प्रणाली की तुलना में पाँच गुना से अधिक त्वरक लगाकर प्राप्त किया गया है, और इसकी ऊर्जा लागत बहुत ज़्यादा है। CloudMatrix 384 की कुल सिस्टम बिजली आवश्यकता 559 kW अनुमानित है, जो GB200 NVL72 कॉन्फ़िगरेशन द्वारा खपत 145 kW से लगभग चार गुना अधिक है।

इन आँकड़ों पर आधारित गणनाएँ दर्शाती हैं कि Huawei प्रणाली BF16 कंप्यूट के प्रति TFLOP 2.3 गुना कम बिजली-कुशल और प्रति TB/s मेमोरी बैंडविड्थ 1.8 गुना कम कुशल है। HBM क्षमता के प्रति टेराबाइट दक्षता लगभग समान है, क्योंकि Huawei प्रणाली लगभग 1.1 गुना अधिक बिजली का उपयोग करती है।

यह असमानता चीन की परिस्थितियों के लिए एक रणनीतिक अनुकूलन को उजागर करती है – जहाँ चीन सबसे उन्नत, ऊर्जा-कुशल चिप निर्माण तक सीमित पहुँच से जूझ रहा है, वहीं उसके पास पर्याप्त और अपेक्षाकृत किफायती ऊर्जा अवसंरचना भी है। चीन के कुछ हिस्सों में बिजली की कीमतें उल्लेखनीय रूप से कम हो गई हैं, जो 2022 के लगभग 91 डॉलर प्रति मेगावाट घंटे के पिछले स्तर से घटकर 2025 की शुरुआत में लगभग 56 डॉलर प्रति मेगावाट घंटा हो गई हैं, जिससे बिजली की खपत करने वाले सिस्टम अन्य जगहों की तुलना में आर्थिक रूप से अधिक व्यवहार्य हो गए हैं।

कॉपर की बजाय ऑप्टिक्स: नेटवर्क की रीढ़

इस बड़े पैमाने के क्लस्टर को सक्षम करने की कुंजी क्लाउडमैट्रिक्स 384 की नेटवर्किंग आर्किटेक्चर है। हुआवेई ने इंटर-रैक और इंट्रा-रैक संचार दोनों के लिए एक पूर्ण-ऑप्टिकल दृष्टिकोण चुना है, जो 384 एसेंड 910C प्रोसेसर को एक ऑल-टू-ऑल मेश में जोड़ता है। इसमें 6,912 विशाल लीनियर प्लगेबल ऑप्टिक्स (LPO) ट्रांसीवर्स की तैनाती शामिल है, जिनमें से प्रत्येक 800 Gbps पर काम करता है।

LPO तकनीक, जिसकी चर्चा अक्सर लाइटकाउंटिंग जैसी उद्योग रिपोर्टों में होती है, को छोटे डेटा सेंटर रीच के लिए पारंपरिक DSP-आधारित ट्रांसीवर्स की तुलना में संभावित रूप से कम पावर वाला विकल्प माना जाता है, जो नेटवर्क फ़ैब्रिक के भीतर ही कुछ पावर बचत प्रदान करता है, हालाँकि इतने बड़े, जटिल ऑप्टिकल नेटवर्क में सिग्नल इंटीग्रिटी को प्रबंधित करना अपनी चुनौतियों को प्रस्तुत करता है।

परिणामी कुल आंतरिक बैंडविड्थ 5.5 Pbps से अधिक है। सेमीएनालिसिस के अनुसार, यह सिस्टम GB200 NVL72 बेसलाइन की तुलना में 2.1 गुना स्केल-अप बैंडविड्थ (384-नोड क्लस्टर के भीतर) और 5.3 गुना स्केल-आउट बैंडविड्थ (कई क्लस्टरों को जोड़ने के लिए) प्रदान करता है।

12 कंप्यूट रैक और 4 समर्पित नेटवर्क स्विचिंग रैक वाला कुल 16-रैक सिस्टम डिज़ाइन, Nvidia के अप्रकाशित DGX H100 NVL256 “रेंजर” प्लेटफ़ॉर्म से मिलता-जुलता है, जिसमें एक बड़ा, ऑप्टिकली कनेक्टेड मल्टी-रैक डिज़ाइन भी था, जिसे उस समय उत्पादन के लिए बहुत जटिल और महंगा माना जाता था।

प्रतिबंधों की भूलभुलैया से बाहर निकलना

इस रणनीति को लागू करना कड़े अमेरिकी निर्यात नियंत्रणों के बावजूद उन्नत घटकों की सुरक्षा पर निर्भर करता है। हालाँकि चीन का SMIC Ascend 910C के कंप्यूट चिपलेट्स के लिए उपयुक्त 7nm-क्लास चिप्स का उत्पादन कर सकता है, विश्लेषण से पता चलता है कि अब तक तैनात प्रोसेसर मुख्य रूप से TSMC द्वारा निर्मित चिपलेट्स का उपयोग करते हैं।

हुआवेई ने कथित तौर पर इन प्रतिबंधित वेफर्स को – जो संभवतः 2025 तक दस लाख से ज़्यादा Ascend 910C प्रोसेसर के लिए पर्याप्त हैं – सोफगो जैसे मध्यस्थों के ज़रिए हासिल किया, जिससे हुआवेई पर लगे सीधे प्रतिबंधों को दरकिनार किया जा सका। इस गतिविधि के कारण कथित तौर पर अमेरिकी जाँच हुई, और अप्रैल की शुरुआत में रिपोर्ट के अनुसार, TSMC को भारी जुर्माना भुगतना पड़ सकता है।

आवश्यक HBM2E मेमोरी तक पहुँचने के लिए कथित तौर पर एक समान समाधान की आवश्यकता होती है, जिसमें सैमसंग के पुर्जों को वितरक CoAsia Electronics के माध्यम से भेजा जाता है, जिसका राजस्व HBM निर्यात नियंत्रणों के बाद उल्लेखनीय रूप से बढ़ा है।

इसमें डिज़ाइन फर्म फैराडे टेक्नोलॉजी और असेंबलर SPIL, HBM युक्त तकनीकी रूप से अनुकूल मध्यवर्ती पैकेज बनाते हैं, जिन्हें फिर चीन भेजा जाता है, जहाँ कथित तौर पर मेमोरी को हुआवेई के अंतिम Ascend 910C मॉड्यूल में उपयोग के लिए निकाला जाता है। ये चालें प्रौद्योगिकी निर्यात नियंत्रणों को लागू करने की मौजूदा चुनौती को रेखांकित करती हैं।

चीन की AI दौड़ में एक सोचा-समझा दांव

क्लाउडमैट्रिक्स 384 का लॉन्च रणनीतिक रूप से समयबद्ध है। Nvidia H20 के निर्यात पर रोक लगाने वाली अमेरिकी कार्रवाई ने पिछले प्रतिबंधों के तहत चीनी बाजार के लिए विशेष रूप से तैयार किए गए एक प्रमुख प्रतियोगी को हटा दिया। H20, हालांकि अप्रतिबंधित Nvidia GPU और संभवतः Huawei के पिछले 910B चिप की तुलना में कम प्रदर्शन करने वाला हिस्सा है, चीन के लिए Nvidia की मुख्य अनुपालन पेशकश थी, और प्रतिबंध के कारण कंपनी को संबंधित इन्वेंट्री के लिए 5.5 बिलियन डॉलर का शुल्क लेना पड़ा।

इस नियामक बदलाव ने बाजार में एक महत्वपूर्ण अवसर पैदा किया है, जिसे Huawei न केवल क्लाउडमैट्रिक्स सिस्टम के साथ, बल्कि साथ ही घोषित अपनी अगली पीढ़ी की Ascend 920 चिप के साथ भी भरने की कोशिश कर रहा है।

इस स्थिति ने Nvidia के सीईओ जेन्सेन हुआंग को प्रतिबंध के तुरंत बाद बीजिंग जाने के लिए प्रेरित किया, जहाँ उन्होंने कथित तौर पर कहा कि Nvidia को “चीन के साथ सहयोग जारी रखने” की उम्मीद है।