जिम केलरको नेतृत्वमा रहेको चिप कम्पनी टेन्स्टोरेन्टले एआई वर्कलोडका लागि आफ्नो अर्को पुस्ताको वर्महोल प्रोसेसर जारी गरेको छ, जसले किफायती मूल्यमा राम्रो प्रदर्शन प्रदान गर्ने अपेक्षा गरिएको छ।कम्पनीले हाल दुई अतिरिक्त PCIe कार्डहरू प्रदान गर्दछ जसले एक वा दुई वर्महोल प्रोसेसरहरू समायोजन गर्न सक्छ, साथै सफ्टवेयर विकासकर्ताहरूको लागि TT-LoudBox र TT-QuietBox कार्यस्थानहरू। आजका सबै घोषणाहरू विकासकर्ताहरूलाई लक्षित छन्, व्यावसायिक कार्यभारको लागि वर्महोल बोर्डहरू प्रयोग गर्नेहरूलाई होइन।
"हाम्रा धेरै उत्पादनहरू विकासकर्ताहरूको हातमा पाउनु सधैं सन्तोषजनक हुन्छ। हाम्रा वर्महोल™ कार्डहरू प्रयोग गरेर विकास प्रणालीहरू जारी गर्नाले विकासकर्ताहरूलाई बहु-चिप एआई सफ्टवेयरको मापन र विकास गर्न मद्दत गर्न सक्छ," टेन्स्टोरेन्टका सीईओ जिम केलरले भने।यस सुरुवातको अतिरिक्त, हामी हाम्रो दोस्रो पुस्ताको उत्पादन, ब्ल्याकहोलको टेप आउट र पावर-अपको साथ भइरहेको प्रगति हेर्न उत्साहित छौं।
प्रत्येक वर्महोल प्रोसेसरमा ७२ टेन्सिक्स कोरहरू हुन्छन् (जसमध्ये पाँचले विभिन्न डेटा ढाँचाहरूमा RISC-V कोरहरूलाई समर्थन गर्दछ) र १०८ MB SRAM हुन्छ, जसले १६०W को थर्मल डिजाइन पावरको साथ १ GHz मा २६२ FP8 TFLOPS प्रदान गर्दछ। सिंगल-चिप वर्महोल n१५० कार्ड १२ GB GDDR6 भिडियो मेमोरीले सुसज्जित छ र यसको ब्यान्डविथ २८८ GB/s छ।
वर्महोल प्रोसेसरहरूले कार्यभारको विविध आवश्यकताहरू पूरा गर्न लचिलो स्केलेबिलिटी प्रदान गर्दछ। चार वर्महोल n300 कार्डहरू भएको मानक कार्यस्थान सेटअपमा, प्रोसेसरहरूलाई एकल एकाइमा जोड्न सकिन्छ जुन सफ्टवेयरमा एकीकृत, फराकिलो टेन्सिक्स कोर नेटवर्कको रूपमा देखा पर्दछ। यो कन्फिगरेसनले एक्सेलेरेटरलाई एउटै कार्यभार ह्यान्डल गर्न, चार विकासकर्ताहरू बीच विभाजित गर्न वा एकै साथ आठ फरक एआई मोडेलहरू चलाउन अनुमति दिन्छ। यस स्केलेबिलिटीको प्रमुख विशेषता यो हो कि यो भर्चुअलाइजेसनको आवश्यकता बिना स्थानीय रूपमा चल्न सक्छ। डाटा सेन्टर वातावरणमा, वर्महोल प्रोसेसरहरूले मेसिन भित्र विस्तारको लागि PCIe, वा बाह्य विस्तारको लागि इथरनेट प्रयोग गर्नेछन्।
कार्यसम्पादनको हिसाबले, टेन्स्टोरेन्टको सिंगल-चिप वर्महोल n१५० कार्ड (७२ टेन्सिक्स कोर, १ GHz फ्रिक्वेन्सी, १०८ MB SRAM, १२ GB GDDR6, २८८ GB/s ब्यान्डविथ) ले १६०W मा २६२ FP8 TFLOPS हासिल गर्यो, जबकि डुअल-चिप वर्महोल n३०० बोर्ड (१२८ टेन्सिक्स कोर, १ GHz फ्रिक्वेन्सी, १९२ MB SRAM, समग्र २४ GB GDDR6, ५७६ GB/s ब्यान्डविथ) ले ३००W मा ४६६ FP8 TFLOPS सम्म प्रदान गर्दछ।
४६६ FP8 TFLOPS को ३००W लाई सन्दर्भमा राख्नको लागि, हामी यसलाई यस थर्मल डिजाइन पावरमा AI बजार नेता Nvidia ले प्रदान गरिरहेको कुरासँग तुलना गर्नेछौं। Nvidia को A100 ले FP8 लाई समर्थन गर्दैन, तर यसले INT8 लाई समर्थन गर्दछ, जसको उच्चतम प्रदर्शन ६२४ TOPS (विरल हुँदा १,२४८ TOPS) छ। तुलनामा, Nvidia को H100 ले FP8 लाई समर्थन गर्दछ र ३००W मा १,६७० TFLOPS को उच्चतम प्रदर्शनमा पुग्छ (विरल हुँदा ३,३४१ TFLOPS), जुन Tenstorrent को Wormhole n300 भन्दा धेरै फरक छ।
यद्यपि, एउटा प्रमुख समस्या छ। Tenstorrent को Wormhole n150 $999 मा बिक्री हुन्छ, जबकि n300 $1,399 मा बिक्री हुन्छ। तुलनात्मक रूपमा, एकल Nvidia H100 ग्राफिक्स कार्ड मात्राको आधारमा $30,000 मा बिक्री हुन्छ। अवश्य पनि, हामीलाई थाहा छैन कि चार वा आठ Wormhole प्रोसेसरहरूले वास्तवमा एकल H300 को प्रदर्शन प्रदान गर्न सक्छन्, तर तिनीहरूको TDP क्रमशः 600W र 1200W छन्।
कार्डहरूका अतिरिक्त, टेन्स्टोरेन्टले विकासकर्ताहरूका लागि पूर्व-निर्मित कार्यस्थानहरू प्रदान गर्दछ, जसमा सक्रिय कूलिंगको साथ अधिक किफायती Xeon-आधारित TT-LoudBox मा ४ n300 कार्डहरू, र EPYC-आधारित Xiaolong) तरल कूलिंग प्रकार्यको साथ उन्नत TT-QuietBox समावेश छन्।
पोस्ट समय: जुलाई-२९-२०२४