जिम केलरको नेतृत्वमा रहेको चिप कम्पनी टेन्स्टोरेन्टले एआई वर्कलोडका लागि आफ्नो अर्को पुस्ताको वर्महोल प्रोसेसर जारी गरेको छ, जसले किफायती मूल्यमा राम्रो प्रदर्शन प्रदान गर्ने अपेक्षा गरेको छ।कम्पनीले हाल दुई अतिरिक्त PCIe कार्डहरू प्रदान गर्दछ जुन एक वा दुई वर्महोल प्रोसेसरहरू, साथै सफ्टवेयर विकासकर्ताहरूको लागि TT-LoudBox र TT-QuietBox कार्यस्थानहरू समायोजन गर्न सक्छ। आजका सबै घोषणाहरू विकासकर्ताहरूका लागि लक्षित छन्, व्यावसायिक वर्कलोडहरूको लागि वर्महोल बोर्डहरू प्रयोग गर्नेहरूलाई होइन।
“हाम्रा धेरै उत्पादनहरू विकासकर्ताहरूको हातमा पाउनु सधैं सन्तुष्टिको कुरा हो। हाम्रो वर्महोल ™ कार्डहरू प्रयोग गरेर विकास प्रणालीहरू जारी गर्नाले विकासकर्ताहरूलाई बहु-चिप एआई सफ्टवेयर स्केल गर्न र विकास गर्न मद्दत गर्न सक्छ," Tenstorrent का सीईओ जिम केलरले भने।यो प्रक्षेपणको अतिरिक्त, हामी हाम्रो दोस्रो पुस्ताको उत्पादन ब्ल्याकहोलको टेप आउट र पावर-अपको साथ हामीले गरिरहेको प्रगति देख्न पाउँदा उत्साहित छौं।"
प्रत्येक वर्महोल प्रोसेसरमा ७२ टेन्सिक्स कोर (जसमध्ये पाँचवटा RISC-V कोरलाई विभिन्न डेटा ढाँचाहरूमा समर्थन गर्दछ) र 108 MB SRAM, 160W को थर्मल डिजाइन पावरको साथ 1 GHz मा 262 FP8 TFLOPS प्रदान गर्दछ। एकल-चिप वर्महोल n150 कार्ड 12 GB GDDR6 भिडियो मेमोरी संग सुसज्जित छ र 288 GB/s को ब्यान्डविथ छ।
वर्महोल प्रोसेसरहरूले वर्कलोडहरूको विविध आवश्यकताहरू पूरा गर्न लचिलो स्केलेबिलिटी प्रदान गर्दछ। चार वर्महोल n300 कार्डहरूको साथ एक मानक कार्यस्थान सेटअपमा, प्रोसेसरहरूलाई एकल इकाईमा जोड्न सकिन्छ जुन सफ्टवेयरमा एकीकृत, फराकिलो टेन्सिक्स कोर नेटवर्कको रूपमा देखा पर्दछ। यो कन्फिगरेसनले एक्सेलेटरलाई समान कार्यभार ह्यान्डल गर्न, चार विकासकर्ताहरू बीच विभाजन गर्न वा एकै साथ आठ फरक एआई मोडेलहरू चलाउन अनुमति दिन्छ। यस स्केलेबिलिटीको मुख्य विशेषता भनेको यो भर्चुअलाइजेशनको आवश्यकता बिना स्थानीय रूपमा चल्न सक्छ। डाटा सेन्टर वातावरणमा, वर्महोल प्रोसेसरहरूले मेसिन भित्र विस्तारको लागि PCIe प्रयोग गर्नेछ, वा बाह्य विस्तारको लागि इथरनेट।
कार्यसम्पादनको सन्दर्भमा, Tenstorrent को एकल-चिप Wormhole n150 कार्ड (72 Tensix core, 1 GHz फ्रिक्वेन्सी, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ब्यान्डविथ) ले 160W मा 262 FP8 TFLOPS हासिल गर्यो, जबकि Wormhole 160W मा 262 FP8 TFLOPS (१२८ टेन्सिक्स कोर, १ GHz फ्रिक्वेन्सी, १९२ MB SRAM, जम्मा २४ GB GDDR6, 576 GB/s ब्यान्डविथ) 300W मा 466 FP8 TFLOPS सम्म डेलिभर गर्दछ।
466 FP8 TFLOPS को 300W लाई सन्दर्भमा राख्न, हामी यसलाई AI मार्केट लिडर Nvidia ले यस थर्मल डिजाइन पावरमा के प्रस्ताव गरिरहेको छसँग तुलना गर्नेछौं। Nvidia को A100 ले FP8 लाई समर्थन गर्दैन, तर यसले INT8 लाई समर्थन गर्छ, 624 TOPS (1,248 TOPS विरल हुँदा) को उच्चतम प्रदर्शनको साथ। यसको तुलनामा, Nvidia को H100 ले FP8 लाई समर्थन गर्दछ र 300W मा 1,670 TFLOPS को शिखर प्रदर्शनमा पुग्छ (3,341 TFLOPS मा स्पार्स), जुन Tenstorrent को Wormhole n300 भन्दा धेरै फरक छ।
तर, त्यहाँ एउटा ठूलो समस्या छ। Tenstorrent's Wormhole n150 $ 999 मा खुद्रा बिक्री हुन्छ, जबकि n300 $ 1,399 मा बिक्री हुन्छ। तुलना गरेर, एकल Nvidia H100 ग्राफिक्स कार्ड $ 30,000 को लागि रिटेल, मात्रा मा निर्भर गर्दछ। अवश्य पनि, हामीलाई थाहा छैन कि चार वा आठ वर्महोल प्रोसेसरहरूले वास्तवमा एकल H300 को प्रदर्शन प्रदान गर्न सक्छन्, तर तिनीहरूको TDP क्रमशः 600W र 1200W छन्।
कार्डहरूका अतिरिक्त, Tenstorrent ले विकासकर्ताहरूका लागि पूर्व-निर्मित वर्कस्टेशनहरू प्रदान गर्दछ, जसमा सक्रिय कुलिङको साथ अधिक किफायती Xeon-आधारित TT-LoudBox मा 4 n300 कार्डहरू, र EPYC-आधारित Xiaolong) तरल कूलिङ प्रकार्यको साथ उन्नत TT-QuietBox)।
पोस्ट समय: जुलाई-29-2024