जिम केललर-एल्डर कम्पनी कम्पनी टेस्टोरेन्ट एआई वर्कलोडहरूको लागि यसको अर्को-पुस्ता सुम्पिल प्रोसेसर जारी गरिएको छ, जसले एक सस्तो मूल्यमा राम्रो प्रदर्शन प्रस्ताव गर्दछ।कम्पनीले हाल दुई अतिरिक्त pcie कार्डहरू प्रदान गर्दछ जुन एक वा दुई थकाउल प्रोसेसरहरू समायोजित गर्न सक्दछ, साथै TT-lot-gl-trubloblocks सफ्टवेयर विकासकर्ताहरूको लागि। आजका सबै घोषणाहरू विकासकर्ताहरूलाई लक्षित गरी रहेका छन्, वाणिज्यिक कार्यकोलोडका लागि वेश्याहरू प्रयोग गर्नेहरूले होइन।
"हाम्रा उत्पादनहरूको हातमा बढाउने र यसले हाम्रो वर्ल्डहोल ™ कार्डहरू प्रयोग गरेर विकास प्रणालीहरू जारीकर्ताहरू जारी गर्ने र बहुपक्षीय एआई सफ्टवेयर विकास गर्न मद्दत गर्दछ," दम केलर, सीईओले भने।यो सुरूवात बाहेक, हामी प्रगति देखेर उत्साहित छौं।
प्रत्येक थकाउल प्रोसेसरले 722 टेन्सिक्स कोर समावेश गर्दछ (1 dww को 108 एमएचआर एसएफएमएस एसएमएचओएचओएफएसको 1 GP2 FP8 TFLPs 1 162 FP8 TFLPS 1 162 FP8 TFLPs 1 162 FP8 TFLOPS 1 162 FP8 TFLPS 1 162 एसपीओ टिपेपहरू 1 162 एसपीओ टिपेपहरू प्रदान गर्दछ। एकल-चिप वर्कहोल N150 कार्ड 12 जीबी GDDR6 भिडियो मेमोरीसँग सुसज्जित छ र 288 जीबी / एसको ब्यान्डविथ हो।
वर्कलोड को बिभिन्नता को आवश्यकताहरु लाई पूरा गर्न वर्दी आवश्यकताहरू पूरा गर्न लचिलो प्रोसेसरहरू लचिलो तराजु प्रदान गर्दछ। चार वर्कइल N300 कार्डको साथ एक मानक वर्कस्टेशन सेटअप मा, प्रोसेसर एकीकृत, फराकिलो टेनिस कोर नेटवर्क को रूप मा सफ्टवेयरमा देखा पर्न सक्छ। यो कन्फिगरेसनले एक्स्रेटरलाई उही कार्यकोलोड ह्यान्डल गर्न अनुमति दिन्छ, चार विकासकर्ताहरू बीच विभाजन वा एकै साथमा आठ फरक एआई मोडेलसम्म सञ्चालित। यस स्केलनको एक प्रमुख विशेषता यो हो कि यो स्थानीय रूपमा भर्चुअलइजेशनको आवश्यकता बिना नै चल्न सक्छ। डाटा सेन्टर वातावरणमा, हप्काले बाह्य विस्तारको लागि विस्तारका लागि पीसीआई प्रयोग गर्नेछन्।
प्रदर्शनको सर्तमा, दसस्टोरेन्टको एकल-चिप वर्कल N150 कार्ड, 1 GB GBERPER, 1 2 MB एसबी / एसएचओएचएडब्ल्यूपीडहरू, 1 2 MB MB 2 2 MB एमबी एसआरएचएमए। Angrested GB GB GDDR6, 576 जीबी / s ब्यान्डविथले 000000 मा 46 466 एफपीओ 4 tflops सम्म प्रदान गर्दछ।
Trage 466 एफपीओ 4 466 FP8 TF8 TFPS लाई सन्दर्भमा राख्नको लागि हामी यसलाई AI बजार नेता Nvidia यस थर्मिडिया पावरमा तुलना गर्दैछ। NVIDIA को A100 ले fp8 लाई समर्थन गर्दैन, तर यसले Inter24 शीर्षहरूको चरम प्रदर्शनको साथ (1,24888 शीर्षहरूको चरम प्रदर्शनको साथ समर्थन गर्दछ)। तुलनामा, NVIDIA का h100 ले एफपी गुलाबलाई समर्थन गर्दछ र स्पार्सरमा 1,370 टिफप्स (3,341 tflops) को चोटि प्रदर्शन गर्दछ, जुन टेस्टोरेन्टरको वर्जित N300 भन्दा बढी फरक हुन्छ।
यद्यपि त्यहाँ एक ठूलो समस्या छ। दसस्टोरेन्टको चिन्ता n15500 रिटेलहरू $ 99999 को लागि, जबकि N3007 $ 1,99999999 को लागि बेच्छ। तुलना गरेर, एक एकल NVIDIA H100 ग्राफिक्स कार्ड खुल्ला $, 30,000 को लागि, मात्रामा निर्भर गर्दछ। अवश्य पनि, हामीलाई थाहा छैन कि चार वा आठ वा आठ कुष्ठरोली प्रोसेसरहरूले वास्तवमा एकल H300 को प्रदर्शन वितरण गर्न सक्छन्, तर तिनीहरूको TDPS क्रमशः 60000 छ र 1200 छ।
कार्डको अतिरिक्त, दसस्टोरेटरले विकासकर्ताहरूको लागि पूर्व-निर्मित कार्यशालामा प्रदान गर्दछ, र USYC-आधारित Xiaolong) को साथ उन्नत T300 कार्ड सहित 1 num n 800 कार्ड सहित।
पोष्ट समय: जुल-2 -2-20224