एमएसआई एजएक्सपर्ट एमएस-सी९३१

एमएसआईले २० मे २०२५ मा एजएक्सपर्ट एमएस-सी९३१ सुरुवात गर्यो, यसलाई एनभिडिया जीबी१० ग्रेस ब्ल्याकवेल सुपरचिप इकोसिस्टम भित्र कम्प्याक्ट एआई विकास र इन्फरेन्स प्रणालीको रूपमा स्थापित गर्यो जुन विशेषगरी लामो समयसम्म निर्बाध संचालनको लागि बनाइएको हो, छोटो बेन्चमार्क बर्स्टको लागि होइन।

एजएक्सपर्ट एमएस-सी९३१ को पछि निर्णायक इन्जिनियरिङ छनौट भनेको थर्मल हेडरूम हो: भेपर चेम्बर र ट्रिपल-हिट-पाइप कुलिङ मोड्युल, जुन घना कपर-फिन स्ट्याक र अगाडिबाट पछाडि निर्देशित हावा प्रवाह मार्गसँग जोडिएको छ, यसले सुपरचिपलाई बहु-घण्टा तालिम र इन्फरेन्स सत्रहरूमा पूर्ण क्लक प्रोफाइलमा चलाइराख्न बनाइएको हो, तनावमा यसलाई कम गर्न दिनुको सट्टा। यो बन्डल गरिएको सोभरिन एआई गभर्नेन्स लेयर, ग्यालिन.एआई सँग संयुक्त छ, जसले नियमित संस्थाहरूलाई पहिलो दिनदेखि नै ओन-प्रिमाइजेज डिप्लोयमेन्टको लागि तयार ओर्केस्ट्रेशन र ओडिट लेयर दिन्छ।

हार्डवेयर विशिष्टताहरू

यसको केन्द्रमा एनभिडिया जीबी१० ग्रेस ब्ल्याकवेल सुपरचिप छ, जसले कम्प्याक्ट च्यासिसमा १ पेटाफ्लप एफपी४ एआई प्रदर्शन प्रदान गर्दछ। २०-कोर आर्म प्रोसेसरले १० × कर्टेक्स-एक्स९२५ प्रदर्शन कोरहरू १० × कर्टेक्स-ए७२५ दक्षता कोरहरूसँग जोड्दछ, जुन १२८ जीबी एलपीडीडीआर५एक्स एकीकृत मेमोरीसँग जोडिएको छ जसले सीपीयू र जीपीयू बीच सुसंगत रूपमा साझा २७३ जीबी/से को ब्यान्डविड्थ प्रदान गर्दछ। भण्डारण स्वत: एन्क्रिप्ट गर्ने पिसीआईई जेन४ एनभिमी एम.२ एसएसडी हो, जुन १ टीबी वा ४ टीबी क्षमतामा उपलब्ध छ, र बाह्य भण्डारणमा निर्भर नगरी ठूला मोडेल चेकपोइन्टहरूको स्थानीय क्याचिङ समर्थन गर्दछ।

कनेक्टिभिटी र नेटवर्किङ

एजएक्सपर्ट एमएस-सी९३१ ले प्रत्यक्ष पियर-टु-पियर युनिट लिङ्किङको लागि डुयल २०० जीबीपीएस क्यूएसएफपी पोर्टहरू भएको एनभिडिया कनेक्टएक्स-७ स्मार्ट एनआईसी एकीकृत गर्दछ, साथै मानक नेटवर्क एकीकरणको लागि १० जीबीई इथरनेट (आरजे-४५)। वायरलेस कनेक्टिभिटीले वाइ-फाइ ७ र ब्लुटुथ ५.४ समेट्छ। चार यूएसबी ३.२ टाइप-सी पोर्टहरूले प्रत्यक्ष मल्टि-मोनिटर आउटपुटको लागि डिस्प्लेपोर्ट अल्ट-मोड समर्थन गर्दछ, जसले प्रणालीलाई इन्फरेन्स सर्भरको भूमिकाको साथै पूर्ण स्थानीय विकास वर्कस्टेशनको रूपमा पनि प्रयोग गर्न अनुमति दिन्छ।

थर्मल इन्जिनियरिङ र दीर्घकालीन प्रदर्शन

कम्प्याक्ट एआई प्रणालीहरू प्रायः लामो समयसम्म लोडमा आन्तरिक तापक्रम बढेपछि क्लक गति घटाउँछन् — यो व्यवहारले लामो तालिम सत्रहरू वा विस्तारित इन्फरेन्स सेवाको बेलामा थ्रुपुट प्रत्यक्ष रूपमा घटाउँछ। एजएक्सपर्ट एमएस-सी९३१ को कुलिङ मोड्युल विशेष गरी यसलाई रोक्न बनाइएको छ: एनभिडियाको मानक जीपीयू स्ट्रेस मेथोडोलोजी प्रयोग गरी स्वतन्त्र दीर्घकालीन-लोड सत्यापनले निम्न स्थिर-अवस्था आँकडाहरू रेकर्ड गर्यो।

च्यासिस बाहिरी तापक्रम सञ्चालनको बेलामा युनिटलाई प्रत्यक्ष रूपमा ह्यान्डल गर्न पर्याप्त रूपमा कम रहन्छ, र एसएसडीले दीर्घकालीन डाटासेट लोडिङको बेलामा पनि थर्मल-चालित पढ्ने/लेख्ने क्षयबाट टाढा रहन्छ। व्यवहारमा, यसले बहु-घण्टा फाइन-ट्युनिङ कार्यहरू र लामो समयसम्म चल्ने इन्फरेन्स वर्कलोडहरूमा स्थिर, कम नभएको क्लक गतिमा अनुवाद गर्दछ — यस्ता परिदृश्यहरू जहाँ कम्प्याक्ट फर्म-फ्याक्टर एआई प्रणालीहरू प्रायः समय बितेसँगै प्रदर्शन गुमाउँछन्।

सफ्टवेयर: सोभरिन एआई गभर्नेन्स

एजएक्सपर्ट एमएस-सी९३१ ले पूर्व-स्थापित एनभिडिया डीजीएक्स ओएस सँग आउँछ, जसले बक्सबाट नै पूर्ण क्युडा र एआई फ्रेमवर्क स्ट्याक प्रदान गर्दछ। यसको माथि, एमएसआईले ग्यालिन.एआई बन्डल गर्दछ, जुन नियमित, ओन-प्रिमाइजेज डिप्लोयमेन्टको लागि बनाइएको सोभरिन एआई गभर्नेन्स प्लेटफर्म हो: यसले डकर कम्पोज-आधारित ओर्केस्ट्रेशन, पहुँच नियन्त्रण, र ओडिट-तयार लगिङ प्रदान गर्दछ ताकि संस्था भित्र मोडेल प्रयोग पूर्ण रूपमा स्थानीय, ट्रेस गर्न सकिने, र प्रत्यक्ष प्रशासनिक नियन्त्रणमा रहोस् — कुनै बाह्य क्लाउड सेवामा निर्भर नहुँदै।

भण्डारण र सुरक्षा

१ टीबी र ४ टीबी एनभिमी कन्फिगरेसनहरू डिफल्ट रूपमा स्वत: एन्क्रिप्ट हुन्छन्, जसले अतिरिक्त सफ्टवेयर ओभरहेड बिना नै विश्राममा रहेका मोडेल वजनहरू, फाइन-ट्युनिङ डाटासेटहरू, र इन्फरेन्स लगहरू सुरक्षित गर्दछ। टीपीएम २.० सँग संयुक्त, यसले एजएक्सपर्ट एमएस-सी९३१ लाई कानूनी, वित्तीय, र अन्य डाटा-संवेदनशील वातावरणहरूमा उपयुक्त सुरक्षा आधार प्रदान गर्दछ जहाँ ओन-प्रिमाइजेज प्रोसेसिङ प्राथमिकताको सट्टा आवश्यकता हो।

एकल युनिटभन्दा बढी स्केलिङ

एनभिडिया जीबी१० सुपरचिप मा निर्मित सबै प्रणालीहरू जस्तै, एजएक्सपर्ट एमएस-सी९३१ ले आफ्ना कनेक्टएक्स-७ पोर्टहरू मार्फत प्रत्यक्ष २-युनिट लिङ्किङ समर्थन गर्दछ, जसले दुई युनिटहरूलाई २५६ जीबी एकीकृत मेमोरी पुलमा जोड्दछ जसले ४०० बिलियन भन्दा बढी प्यारामिटर भएका मोडेलहरू सेवा गर्न सक्षम छ। यसले एउटा सरल अपग्रेड पथ प्रदान गर्दछ ती टोलीहरूका लागि जसले एकल डेस्कटप युनिटबाट सुरु गर्छन् र पछि ठूला मोडेलहरूको लागि थप हेडरूम चाहिन्छ, सफ्टवेयर स्ट्याक वा गभर्नेन्स कन्फिगरेसन परिवर्तन गर्नु नपर्दै।