Nvidia Gen AI बेंचमार्क पर हावी है, दो प्रतिद्वंद्वी AI चिप्स से बेहतर प्रदर्शन करता है
NVIDIA के सामान्य-उद्देश्य GPU चिप्स ने एक बार फिर कृत्रिम बुद्धिमत्ता में चिप प्रदर्शन का आकलन करने के लिए सबसे व्यापक रूप से मान्यता प्राप्त बेंचमार्क में से एक पर हावी हो गया है, इस बार बड़े भाषा मॉडल (LLMS) जैसे सामान्य AI अनुप्रयोगों पर ध्यान केंद्रित कर रहा है। प्रतियोगिता अपेक्षाकृत एकतरफा थी।
सुपरमाइक्रो, हेवलेट पैकर्ड एंटरप्राइज, लेनोवो और अन्य कंपनियों के सिस्टम, प्रत्येक आठ एनवीडिया चिप्स से लैस, एक उद्योग कंसोर्टियम द्वारा आयोजित MLPERF बेंचमार्क परीक्षण में सबसे अधिक शीर्ष स्थानों को सुरक्षित किया। यह परीक्षण, जो उस गति को मापता है जिस पर मशीनें टोकन, प्रोसेस क्वेरी, या आउटपुट डेटा सैंपल का उत्पादन कर सकती हैं-जिसे एआई इनवेंशन के रूप में जाना जाता है-भविष्यवाणी करने वाले बेंचमार्क की एक श्रृंखला में पांचवें स्थान पर था जो वर्षों से आयोजित किए गए हैं।
MLPERF बेंचमार्क के इस नवीनतम पुनरावृत्ति में सामान्य जनरेटिव AI कार्यों के अनुरूप नए परीक्षण शामिल थे। एक परीक्षण ने मेटा के ओपन-सोर्स एलएलएम, लामा 3.1 405 बी पर चिप्स के प्रदर्शन का मूल्यांकन किया, जो एक पर्याप्त मॉडल है जिसका व्यापक रूप से क्षेत्र में उपयोग किया जाता है। एक अन्य परीक्षण ने मेटा के छोटे लामा 2 70 बी का एक इंटरैक्टिव संस्करण पेश किया, जिसे चैटबॉट इंटरैक्शन का अनुकरण करने के लिए डिज़ाइन किया गया है जहां प्रतिक्रिया समय महत्वपूर्ण है। यह परीक्षण विशेष रूप से मापता है कि सिस्टम कितनी जल्दी आउटपुट का पहला टोकन उत्पन्न कर सकता है, जो उपयोगकर्ता संकेतों के लिए तेजी से प्रतिक्रियाओं की आवश्यकता को दर्शाता है।
एक तीसरे नए परीक्षण ने ग्राफ न्यूरल नेटवर्क को प्रसंस्करण की गति का आकलन किया, जो एक सामाजिक नेटवर्क में उन लोगों की तरह संस्थाओं के बीच जटिल संबंधों को संभालते हैं। ये नेटवर्क जनरेटिव एआई में तेजी से महत्वपूर्ण हो गए हैं, जो Google की डीपमाइंड यूनिट के अपने अल्फाफोल्ड 2 मॉडल में ग्राफ नेट्स के उपयोग से अनुकरणीय है, जिसने 2021 में प्रोटीन-फोल्डिंग भविष्यवाणियों में महत्वपूर्ण प्रगति की है। इसके अलावा, एक चौथे परीक्षण में एक चौथे परीक्षण ने एक ऑटोमोबाइल-सोर्स को एक ऑटोमोबाइल नेट से विकसित किया जा सकता है, जो कि एक कस्टम नेवल नेट का उपयोग कर रहा है।
Mlcommons
MLPERF प्रतियोगिता में लेनोवो, HPE और अन्य द्वारा निर्मित कंप्यूटर शामिल हैं, जो तंत्रिका शुद्ध आउटपुट की सटीकता के लिए कड़े आवश्यकताओं का पालन करते हैं। प्रत्येक प्रणाली प्रति सेकंड उत्पादन में अपनी शीर्ष गति की रिपोर्ट करती है, जिसमें कुछ बेंचमार्क औसत विलंबता को मापते हैं, या सर्वर से वापस आने के लिए प्रतिक्रिया के लिए लिया गया समय है।
NVIDIA के GPU ने बंद डिवीजन के भीतर लगभग सभी परीक्षणों में उत्कृष्ट प्रदर्शन किया, जहां सॉफ्टवेयर सेटअप नियम सबसे सख्त हैं।
Mlcommons
हालांकि, एएमडी, अपने MI300X GPU के साथ, दो Llama 2 70B परीक्षणों में शीर्ष स्कोर का दावा किया, प्रति सेकंड 103,182 टोकन प्राप्त किया, जो NVIDIA के नए ब्लैकवेल GPU की तुलना में काफी बेहतर था। इस विजेता एएमडी सिस्टम को मंगोबोस्ट द्वारा इकट्ठा किया गया था, जो प्लग-इन कार्डों में विशेषज्ञता वाला एक स्टार्टअप था जो जीपीयू रैक, और एलएलएमबीओस्ट के बीच डेटा ट्रांसफर को बढ़ाता है, उनके सॉफ़्टवेयर को जेनेरिक एआई प्रदर्शन में सुधार करने के लिए डिज़ाइन किया गया था।
एनवीडिया ने एएमडी के परिणामों की तुलना उनके ब्लैकवेल स्कोर से की, जो प्रत्येक सिस्टम में उपयोग किए गए चिप्स और कंप्यूटर "नोड्स" की संख्या के लिए समायोजित करने की आवश्यकता को इंगित करती है। डेव साल्वेटर, एनवीडिया के त्वरित कंप्यूटिंग उत्पादों के निदेशक, ने ZDNet को एक ईमेल में जोर दिया:
"मैंगोबोस्ट के परिणाम एनवीडिया के परिणामों के खिलाफ एक सटीक प्रदर्शन की तुलना को प्रतिबिंबित नहीं करते हैं। एएमडी के परीक्षण ने 4x को जीपीयू की संख्या - 32 एमआई 300x जीपीयू - 8 एनवीडिया बी 200 एस के खिलाफ लागू किया, फिर भी एनवीडिया सबमिशन के लिए केवल 3.83% अधिक परिणाम प्राप्त किया। Llama 2 70B सर्वर सबमिशन में। "
Google ने अपने इन-हाउस टेंसर प्रोसेसिंग यूनिट (TPU) के छठे पुनरावृत्ति को दिखाते हुए, प्रतियोगिता में भी प्रवेश किया। हालांकि, यह स्थिर प्रसार छवि-पीढ़ी परीक्षण के लिए क्वेरी प्रतिक्रिया गति को मापने के लिए एक परीक्षण में एनवीडिया के ब्लैकवेल से काफी पिछड़ गया।
नवीनतम MLPERF बेंचमार्क ने पिछले दौर की तुलना में NVIDIA को चुनौती देने वाले कम प्रतियोगियों को देखा। विशेष रूप से अनुपस्थित इंटेल की हबाना यूनिट और क्वालकॉम से सबमिशन थे, दोनों ने पिछले वर्षों में भाग लिया था।
इसके बावजूद, इंटेल के पास जश्न मनाने का कारण था। डेटासेंटर क्लोज्ड डिवीजन में, इंटेल के एक्सओन माइक्रोप्रोसेसर ने शीर्ष 11 सिस्टम में से सात को संचालित किया, जो एएमडी के ईपीवाईसी सर्वर माइक्रोप्रोसेसर को बेहतर बना रहा है, जिसने केवल तीन जीत हासिल की। यह पिछले वर्षों की तुलना में इंटेल के लिए एक सुधार है।
11 वीं शीर्ष प्रदर्शन प्रणाली, मेटा के बड़े पैमाने पर लामा 3.1 405b को प्रसंस्करण के साथ सौंपा गया था, एक इंटेल या एएमडी माइक्रोप्रोसेसर का उपयोग किए बिना एनवीडिया द्वारा बनाया गया था। इसके बजाय, इसने एकीकृत ग्रेस-ब्लैकवेल 200 चिप का उपयोग किया, एनवीडिया के ब्लैकवेल जीपीयू को एक ही पैकेज में अपने स्वयं के ग्रेस माइक्रोप्रोसेसर के साथ संयोजित किया।
संबंधित लेख
जीन जीरों की वास्तविकता की पड़ताल: AI झूठ और समायोजित सोच
आज के तेज़-गति वाले डिजिटल दुनिया में, इंटरनेट के साथ पल जाने वाली पीपल जीनरेशन Z ने विशिष्ट चुनौतियां सामने रखी हैं। AI-जनित सामग्री का बढ़ता हुआ उदय, जो वास्तविकता से अलग नहीं लग
लीड जनरेशन में कोल्ड ईमेल सफलता के लिए अलेक्स होर्मोज़ी के सीक्रेट्स
यदि आप अपनी क्लाइंट अधिग्रहण रणनीति को बढ़ाने के लिए उत्सुक हैं, तो कोल्ड ईमेलिंग में महारत हासिल करना आपका खेल बदल सकता है। फिर भी, कई व्यवसायों को अपने कोल्ड ईमेल अभियानों से महत
जनरल एआई टूल के साथ स्टोरीटेलिंग मैजिक को अनलॉक करने के लिए गाइड
आज की तेज-तर्रार डिजिटल दुनिया में, कहानी कहने की कला कभी भी अधिक महत्वपूर्ण नहीं रही है। चाहे आप परियोजनाओं, विपणन उत्पादों का प्रबंधन कर रहे हों, या बस अपनी रचनात्मकता को व्यक्त कर रहे हों, कहानी कहने से वास्तव में आपके दर्शकों को संलग्न किया जा सकता है और सार्थक बातचीत को बढ़ावा मिल सकता है। उदार एआई का आगमन ट्रांसफ़ो है
सूचना (40)
0/200
![JustinScott]()
JustinScott
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia's chips are just crushing it in the AI world! I mean, who else can keep up with their performance in generative AI? It's like watching a one-sided race, but hey, if you're into tech, you gotta appreciate the dominance. Maybe it's time for the others to step up their game! 🚀
0
![WillGarcía]()
WillGarcía
18 अप्रैल 2025 12:00:00 पूर्वाह्न IST
NvidiaのチップはAI分野で圧倒的ですね！生成AIでのパフォーマンスは他社が追いつけないレベル。まるで一方的なレースを見ているようですが、テクノロジーに興味があるなら、この優位性を評価せざるを得ません。他の会社も頑張ってほしいですね！🚀
0
![DonaldSanchez]()
DonaldSanchez
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia의 칩은 AI 분야에서 정말 압도적이에요! 생성 AI에서의 성능은 다른 회사들이 따라잡을 수 없는 수준이에요. 마치 일방적인 경주를 보는 것 같지만, 기술에 관심이 있다면 이 우위를 인정하지 않을 수 없어요. 다른 회사들도 힘내야겠죠! 🚀
0
![BrianThomas]()
BrianThomas
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Os chips da Nvidia estão dominando o mundo da IA! Quer dizer, quem mais consegue acompanhar o desempenho deles em IA generativa? É como assistir a uma corrida unilateral, mas, ei, se você gosta de tecnologia, tem que apreciar essa dominância. Talvez seja hora dos outros aumentarem o jogo! 🚀
0
![JustinAnderson]()
JustinAnderson
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
¡Los chips de Nvidia están dominando el mundo de la IA! Quiero decir, ¿quién más puede seguir su rendimiento en IA generativa? Es como ver una carrera unilateral, pero, oye, si te gusta la tecnología, tienes que apreciar esta dominancia. ¡Quizás es hora de que los demás suban su juego! 🚀
0
![JuanLopez]()
JuanLopez
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia's GPU chips are just unreal! They absolutely crushed it in the gen AI benchmarks. I mean, who even comes close? It's like watching a race where one car laps the others twice. Still, I wish they'd focus more on energy efficiency too. 🤓🔥
0
NVIDIA के सामान्य-उद्देश्य GPU चिप्स ने एक बार फिर कृत्रिम बुद्धिमत्ता में चिप प्रदर्शन का आकलन करने के लिए सबसे व्यापक रूप से मान्यता प्राप्त बेंचमार्क में से एक पर हावी हो गया है, इस बार बड़े भाषा मॉडल (LLMS) जैसे सामान्य AI अनुप्रयोगों पर ध्यान केंद्रित कर रहा है। प्रतियोगिता अपेक्षाकृत एकतरफा थी।
सुपरमाइक्रो, हेवलेट पैकर्ड एंटरप्राइज, लेनोवो और अन्य कंपनियों के सिस्टम, प्रत्येक आठ एनवीडिया चिप्स से लैस, एक उद्योग कंसोर्टियम द्वारा आयोजित MLPERF बेंचमार्क परीक्षण में सबसे अधिक शीर्ष स्थानों को सुरक्षित किया। यह परीक्षण, जो उस गति को मापता है जिस पर मशीनें टोकन, प्रोसेस क्वेरी, या आउटपुट डेटा सैंपल का उत्पादन कर सकती हैं-जिसे एआई इनवेंशन के रूप में जाना जाता है-भविष्यवाणी करने वाले बेंचमार्क की एक श्रृंखला में पांचवें स्थान पर था जो वर्षों से आयोजित किए गए हैं।
MLPERF बेंचमार्क के इस नवीनतम पुनरावृत्ति में सामान्य जनरेटिव AI कार्यों के अनुरूप नए परीक्षण शामिल थे। एक परीक्षण ने मेटा के ओपन-सोर्स एलएलएम, लामा 3.1 405 बी पर चिप्स के प्रदर्शन का मूल्यांकन किया, जो एक पर्याप्त मॉडल है जिसका व्यापक रूप से क्षेत्र में उपयोग किया जाता है। एक अन्य परीक्षण ने मेटा के छोटे लामा 2 70 बी का एक इंटरैक्टिव संस्करण पेश किया, जिसे चैटबॉट इंटरैक्शन का अनुकरण करने के लिए डिज़ाइन किया गया है जहां प्रतिक्रिया समय महत्वपूर्ण है। यह परीक्षण विशेष रूप से मापता है कि सिस्टम कितनी जल्दी आउटपुट का पहला टोकन उत्पन्न कर सकता है, जो उपयोगकर्ता संकेतों के लिए तेजी से प्रतिक्रियाओं की आवश्यकता को दर्शाता है।
एक तीसरे नए परीक्षण ने ग्राफ न्यूरल नेटवर्क को प्रसंस्करण की गति का आकलन किया, जो एक सामाजिक नेटवर्क में उन लोगों की तरह संस्थाओं के बीच जटिल संबंधों को संभालते हैं। ये नेटवर्क जनरेटिव एआई में तेजी से महत्वपूर्ण हो गए हैं, जो Google की डीपमाइंड यूनिट के अपने अल्फाफोल्ड 2 मॉडल में ग्राफ नेट्स के उपयोग से अनुकरणीय है, जिसने 2021 में प्रोटीन-फोल्डिंग भविष्यवाणियों में महत्वपूर्ण प्रगति की है। इसके अलावा, एक चौथे परीक्षण में एक चौथे परीक्षण ने एक ऑटोमोबाइल-सोर्स को एक ऑटोमोबाइल नेट से विकसित किया जा सकता है, जो कि एक कस्टम नेवल नेट का उपयोग कर रहा है।
MLPERF प्रतियोगिता में लेनोवो, HPE और अन्य द्वारा निर्मित कंप्यूटर शामिल हैं, जो तंत्रिका शुद्ध आउटपुट की सटीकता के लिए कड़े आवश्यकताओं का पालन करते हैं। प्रत्येक प्रणाली प्रति सेकंड उत्पादन में अपनी शीर्ष गति की रिपोर्ट करती है, जिसमें कुछ बेंचमार्क औसत विलंबता को मापते हैं, या सर्वर से वापस आने के लिए प्रतिक्रिया के लिए लिया गया समय है।
NVIDIA के GPU ने बंद डिवीजन के भीतर लगभग सभी परीक्षणों में उत्कृष्ट प्रदर्शन किया, जहां सॉफ्टवेयर सेटअप नियम सबसे सख्त हैं।
हालांकि, एएमडी, अपने MI300X GPU के साथ, दो Llama 2 70B परीक्षणों में शीर्ष स्कोर का दावा किया, प्रति सेकंड 103,182 टोकन प्राप्त किया, जो NVIDIA के नए ब्लैकवेल GPU की तुलना में काफी बेहतर था। इस विजेता एएमडी सिस्टम को मंगोबोस्ट द्वारा इकट्ठा किया गया था, जो प्लग-इन कार्डों में विशेषज्ञता वाला एक स्टार्टअप था जो जीपीयू रैक, और एलएलएमबीओस्ट के बीच डेटा ट्रांसफर को बढ़ाता है, उनके सॉफ़्टवेयर को जेनेरिक एआई प्रदर्शन में सुधार करने के लिए डिज़ाइन किया गया था।
एनवीडिया ने एएमडी के परिणामों की तुलना उनके ब्लैकवेल स्कोर से की, जो प्रत्येक सिस्टम में उपयोग किए गए चिप्स और कंप्यूटर "नोड्स" की संख्या के लिए समायोजित करने की आवश्यकता को इंगित करती है। डेव साल्वेटर, एनवीडिया के त्वरित कंप्यूटिंग उत्पादों के निदेशक, ने ZDNet को एक ईमेल में जोर दिया:
"मैंगोबोस्ट के परिणाम एनवीडिया के परिणामों के खिलाफ एक सटीक प्रदर्शन की तुलना को प्रतिबिंबित नहीं करते हैं। एएमडी के परीक्षण ने 4x को जीपीयू की संख्या - 32 एमआई 300x जीपीयू - 8 एनवीडिया बी 200 एस के खिलाफ लागू किया, फिर भी एनवीडिया सबमिशन के लिए केवल 3.83% अधिक परिणाम प्राप्त किया। Llama 2 70B सर्वर सबमिशन में। "
Google ने अपने इन-हाउस टेंसर प्रोसेसिंग यूनिट (TPU) के छठे पुनरावृत्ति को दिखाते हुए, प्रतियोगिता में भी प्रवेश किया। हालांकि, यह स्थिर प्रसार छवि-पीढ़ी परीक्षण के लिए क्वेरी प्रतिक्रिया गति को मापने के लिए एक परीक्षण में एनवीडिया के ब्लैकवेल से काफी पिछड़ गया।
नवीनतम MLPERF बेंचमार्क ने पिछले दौर की तुलना में NVIDIA को चुनौती देने वाले कम प्रतियोगियों को देखा। विशेष रूप से अनुपस्थित इंटेल की हबाना यूनिट और क्वालकॉम से सबमिशन थे, दोनों ने पिछले वर्षों में भाग लिया था।
इसके बावजूद, इंटेल के पास जश्न मनाने का कारण था। डेटासेंटर क्लोज्ड डिवीजन में, इंटेल के एक्सओन माइक्रोप्रोसेसर ने शीर्ष 11 सिस्टम में से सात को संचालित किया, जो एएमडी के ईपीवाईसी सर्वर माइक्रोप्रोसेसर को बेहतर बना रहा है, जिसने केवल तीन जीत हासिल की। यह पिछले वर्षों की तुलना में इंटेल के लिए एक सुधार है।
11 वीं शीर्ष प्रदर्शन प्रणाली, मेटा के बड़े पैमाने पर लामा 3.1 405b को प्रसंस्करण के साथ सौंपा गया था, एक इंटेल या एएमडी माइक्रोप्रोसेसर का उपयोग किए बिना एनवीडिया द्वारा बनाया गया था। इसके बजाय, इसने एकीकृत ग्रेस-ब्लैकवेल 200 चिप का उपयोग किया, एनवीडिया के ब्लैकवेल जीपीयू को एक ही पैकेज में अपने स्वयं के ग्रेस माइक्रोप्रोसेसर के साथ संयोजित किया।
जीन जीरों की वास्तविकता की पड़ताल: AI झूठ और समायोजित सोच
आज के तेज़-गति वाले डिजिटल दुनिया में, इंटरनेट के साथ पल जाने वाली पीपल जीनरेशन Z ने विशिष्ट चुनौतियां सामने रखी हैं। AI-जनित सामग्री का बढ़ता हुआ उदय, जो वास्तविकता से अलग नहीं लग
लीड जनरेशन में कोल्ड ईमेल सफलता के लिए अलेक्स होर्मोज़ी के सीक्रेट्स
यदि आप अपनी क्लाइंट अधिग्रहण रणनीति को बढ़ाने के लिए उत्सुक हैं, तो कोल्ड ईमेलिंग में महारत हासिल करना आपका खेल बदल सकता है। फिर भी, कई व्यवसायों को अपने कोल्ड ईमेल अभियानों से महत
जनरल एआई टूल के साथ स्टोरीटेलिंग मैजिक को अनलॉक करने के लिए गाइड
आज की तेज-तर्रार डिजिटल दुनिया में, कहानी कहने की कला कभी भी अधिक महत्वपूर्ण नहीं रही है। चाहे आप परियोजनाओं, विपणन उत्पादों का प्रबंधन कर रहे हों, या बस अपनी रचनात्मकता को व्यक्त कर रहे हों, कहानी कहने से वास्तव में आपके दर्शकों को संलग्न किया जा सकता है और सार्थक बातचीत को बढ़ावा मिल सकता है। उदार एआई का आगमन ट्रांसफ़ो है
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia's chips are just crushing it in the AI world! I mean, who else can keep up with their performance in generative AI? It's like watching a one-sided race, but hey, if you're into tech, you gotta appreciate the dominance. Maybe it's time for the others to step up their game! 🚀
0
18 अप्रैल 2025 12:00:00 पूर्वाह्न IST
NvidiaのチップはAI分野で圧倒的ですね！生成AIでのパフォーマンスは他社が追いつけないレベル。まるで一方的なレースを見ているようですが、テクノロジーに興味があるなら、この優位性を評価せざるを得ません。他の会社も頑張ってほしいですね！🚀
0
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia의 칩은 AI 분야에서 정말 압도적이에요! 생성 AI에서의 성능은 다른 회사들이 따라잡을 수 없는 수준이에요. 마치 일방적인 경주를 보는 것 같지만, 기술에 관심이 있다면 이 우위를 인정하지 않을 수 없어요. 다른 회사들도 힘내야겠죠! 🚀
0
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Os chips da Nvidia estão dominando o mundo da IA! Quer dizer, quem mais consegue acompanhar o desempenho deles em IA generativa? É como assistir a uma corrida unilateral, mas, ei, se você gosta de tecnologia, tem que apreciar essa dominância. Talvez seja hora dos outros aumentarem o jogo! 🚀
0
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
¡Los chips de Nvidia están dominando el mundo de la IA! Quiero decir, ¿quién más puede seguir su rendimiento en IA generativa? Es como ver una carrera unilateral, pero, oye, si te gusta la tecnología, tienes que apreciar esta dominancia. ¡Quizás es hora de que los demás suban su juego! 🚀
0
17 अप्रैल 2025 12:00:00 पूर्वाह्न IST
Nvidia's GPU chips are just unreal! They absolutely crushed it in the gen AI benchmarks. I mean, who even comes close? It's like watching a race where one car laps the others twice. Still, I wish they'd focus more on energy efficiency too. 🤓🔥
0
