Nvidia Gen AI बेंचमार्क पर हावी है, दो प्रतिद्वंद्वी AI चिप्स से बेहतर प्रदर्शन करता है
16 अप्रैल 2025
FredLewis
123
NVIDIA के सामान्य-उद्देश्य GPU चिप्स ने एक बार फिर कृत्रिम बुद्धिमत्ता में चिप प्रदर्शन का आकलन करने के लिए सबसे व्यापक रूप से मान्यता प्राप्त बेंचमार्क में से एक पर हावी हो गया है, इस बार बड़े भाषा मॉडल (LLMS) जैसे सामान्य AI अनुप्रयोगों पर ध्यान केंद्रित कर रहा है। प्रतियोगिता अपेक्षाकृत एकतरफा थी।
सुपरमाइक्रो, हेवलेट पैकर्ड एंटरप्राइज, लेनोवो और अन्य कंपनियों के सिस्टम, प्रत्येक आठ एनवीडिया चिप्स से लैस, एक उद्योग कंसोर्टियम द्वारा आयोजित MLPERF बेंचमार्क परीक्षण में सबसे अधिक शीर्ष स्थानों को सुरक्षित किया। यह परीक्षण, जो उस गति को मापता है जिस पर मशीनें टोकन, प्रोसेस क्वेरी, या आउटपुट डेटा सैंपल का उत्पादन कर सकती हैं-जिसे एआई इनवेंशन के रूप में जाना जाता है-भविष्यवाणी करने वाले बेंचमार्क की एक श्रृंखला में पांचवें स्थान पर था जो वर्षों से आयोजित किए गए हैं।
MLPERF बेंचमार्क के इस नवीनतम पुनरावृत्ति में सामान्य जनरेटिव AI कार्यों के अनुरूप नए परीक्षण शामिल थे। एक परीक्षण ने मेटा के ओपन-सोर्स एलएलएम, लामा 3.1 405 बी पर चिप्स के प्रदर्शन का मूल्यांकन किया, जो एक पर्याप्त मॉडल है जिसका व्यापक रूप से क्षेत्र में उपयोग किया जाता है। एक अन्य परीक्षण ने मेटा के छोटे लामा 2 70 बी का एक इंटरैक्टिव संस्करण पेश किया, जिसे चैटबॉट इंटरैक्शन का अनुकरण करने के लिए डिज़ाइन किया गया है जहां प्रतिक्रिया समय महत्वपूर्ण है। यह परीक्षण विशेष रूप से मापता है कि सिस्टम कितनी जल्दी आउटपुट का पहला टोकन उत्पन्न कर सकता है, जो उपयोगकर्ता संकेतों के लिए तेजी से प्रतिक्रियाओं की आवश्यकता को दर्शाता है।
एक तीसरे नए परीक्षण ने ग्राफ न्यूरल नेटवर्क को प्रसंस्करण की गति का आकलन किया, जो एक सामाजिक नेटवर्क में उन लोगों की तरह संस्थाओं के बीच जटिल संबंधों को संभालते हैं। ये नेटवर्क जनरेटिव एआई में तेजी से महत्वपूर्ण हो गए हैं, जो Google की डीपमाइंड यूनिट के अपने अल्फाफोल्ड 2 मॉडल में ग्राफ नेट्स के उपयोग से अनुकरणीय है, जिसने 2021 में प्रोटीन-फोल्डिंग भविष्यवाणियों में महत्वपूर्ण प्रगति की है। इसके अलावा, एक चौथे परीक्षण में एक चौथे परीक्षण ने एक ऑटोमोबाइल-सोर्स को एक ऑटोमोबाइल नेट से विकसित किया जा सकता है, जो कि एक कस्टम नेवल नेट का उपयोग कर रहा है।
Mlcommons
MLPERF प्रतियोगिता में लेनोवो, HPE और अन्य द्वारा निर्मित कंप्यूटर शामिल हैं, जो तंत्रिका शुद्ध आउटपुट की सटीकता के लिए कड़े आवश्यकताओं का पालन करते हैं। प्रत्येक प्रणाली प्रति सेकंड उत्पादन में अपनी शीर्ष गति की रिपोर्ट करती है, जिसमें कुछ बेंचमार्क औसत विलंबता को मापते हैं, या सर्वर से वापस आने के लिए प्रतिक्रिया के लिए लिया गया समय है।
NVIDIA के GPU ने बंद डिवीजन के भीतर लगभग सभी परीक्षणों में उत्कृष्ट प्रदर्शन किया, जहां सॉफ्टवेयर सेटअप नियम सबसे सख्त हैं।
Mlcommons
हालांकि, एएमडी, अपने MI300X GPU के साथ, दो Llama 2 70B परीक्षणों में शीर्ष स्कोर का दावा किया, प्रति सेकंड 103,182 टोकन प्राप्त किया, जो NVIDIA के नए ब्लैकवेल GPU की तुलना में काफी बेहतर था। इस विजेता एएमडी सिस्टम को मंगोबोस्ट द्वारा इकट्ठा किया गया था, जो प्लग-इन कार्डों में विशेषज्ञता वाला एक स्टार्टअप था जो जीपीयू रैक, और एलएलएमबीओस्ट के बीच डेटा ट्रांसफर को बढ़ाता है, उनके सॉफ़्टवेयर को जेनेरिक एआई प्रदर्शन में सुधार करने के लिए डिज़ाइन किया गया था।
एनवीडिया ने एएमडी के परिणामों की तुलना उनके ब्लैकवेल स्कोर से की, जो प्रत्येक सिस्टम में उपयोग किए गए चिप्स और कंप्यूटर "नोड्स" की संख्या के लिए समायोजित करने की आवश्यकता को इंगित करती है। डेव साल्वेटर, एनवीडिया के त्वरित कंप्यूटिंग उत्पादों के निदेशक, ने ZDNet को एक ईमेल में जोर दिया:
"मैंगोबोस्ट के परिणाम एनवीडिया के परिणामों के खिलाफ एक सटीक प्रदर्शन की तुलना को प्रतिबिंबित नहीं करते हैं। एएमडी के परीक्षण ने 4x को जीपीयू की संख्या - 32 एमआई 300x जीपीयू - 8 एनवीडिया बी 200 एस के खिलाफ लागू किया, फिर भी एनवीडिया सबमिशन के लिए केवल 3.83% अधिक परिणाम प्राप्त किया। Llama 2 70B सर्वर सबमिशन में। "
Google ने अपने इन-हाउस टेंसर प्रोसेसिंग यूनिट (TPU) के छठे पुनरावृत्ति को दिखाते हुए, प्रतियोगिता में भी प्रवेश किया। हालांकि, यह स्थिर प्रसार छवि-पीढ़ी परीक्षण के लिए क्वेरी प्रतिक्रिया गति को मापने के लिए एक परीक्षण में एनवीडिया के ब्लैकवेल से काफी पिछड़ गया।
नवीनतम MLPERF बेंचमार्क ने पिछले दौर की तुलना में NVIDIA को चुनौती देने वाले कम प्रतियोगियों को देखा। विशेष रूप से अनुपस्थित इंटेल की हबाना यूनिट और क्वालकॉम से सबमिशन थे, दोनों ने पिछले वर्षों में भाग लिया था।
इसके बावजूद, इंटेल के पास जश्न मनाने का कारण था। डेटासेंटर क्लोज्ड डिवीजन में, इंटेल के एक्सओन माइक्रोप्रोसेसर ने शीर्ष 11 सिस्टम में से सात को संचालित किया, जो एएमडी के ईपीवाईसी सर्वर माइक्रोप्रोसेसर को बेहतर बना रहा है, जिसने केवल तीन जीत हासिल की। यह पिछले वर्षों की तुलना में इंटेल के लिए एक सुधार है।
11 वीं शीर्ष प्रदर्शन प्रणाली, मेटा के बड़े पैमाने पर लामा 3.1 405b को प्रसंस्करण के साथ सौंपा गया था, एक इंटेल या एएमडी माइक्रोप्रोसेसर का उपयोग किए बिना एनवीडिया द्वारा बनाया गया था। इसके बजाय, इसने एकीकृत ग्रेस-ब्लैकवेल 200 चिप का उपयोग किया, एनवीडिया के ब्लैकवेल जीपीयू को एक ही पैकेज में अपने स्वयं के ग्रेस माइक्रोप्रोसेसर के साथ संयोजित किया।
संबंधित लेख
Guide pour déverrouiller la magie de la narration avec les outils Gen Ai
Dans le monde numérique au rythme rapide d'aujourd'hui, l'art de la narration n'a jamais été aussi crucial. Que vous gériez des projets, commercialisez des produits ou que vous exprimiez simplement votre créativité, la narration peut vraiment engager votre public et favoriser des interactions significatives. L'avènement de l'IA générative est le transfo
एआई संचालित एसक्यूएल क्वेरी जनरेशन डेटा विश्लेषण को बेहतर बनाता है
डेटा विश्लेषण व्यवसायों और शोधकर्ताओं के लिए एक महत्वपूर्ण उपकरण है, लेकिन SQL क्वेरी की जटिलता उन लोगों के लिए एक बाधा हो सकती है जिनके पास तकनीकी कौशल नहीं है। यहीं पर AskYourDat
गोकू का जोखिम भरा रिज़ और रोब्लॉक्स वॉइस चैट में AI की गलतियाँ
क्या आपने कभी सोचा है कि जब गोकू AI रोब्लॉक्स वॉइस चैट पर बेकाबू हो जाता है तो क्या होता है? हंसी, अजीब पल और कुछ विवादास्पद मोड़ों से भरे एक जंगली सवारी के लिए तैयार हो जाइए! गोकू
सूचना (40)
0/200
![JustinScott]()
JustinScott
17 अप्रैल 2025 10:43:31 पूर्वाह्न GMT
Nvidia's chips are just crushing it in the AI world! I mean, who else can keep up with their performance in generative AI? It's like watching a one-sided race, but hey, if you're into tech, you gotta appreciate the dominance. Maybe it's time for the others to step up their game! 🚀
0
![WillGarcía]()
WillGarcía
17 अप्रैल 2025 11:12:32 अपराह्न GMT
NvidiaのチップはAI分野で圧倒的ですね！生成AIでのパフォーマンスは他社が追いつけないレベル。まるで一方的なレースを見ているようですが、テクノロジーに興味があるなら、この優位性を評価せざるを得ません。他の会社も頑張ってほしいですね！🚀
0
![DonaldSanchez]()
DonaldSanchez
17 अप्रैल 2025 2:14:31 पूर्वाह्न GMT
Nvidia의 칩은 AI 분야에서 정말 압도적이에요! 생성 AI에서의 성능은 다른 회사들이 따라잡을 수 없는 수준이에요. 마치 일방적인 경주를 보는 것 같지만, 기술에 관심이 있다면 이 우위를 인정하지 않을 수 없어요. 다른 회사들도 힘내야겠죠! 🚀
0
![BrianThomas]()
BrianThomas
17 अप्रैल 2025 12:21:43 अपराह्न GMT
Os chips da Nvidia estão dominando o mundo da IA! Quer dizer, quem mais consegue acompanhar o desempenho deles em IA generativa? É como assistir a uma corrida unilateral, mas, ei, se você gosta de tecnologia, tem que apreciar essa dominância. Talvez seja hora dos outros aumentarem o jogo! 🚀
0
![JustinAnderson]()
JustinAnderson
16 अप्रैल 2025 7:17:14 अपराह्न GMT
¡Los chips de Nvidia están dominando el mundo de la IA! Quiero decir, ¿quién más puede seguir su rendimiento en IA generativa? Es como ver una carrera unilateral, pero, oye, si te gusta la tecnología, tienes que apreciar esta dominancia. ¡Quizás es hora de que los demás suban su juego! 🚀
0
![JuanLopez]()
JuanLopez
16 अप्रैल 2025 6:01:08 अपराह्न GMT
Nvidia's GPU chips are just unreal! They absolutely crushed it in the gen AI benchmarks. I mean, who even comes close? It's like watching a race where one car laps the others twice. Still, I wish they'd focus more on energy efficiency too. 🤓🔥
0
16 अप्रैल 2025
FredLewis
123
NVIDIA के सामान्य-उद्देश्य GPU चिप्स ने एक बार फिर कृत्रिम बुद्धिमत्ता में चिप प्रदर्शन का आकलन करने के लिए सबसे व्यापक रूप से मान्यता प्राप्त बेंचमार्क में से एक पर हावी हो गया है, इस बार बड़े भाषा मॉडल (LLMS) जैसे सामान्य AI अनुप्रयोगों पर ध्यान केंद्रित कर रहा है। प्रतियोगिता अपेक्षाकृत एकतरफा थी।
सुपरमाइक्रो, हेवलेट पैकर्ड एंटरप्राइज, लेनोवो और अन्य कंपनियों के सिस्टम, प्रत्येक आठ एनवीडिया चिप्स से लैस, एक उद्योग कंसोर्टियम द्वारा आयोजित MLPERF बेंचमार्क परीक्षण में सबसे अधिक शीर्ष स्थानों को सुरक्षित किया। यह परीक्षण, जो उस गति को मापता है जिस पर मशीनें टोकन, प्रोसेस क्वेरी, या आउटपुट डेटा सैंपल का उत्पादन कर सकती हैं-जिसे एआई इनवेंशन के रूप में जाना जाता है-भविष्यवाणी करने वाले बेंचमार्क की एक श्रृंखला में पांचवें स्थान पर था जो वर्षों से आयोजित किए गए हैं।
MLPERF बेंचमार्क के इस नवीनतम पुनरावृत्ति में सामान्य जनरेटिव AI कार्यों के अनुरूप नए परीक्षण शामिल थे। एक परीक्षण ने मेटा के ओपन-सोर्स एलएलएम, लामा 3.1 405 बी पर चिप्स के प्रदर्शन का मूल्यांकन किया, जो एक पर्याप्त मॉडल है जिसका व्यापक रूप से क्षेत्र में उपयोग किया जाता है। एक अन्य परीक्षण ने मेटा के छोटे लामा 2 70 बी का एक इंटरैक्टिव संस्करण पेश किया, जिसे चैटबॉट इंटरैक्शन का अनुकरण करने के लिए डिज़ाइन किया गया है जहां प्रतिक्रिया समय महत्वपूर्ण है। यह परीक्षण विशेष रूप से मापता है कि सिस्टम कितनी जल्दी आउटपुट का पहला टोकन उत्पन्न कर सकता है, जो उपयोगकर्ता संकेतों के लिए तेजी से प्रतिक्रियाओं की आवश्यकता को दर्शाता है।
एक तीसरे नए परीक्षण ने ग्राफ न्यूरल नेटवर्क को प्रसंस्करण की गति का आकलन किया, जो एक सामाजिक नेटवर्क में उन लोगों की तरह संस्थाओं के बीच जटिल संबंधों को संभालते हैं। ये नेटवर्क जनरेटिव एआई में तेजी से महत्वपूर्ण हो गए हैं, जो Google की डीपमाइंड यूनिट के अपने अल्फाफोल्ड 2 मॉडल में ग्राफ नेट्स के उपयोग से अनुकरणीय है, जिसने 2021 में प्रोटीन-फोल्डिंग भविष्यवाणियों में महत्वपूर्ण प्रगति की है। इसके अलावा, एक चौथे परीक्षण में एक चौथे परीक्षण ने एक ऑटोमोबाइल-सोर्स को एक ऑटोमोबाइल नेट से विकसित किया जा सकता है, जो कि एक कस्टम नेवल नेट का उपयोग कर रहा है।
MLPERF प्रतियोगिता में लेनोवो, HPE और अन्य द्वारा निर्मित कंप्यूटर शामिल हैं, जो तंत्रिका शुद्ध आउटपुट की सटीकता के लिए कड़े आवश्यकताओं का पालन करते हैं। प्रत्येक प्रणाली प्रति सेकंड उत्पादन में अपनी शीर्ष गति की रिपोर्ट करती है, जिसमें कुछ बेंचमार्क औसत विलंबता को मापते हैं, या सर्वर से वापस आने के लिए प्रतिक्रिया के लिए लिया गया समय है।
NVIDIA के GPU ने बंद डिवीजन के भीतर लगभग सभी परीक्षणों में उत्कृष्ट प्रदर्शन किया, जहां सॉफ्टवेयर सेटअप नियम सबसे सख्त हैं।
हालांकि, एएमडी, अपने MI300X GPU के साथ, दो Llama 2 70B परीक्षणों में शीर्ष स्कोर का दावा किया, प्रति सेकंड 103,182 टोकन प्राप्त किया, जो NVIDIA के नए ब्लैकवेल GPU की तुलना में काफी बेहतर था। इस विजेता एएमडी सिस्टम को मंगोबोस्ट द्वारा इकट्ठा किया गया था, जो प्लग-इन कार्डों में विशेषज्ञता वाला एक स्टार्टअप था जो जीपीयू रैक, और एलएलएमबीओस्ट के बीच डेटा ट्रांसफर को बढ़ाता है, उनके सॉफ़्टवेयर को जेनेरिक एआई प्रदर्शन में सुधार करने के लिए डिज़ाइन किया गया था।
एनवीडिया ने एएमडी के परिणामों की तुलना उनके ब्लैकवेल स्कोर से की, जो प्रत्येक सिस्टम में उपयोग किए गए चिप्स और कंप्यूटर "नोड्स" की संख्या के लिए समायोजित करने की आवश्यकता को इंगित करती है। डेव साल्वेटर, एनवीडिया के त्वरित कंप्यूटिंग उत्पादों के निदेशक, ने ZDNet को एक ईमेल में जोर दिया:
"मैंगोबोस्ट के परिणाम एनवीडिया के परिणामों के खिलाफ एक सटीक प्रदर्शन की तुलना को प्रतिबिंबित नहीं करते हैं। एएमडी के परीक्षण ने 4x को जीपीयू की संख्या - 32 एमआई 300x जीपीयू - 8 एनवीडिया बी 200 एस के खिलाफ लागू किया, फिर भी एनवीडिया सबमिशन के लिए केवल 3.83% अधिक परिणाम प्राप्त किया। Llama 2 70B सर्वर सबमिशन में। "
Google ने अपने इन-हाउस टेंसर प्रोसेसिंग यूनिट (TPU) के छठे पुनरावृत्ति को दिखाते हुए, प्रतियोगिता में भी प्रवेश किया। हालांकि, यह स्थिर प्रसार छवि-पीढ़ी परीक्षण के लिए क्वेरी प्रतिक्रिया गति को मापने के लिए एक परीक्षण में एनवीडिया के ब्लैकवेल से काफी पिछड़ गया।
नवीनतम MLPERF बेंचमार्क ने पिछले दौर की तुलना में NVIDIA को चुनौती देने वाले कम प्रतियोगियों को देखा। विशेष रूप से अनुपस्थित इंटेल की हबाना यूनिट और क्वालकॉम से सबमिशन थे, दोनों ने पिछले वर्षों में भाग लिया था।
इसके बावजूद, इंटेल के पास जश्न मनाने का कारण था। डेटासेंटर क्लोज्ड डिवीजन में, इंटेल के एक्सओन माइक्रोप्रोसेसर ने शीर्ष 11 सिस्टम में से सात को संचालित किया, जो एएमडी के ईपीवाईसी सर्वर माइक्रोप्रोसेसर को बेहतर बना रहा है, जिसने केवल तीन जीत हासिल की। यह पिछले वर्षों की तुलना में इंटेल के लिए एक सुधार है।
11 वीं शीर्ष प्रदर्शन प्रणाली, मेटा के बड़े पैमाने पर लामा 3.1 405b को प्रसंस्करण के साथ सौंपा गया था, एक इंटेल या एएमडी माइक्रोप्रोसेसर का उपयोग किए बिना एनवीडिया द्वारा बनाया गया था। इसके बजाय, इसने एकीकृत ग्रेस-ब्लैकवेल 200 चिप का उपयोग किया, एनवीडिया के ब्लैकवेल जीपीयू को एक ही पैकेज में अपने स्वयं के ग्रेस माइक्रोप्रोसेसर के साथ संयोजित किया।
Guide pour déverrouiller la magie de la narration avec les outils Gen Ai
Dans le monde numérique au rythme rapide d'aujourd'hui, l'art de la narration n'a jamais été aussi crucial. Que vous gériez des projets, commercialisez des produits ou que vous exprimiez simplement votre créativité, la narration peut vraiment engager votre public et favoriser des interactions significatives. L'avènement de l'IA générative est le transfo
एआई संचालित एसक्यूएल क्वेरी जनरेशन डेटा विश्लेषण को बेहतर बनाता है
डेटा विश्लेषण व्यवसायों और शोधकर्ताओं के लिए एक महत्वपूर्ण उपकरण है, लेकिन SQL क्वेरी की जटिलता उन लोगों के लिए एक बाधा हो सकती है जिनके पास तकनीकी कौशल नहीं है। यहीं पर AskYourDat
गोकू का जोखिम भरा रिज़ और रोब्लॉक्स वॉइस चैट में AI की गलतियाँ
क्या आपने कभी सोचा है कि जब गोकू AI रोब्लॉक्स वॉइस चैट पर बेकाबू हो जाता है तो क्या होता है? हंसी, अजीब पल और कुछ विवादास्पद मोड़ों से भरे एक जंगली सवारी के लिए तैयार हो जाइए! गोकू
17 अप्रैल 2025 10:43:31 पूर्वाह्न GMT
Nvidia's chips are just crushing it in the AI world! I mean, who else can keep up with their performance in generative AI? It's like watching a one-sided race, but hey, if you're into tech, you gotta appreciate the dominance. Maybe it's time for the others to step up their game! 🚀
0
17 अप्रैल 2025 11:12:32 अपराह्न GMT
NvidiaのチップはAI分野で圧倒的ですね！生成AIでのパフォーマンスは他社が追いつけないレベル。まるで一方的なレースを見ているようですが、テクノロジーに興味があるなら、この優位性を評価せざるを得ません。他の会社も頑張ってほしいですね！🚀
0
17 अप्रैल 2025 2:14:31 पूर्वाह्न GMT
Nvidia의 칩은 AI 분야에서 정말 압도적이에요! 생성 AI에서의 성능은 다른 회사들이 따라잡을 수 없는 수준이에요. 마치 일방적인 경주를 보는 것 같지만, 기술에 관심이 있다면 이 우위를 인정하지 않을 수 없어요. 다른 회사들도 힘내야겠죠! 🚀
0
17 अप्रैल 2025 12:21:43 अपराह्न GMT
Os chips da Nvidia estão dominando o mundo da IA! Quer dizer, quem mais consegue acompanhar o desempenho deles em IA generativa? É como assistir a uma corrida unilateral, mas, ei, se você gosta de tecnologia, tem que apreciar essa dominância. Talvez seja hora dos outros aumentarem o jogo! 🚀
0
16 अप्रैल 2025 7:17:14 अपराह्न GMT
¡Los chips de Nvidia están dominando el mundo de la IA! Quiero decir, ¿quién más puede seguir su rendimiento en IA generativa? Es como ver una carrera unilateral, pero, oye, si te gusta la tecnología, tienes que apreciar esta dominancia. ¡Quizás es hora de que los demás suban su juego! 🚀
0
16 अप्रैल 2025 6:01:08 अपराह्न GMT
Nvidia's GPU chips are just unreal! They absolutely crushed it in the gen AI benchmarks. I mean, who even comes close? It's like watching a race where one car laps the others twice. Still, I wish they'd focus more on energy efficiency too. 🤓🔥
0
