एआई टूल एक एकल चैटबॉट प्रॉम्प्ट की ऊर्जा खपत का खुलासा करता है

एआई सिस्टम अपनी उच्च ऊर्जा खपत के लिए कुख्यात हैं, फिर भी सटीक ऊर्जा उपयोग को इंगित करते हैं, विशेष रूप से व्यक्तिगत चैटबॉट क्वेरी के लिए, मायावी बना हुआ है। इस मुद्दे पर प्रकाश डालने के लिए, एक हगिंग फेस इंजीनियर ने इन छिपी हुई लागतों को उजागर करने के उद्देश्य से एक उपकरण विकसित किया।

एआई इन्फ्रास्ट्रक्चर की ईथर भाषा में खो जाना आसान है, इसके "द क्लाउड" और अन्य हवादार रूपकों के लगातार संदर्भों के साथ। हालांकि, इस घूंघट के नीचे ऊर्जा-गहन कंप्यूटरों की वास्तविकता है। एआई सिस्टम, जिसे ब्रेकनेक गति से जटिल गणना करने की आवश्यकता होती है, शक्तिशाली चिप्स, कई जीपीयू और विशाल डेटा केंद्रों पर भरोसा करते हैं। हर बार जब आप चैट करने के लिए एक प्रश्न करते हैं, तो ये घटक एक्शन में वसंत करते हैं, बिजली का सेवन करते हैं। यही कारण है कि कई चैटबॉट अपने मुफ्त स्तरों पर उपयोग सीमाएं लगाते हैं - बिजली की लागत इन सेवाओं की मेजबानी करने वाली कंपनियों के लिए एक महंगा संबंध की गणना करती है।

चैट ui ऊर्जा

इस मर्की क्षेत्र में कुछ स्पष्टता लाने के लिए, हगिंग फेस के एक इंजीनियर जूलियन डेलावांडे ने एक एआई चैट इंटरफ़ेस बनाया, जो आपकी बातचीत के लिए वास्तविक समय ऊर्जा उपयोग के अनुमानों को प्रदर्शित करता है। यह उपकरण न केवल विभिन्न मॉडलों, कार्यों और अनुरोधों की ऊर्जा खपत की तुलना करता है, बल्कि यह भी हाइलाइट करता है कि कैसे तर्क की आवश्यकता होती है, एक सीधे तथ्य-खोज क्वेरी की तुलना में अधिक ऊर्जा का उपभोग कर सकता है। इंटरफ़ेस वाट-घंटे और जूल जैसे रिलेटेबल मेट्रिक्स में ऊर्जा उपयोग प्रस्तुत करता है, साथ ही साथ अधिक मूर्त तुलना जैसे कि फोन चार्ज का प्रतिशत या ड्राइविंग समय, पर्यावरण संरक्षण एजेंसी (ईपीए) से प्राप्त होता है।

जब मैंने न्यूयॉर्क शहर में मौसम के बारे में चैट यूआई एनर्जी से पूछा, तो इसने मुझे सूचित किया कि मेरी क्वेरी ने फोन चार्ज के लगभग 9.5% का इस्तेमाल किया। इस अनुमान पर क्लिक करके, मैं अन्य समकक्ष तुलनाओं को देख सकता था, जैसे कि 45 मिनट का एलईडी बल्ब उपयोग, 1.21 सेकंड माइक्रोवेव उपयोग, और 0.15 सेकंड के टोस्टर ऊर्जा। जैसे ही बातचीत जारी रही, बॉट ने चैट विंडो के नीचे कुल ऊर्जा उपयोग और अवधि प्रदर्शित की।

मेरी क्वेरी की सादगी के बावजूद, इसे इंटरनेट एक्सेस की आवश्यकता थी, जिसमें बॉट की कमी थी, संभवतः यह समझाते हुए कि जवाब देने के लिए प्रत्याशित की तुलना में 90 सेकंड और अधिक ऊर्जा क्यों लगी। यहां तक ​​कि एक अनुमान के रूप में, 45 मिनट के एलईडी बल्ब का उपयोग आश्चर्यजनक रूप से अधिक लग रहा था, अधिक जटिल, बहु-चरण संकेतों की ऊर्जा मांगों को परिप्रेक्ष्य में डाल दिया।

जबकि केवल एआई कंपनियों के पास अपने सिस्टम की ऊर्जा खपत पर सटीक डेटा है, अध्ययन से पता चलता है कि मांग बढ़ रही है। 2024 की अंतर्राष्ट्रीय ऊर्जा एजेंसी की रिपोर्ट में 2026 तक 3.4% की वैश्विक बिजली की मांग में वृद्धि हुई है, जो आंशिक रूप से डेटा केंद्रों के विस्तार से प्रेरित है। इसी तरह, एक बर्कले लैब रिपोर्ट में 2023 और 2028 के बीच "13% से 27% की डेटा केंद्र वृद्धि दर का अनुमान है।"

इस उपकरण की रिहाई से ओपन-सोर्स प्लेटफॉर्म जैसे गले लगाने वाले चेहरे और अधिक गुप्त एआई कंपनियों के बीच अंतर को रेखांकित किया गया है। चैट के रचनाकारों ने अपनी घोषणा में कहा, "एआई एनर्जी स्कोर और एआई के एनर्जी फुटप्रिंट पर व्यापक शोध जैसी परियोजनाओं के साथ, हम ओपन-सोर्स समुदाय में पारदर्शिता के लिए जोर दे रहे हैं।" "एक दिन, ऊर्जा का उपयोग भोजन पर पोषण लेबल के रूप में दिखाई दे सकता है!"

इसे खुद कैसे आज़माएं

आप यहां चैटबॉट के साथ प्रयोग कर सकते हैं और विभिन्न ओपन-सोर्स मॉडल के बीच स्विच कर सकते हैं, जिसमें Google जेम्मा 3, मेटा का लामा 3.3, और मिस्ट्रल नेमो निर्देश शामिल हैं।

अधिक एआई कहानियों में रुचि रखते हैं? नवाचार की सदस्यता लें, हमारे साप्ताहिक समाचार पत्र।