AI工具揭示了單個聊天機器人提示的能耗
AI系統以高能耗著稱,但精確計算其能耗,特別是單個聊天機器人查詢的能耗,仍難以捉摸。為了解決此問題,Hugging Face的一位工程師開發了一款工具,旨在揭示這些隱藏成本。
AI基礎設施的語言常顯抽象,頻繁提及「雲端」等空靈隱喻。然而,這層面紗下隱藏的是高能耗的電腦現實。AI系統需以極快速度執行複雜計算,依賴強大晶片、多個GPU和龐大資料中心。每次向ChatGPT提問,這些元件即啟動,消耗電力。因此,許多聊天機器人對免費層級設使用限制——電力成本使這些服務的運算成本高昂。
聊天介面能耗
為釐清這一模糊領域,Hugging Face的工程師Julien Delavande創建了一款AI聊天介面,顯示對話的即時能耗估計。此工具不僅比較不同模型、任務和請求的能耗,還突顯需推理的提示可能比簡單事實查詢消耗更多能量。介面以瓦時和焦耳等易懂單位呈現能耗,並提供更具體的比較,如手機電量百分比或行車時間,數據來自環境保護署(EPA)。

當我向聊天介面能耗詢問紐約市天氣時,它告知我的查詢使用了約9.5%的手機電量。點擊此估計,我可看到其他等效比較,如45分鐘的LED燈泡使用、1.21秒的微波爐使用和0.15秒的烤麵包機能耗。隨著對話繼續,機器人在聊天視窗底部顯示總能耗和持續時間。
儘管我的查詢簡單,但需網路連線,機器人缺乏此功能,可能解釋為何回應耗時90秒且能耗高於預期。即使是估計值,45分鐘的LED燈泡使用量也顯得驚人,凸顯更複雜多步驟提示的能耗需求。
雖然只有AI公司擁有其系統能耗的精確數據,但研究顯示需求正上升。2024年國際能源署報告預測,到2026年全球電力需求將增長3.4%,部分由資料中心擴張驅動。伯克利實驗室報告同樣預測,2023至2028年間資料中心增長率為「13%至27%」。
此工具的發布突顯了Hugging Face等開源平台與較為保密的AI公司的差異。「透過AI能源評分等項目及對AI能耗足跡的廣泛研究,我們在開源社群推動透明度,」聊天創作者在公告中表示。「有朝一日,能耗數據可能像食品營養標籤一樣清晰可見!」
如何親自體驗
您可在此體驗聊天機器人,並在Google Gemma 3、Meta的Llama 3.3和Mistral Nemo Instruct等多種開源模型間切換。
對更多AI故事感興趣?訂閱我們的每周新聞信Innovation。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (11)
0/500
プロンプト1つでこれだけ電力を使うの?🤯 普段何気なく質問してるけど、裏では莫大なエネルギー消費があったなんて考えるとゾッとします。環境負荷を無視してAIの進化を語るのは無理がある気がします。透明性のあるツール開発は素晴らしいですが、ユーザー側も消費意識を持つべきですね。
Interesting tool! But I'm curious: how accurate is it? The energy measurement must be tricky with all the server overhead. 😅
Honestly never thought about how much energy one ChatGPT question uses 😳 This makes me reconsider spamming 'regenerate response' so much. The environmental impact of AI is kinda scary when you think about it...
Wow, the energy consumption per chat is surprisingly high! We often overlook the environmental footprint of these AI tools. This makes me wonder how sustainable the current AI boom really is. 🌍
Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.
AI系統以高能耗著稱,但精確計算其能耗,特別是單個聊天機器人查詢的能耗,仍難以捉摸。為了解決此問題,Hugging Face的一位工程師開發了一款工具,旨在揭示這些隱藏成本。
AI基礎設施的語言常顯抽象,頻繁提及「雲端」等空靈隱喻。然而,這層面紗下隱藏的是高能耗的電腦現實。AI系統需以極快速度執行複雜計算,依賴強大晶片、多個GPU和龐大資料中心。每次向ChatGPT提問,這些元件即啟動,消耗電力。因此,許多聊天機器人對免費層級設使用限制——電力成本使這些服務的運算成本高昂。
聊天介面能耗
為釐清這一模糊領域,Hugging Face的工程師Julien Delavande創建了一款AI聊天介面,顯示對話的即時能耗估計。此工具不僅比較不同模型、任務和請求的能耗,還突顯需推理的提示可能比簡單事實查詢消耗更多能量。介面以瓦時和焦耳等易懂單位呈現能耗,並提供更具體的比較,如手機電量百分比或行車時間,數據來自環境保護署(EPA)。

當我向聊天介面能耗詢問紐約市天氣時,它告知我的查詢使用了約9.5%的手機電量。點擊此估計,我可看到其他等效比較,如45分鐘的LED燈泡使用、1.21秒的微波爐使用和0.15秒的烤麵包機能耗。隨著對話繼續,機器人在聊天視窗底部顯示總能耗和持續時間。
儘管我的查詢簡單,但需網路連線,機器人缺乏此功能,可能解釋為何回應耗時90秒且能耗高於預期。即使是估計值,45分鐘的LED燈泡使用量也顯得驚人,凸顯更複雜多步驟提示的能耗需求。
雖然只有AI公司擁有其系統能耗的精確數據,但研究顯示需求正上升。2024年國際能源署報告預測,到2026年全球電力需求將增長3.4%,部分由資料中心擴張驅動。伯克利實驗室報告同樣預測,2023至2028年間資料中心增長率為「13%至27%」。
此工具的發布突顯了Hugging Face等開源平台與較為保密的AI公司的差異。「透過AI能源評分等項目及對AI能耗足跡的廣泛研究,我們在開源社群推動透明度,」聊天創作者在公告中表示。「有朝一日,能耗數據可能像食品營養標籤一樣清晰可見!」
如何親自體驗
您可在此體驗聊天機器人,並在Google Gemma 3、Meta的Llama 3.3和Mistral Nemo Instruct等多種開源模型間切換。
對更多AI故事感興趣?訂閱我們的每周新聞信Innovation。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
プロンプト1つでこれだけ電力を使うの?🤯 普段何気なく質問してるけど、裏では莫大なエネルギー消費があったなんて考えるとゾッとします。環境負荷を無視してAIの進化を語るのは無理がある気がします。透明性のあるツール開発は素晴らしいですが、ユーザー側も消費意識を持つべきですね。
Interesting tool! But I'm curious: how accurate is it? The energy measurement must be tricky with all the server overhead. 😅
Honestly never thought about how much energy one ChatGPT question uses 😳 This makes me reconsider spamming 'regenerate response' so much. The environmental impact of AI is kinda scary when you think about it...
Wow, the energy consumption per chat is surprisingly high! We often overlook the environmental footprint of these AI tools. This makes me wonder how sustainable the current AI boom really is. 🌍
Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.





首頁






