選項
首頁
新聞
AI工具揭示了單個聊天機器人提示的能耗

AI工具揭示了單個聊天機器人提示的能耗

2025-04-27
111

AI系統以高能耗著稱,但精確計算其能耗,特別是單個聊天機器人查詢的能耗,仍難以捉摸。為了解決此問題,Hugging Face的一位工程師開發了一款工具,旨在揭示這些隱藏成本。

AI基礎設施的語言常顯抽象,頻繁提及「雲端」等空靈隱喻。然而,這層面紗下隱藏的是高能耗的電腦現實。AI系統需以極快速度執行複雜計算,依賴強大晶片、多個GPU和龐大資料中心。每次向ChatGPT提問,這些元件即啟動,消耗電力。因此,許多聊天機器人對免費層級設使用限制——電力成本使這些服務的運算成本高昂。

聊天介面能耗

為釐清這一模糊領域,Hugging Face的工程師Julien Delavande創建了一款AI聊天介面,顯示對話的即時能耗估計。此工具不僅比較不同模型、任務和請求的能耗,還突顯需推理的提示可能比簡單事實查詢消耗更多能量。介面以瓦時和焦耳等易懂單位呈現能耗,並提供更具體的比較,如手機電量百分比或行車時間,數據來自環境保護署(EPA)。

向Hugging Face的聊天機器人(運行Qwen/Qwen2.5-VL-7B-Instruct)詢問天氣使用了約9.5%的手機電量。截圖由Radhika Rajkumar/ZDNET提供

當我向聊天介面能耗詢問紐約市天氣時,它告知我的查詢使用了約9.5%的手機電量。點擊此估計,我可看到其他等效比較,如45分鐘的LED燈泡使用、1.21秒的微波爐使用和0.15秒的烤麵包機能耗。隨著對話繼續,機器人在聊天視窗底部顯示總能耗和持續時間。

儘管我的查詢簡單,但需網路連線,機器人缺乏此功能,可能解釋為何回應耗時90秒且能耗高於預期。即使是估計值,45分鐘的LED燈泡使用量也顯得驚人,凸顯更複雜多步驟提示的能耗需求。

雖然只有AI公司擁有其系統能耗的精確數據,但研究顯示需求正上升。2024年國際能源署報告預測,到2026年全球電力需求將增長3.4%,部分由資料中心擴張驅動。伯克利實驗室報告同樣預測,2023至2028年間資料中心增長率為「13%至27%」。

此工具的發布突顯了Hugging Face等開源平台與較為保密的AI公司的差異。「透過AI能源評分等項目及對AI能耗足跡的廣泛研究,我們在開源社群推動透明度,」聊天創作者在公告中表示。「有朝一日,能耗數據可能像食品營養標籤一樣清晰可見!」

如何親自體驗

您可在此體驗聊天機器人,並在Google Gemma 3、Meta的Llama 3.3和Mistral Nemo Instruct等多種開源模型間切換。

對更多AI故事感興趣?訂閱我們的每周新聞信Innovation。

相關文章
製作教育資訊圖表的最佳 AI 工具 - 設計技巧與技術 製作教育資訊圖表的最佳 AI 工具 - 設計技巧與技術 在現今數位驅動的教育環境中,資訊圖表已成為一種轉化的溝通媒介,可將複雜的資訊轉換為視覺上吸引人、容易理解的格式。AI 技術正在徹底改變教育工作者製作這些視覺學習輔助工具的方式,讓所有人都能使用專業等級的設計,同時大幅縮短製作時間。本論文深入探討 ChatGPT 等尖端 AI 解決方案,這些解決方案透過簡化的工作流程、創意自動化和智慧型設計協助,讓教師和內容創造者能夠製作吸引人的教育資訊圖表。重點利
Topaz DeNoise AI:2025 年最佳降噪工具 - 完整指南 Topaz DeNoise AI:2025 年最佳降噪工具 - 完整指南 在競爭激烈的數位攝影世界中,影像的清晰度仍然是最重要的。各種技術層級的攝影師都要面對數位雜訊的問題,這些雜訊會影響原本優異的拍攝效果。Topaz DeNoise AI 是最先進的解決方案,利用人工智慧來降低雜訊,同時保留關鍵細節。本深入評論將探討此創新軟體如何在 2025 年改變您的攝影工作流程,並檢視其主要功能、實用應用與工作流程整合。重點Topaz DeNoise AI 利用人工智慧有效消除影
Master Emerald Kaizo Nuzlocke:終極生存與策略指南 Master Emerald Kaizo Nuzlocke:終極生存與策略指南 Emerald Kaizo 是有史以來最強大的 Pokémon ROM hacks 之一。雖然嘗試執行 Nuzlocke 會使挑戰成倍增加,但透過縝密的規劃和策略執行,勝利仍然是可以實現的。這本權威指南提供在 Hardcore Nuzlocke 規則下征服 Emerald Kaizo 的必要工具、經過實戰考驗的戰術以及深入的 AI 分析。準備好迎接 Pokémon 精通的終極考驗吧!基本策略收集關
評論 (7)
0/200
WillMitchell
WillMitchell 2025-09-16 20:30:48

Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.

ScottGarcía
ScottGarcía 2025-07-28 09:20:21

This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!

WillieRamirez
WillieRamirez 2025-04-28 12:18:34

Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍

MarkScott
MarkScott 2025-04-27 10:54:20

Этот инструмент ИИ от Hugging Face открывает глаза! Удивительно видеть, сколько энергии может потреблять один запрос чат-бота. Заставляет дважды подумать о таких неформальных беседах. Мог бы использовать более удобный интерфейс, но всё равно, это довольно круто! 🌍

JonathanAllen
JonathanAllen 2025-04-27 10:14:09

Cet outil d'IA de Hugging Face est révélateur ! C'est fou de voir combien d'énergie une seule requête de chatbot peut consommer. Ça vous fait réfléchir à deux fois sur ces discussions occasionnelles. Il pourrait utiliser une interface un peu plus conviviale, mais quand même, c'est plutôt cool ! 🌍

JackPerez
JackPerez 2025-04-27 07:31:51

This AI tool from Hugging Face is eye-opening! It's wild to see how much energy a single chatbot prompt can consume. Makes you think twice about those casual chats. Could use a bit more user-friendly interface though, but still, it's pretty cool! 🌍

回到頂部
OR