AI工具揭示了单个聊天机器人提示的能耗
人工智能系统以高能耗著称，但精确测定其能耗，尤其是单个聊天机器人查询的能耗，仍难以捉摸。为解决这一问题，Hugging Face 的一名工程师开发了一种工具，旨在揭示这些隐藏成本。
人工智能基础设施的语言常显得虚无缥缈，频繁提及“云”和其他轻盈的比喻。然而，这层面纱下隐藏着高能耗计算机的现实。人工智能系统需以极快速度执行复杂计算，依赖强大芯片、多个GPU和庞大数据中心。每次向ChatGPT提问，这些组件都会启动，消耗电能。这就是许多聊天机器人对免费层级施加使用限制的原因——电费成本使得托管这些服务的公司开支昂贵。
聊天界面能耗
为了澄清这一模糊领域，Hugging Face 的工程师 Julien Delavande 创建了一个人工智能聊天界面，实时显示对话的能耗估算。该工具不仅比较不同模型、任务和请求的能耗，还突出显示需要推理的提示可能比简单事实查询消耗更多能量。界面以可理解的单位（如瓦时和焦耳）展示能耗，并提供更直观的比较，如手机电量的百分比或行驶时间，数据来源于环境保护署（EPA）。
当我通过聊天界面能耗询问纽约市的天气时，它告诉我该查询消耗了约9.5%的手机电量。点击此估算值，我可以看到其他等效比较，如45分钟的LED灯泡使用、1.21秒的微波炉使用和0.15秒的烤面包机能耗。随着对话继续，机器人在聊天窗口底部显示总能耗和持续时间。
尽管我的查询简单，但需要互联网连接，而机器人缺乏此功能，这可能解释了为何响应耗时90秒且能耗高于预期。即使是估算值，45分钟的LED灯泡使用量也显得惊人，让人们重新审视更复杂、多步骤提示的能耗需求。
虽然只有人工智能公司拥有其系统能耗的精确数据，但研究表明需求正在上升。2024年国际能源署报告预测，到2026年全球电力需求将增长3.4%，部分原因是数据中心的扩张。同样，伯克利实验室报告预计2023至2028年间数据中心增长率将达“13%至27%”。
该工具的发布凸显了 Hugging Face 等开源平台与更封闭的人工智能公司之间的差异。聊天机器人的创建者在公告中表示：“通过 AI Energy Score 等项目和对人工智能能耗足迹的广泛研究，我们在开源社区推动透明度。未来，能耗信息可能像食品营养标签一样清晰可见！”
如何亲自尝试
您可以此处体验该聊天机器人，并切换不同开源模型，包括 Google Gemma 3、Meta 的 Llama 3.3 和 Mistral Nemo Instruct。
想了解更多人工智能故事？订阅我们的每周简讯 Innovation。
相关文章
MCP：开放标准如何重塑AI创新
更大的模型并非推动下一次AI突破的关键。真正的变革因素是微妙的：标准化。Anthropic于2024年11月推出的模型上下文协议（MCP）为AI应用与训练数据之外的外部工具交互创建了一个统一的框架。类似于HTTP和REST简化了网络服务连接，MCP标准化了AI工具的集成。你可能已经见过无数关于MCP机制的解释。但常常被忽视的是它的低调力量：MCP是一种标准。标准不仅整理技术——它们还能引发指数级增
当前UX设计趋势与挑战：AI角色的揭示
UX行业正在迅速转型，既带来机遇也带来障碍。本指南深入探讨当前UX格局，提供专家见解，指导如何应对就业市场、解决行业挑战以及评估AI的影响。无论您是经验丰富的UX设计师还是新手，此资源都提供成功应对当今动态环境所需的关键视角。关键要点UX就业市场竞争激烈，对多样化技能的需求不断增长。许多UX设计师担心AI会自动化他们的角色。保持对新兴趋势和技术的更新对于竞争力至关重要。UX心理学在理解用户和打造有
Replit与微软建立战略云合作
Replit于周二宣布与微软建立战略联盟，有望推动双方增长。Replit现可通过微软的Azure Marketplace访问，使微软企业客户能够无缝购买订阅。Replit还在将其平台与微软云服务整合，包括容器、虚拟机和Neon Serverless Postgres，这是微软支持的Replit数据库版本。此次整合使Azure能够从Replit在生产环境中部署的应用中获得收入。虽然微软提供GitHu
评论 (6)
0/200
![ScottGarcía]()
ScottGarcía
2025-07-28 09:20:21
This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!
0
![WillieRamirez]()
WillieRamirez
2025-04-28 12:18:34
Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍
0
![MarkScott]()
MarkScott
2025-04-27 10:54:20
Этот инструмент ИИ от Hugging Face открывает глаза! Удивительно видеть, сколько энергии может потреблять один запрос чат-бота. Заставляет дважды подумать о таких неформальных беседах. Мог бы использовать более удобный интерфейс, но всё равно, это довольно круто! 🌍
0
![JonathanAllen]()
JonathanAllen
2025-04-27 10:14:09
Cet outil d'IA de Hugging Face est révélateur ! C'est fou de voir combien d'énergie une seule requête de chatbot peut consommer. Ça vous fait réfléchir à deux fois sur ces discussions occasionnelles. Il pourrait utiliser une interface un peu plus conviviale, mais quand même, c'est plutôt cool ! 🌍
0
![JackPerez]()
JackPerez
2025-04-27 07:31:51
This AI tool from Hugging Face is eye-opening! It's wild to see how much energy a single chatbot prompt can consume. Makes you think twice about those casual chats. Could use a bit more user-friendly interface though, but still, it's pretty cool! 🌍
0
![RogerGonzalez]()
RogerGonzalez
2025-04-27 03:11:46
¡Esta herramienta de IA de Hugging Face es reveladora! Es increíble ver cuánta energía puede consumir una sola consulta de chatbot. Te hace pensar dos veces sobre esas charlas casuales. Podría usar una interfaz un poco más amigable para el usuario, pero aún así, ¡es bastante genial! 🌍
0
人工智能系统以高能耗著称，但精确测定其能耗，尤其是单个聊天机器人查询的能耗，仍难以捉摸。为解决这一问题，Hugging Face 的一名工程师开发了一种工具，旨在揭示这些隐藏成本。
人工智能基础设施的语言常显得虚无缥缈，频繁提及“云”和其他轻盈的比喻。然而，这层面纱下隐藏着高能耗计算机的现实。人工智能系统需以极快速度执行复杂计算，依赖强大芯片、多个GPU和庞大数据中心。每次向ChatGPT提问，这些组件都会启动，消耗电能。这就是许多聊天机器人对免费层级施加使用限制的原因——电费成本使得托管这些服务的公司开支昂贵。
聊天界面能耗
为了澄清这一模糊领域，Hugging Face 的工程师 Julien Delavande 创建了一个人工智能聊天界面，实时显示对话的能耗估算。该工具不仅比较不同模型、任务和请求的能耗，还突出显示需要推理的提示可能比简单事实查询消耗更多能量。界面以可理解的单位（如瓦时和焦耳）展示能耗，并提供更直观的比较，如手机电量的百分比或行驶时间，数据来源于环境保护署（EPA）。
当我通过聊天界面能耗询问纽约市的天气时，它告诉我该查询消耗了约9.5%的手机电量。点击此估算值，我可以看到其他等效比较，如45分钟的LED灯泡使用、1.21秒的微波炉使用和0.15秒的烤面包机能耗。随着对话继续，机器人在聊天窗口底部显示总能耗和持续时间。
尽管我的查询简单，但需要互联网连接，而机器人缺乏此功能，这可能解释了为何响应耗时90秒且能耗高于预期。即使是估算值，45分钟的LED灯泡使用量也显得惊人，让人们重新审视更复杂、多步骤提示的能耗需求。
虽然只有人工智能公司拥有其系统能耗的精确数据，但研究表明需求正在上升。2024年国际能源署报告预测，到2026年全球电力需求将增长3.4%，部分原因是数据中心的扩张。同样，伯克利实验室报告预计2023至2028年间数据中心增长率将达“13%至27%”。
该工具的发布凸显了 Hugging Face 等开源平台与更封闭的人工智能公司之间的差异。聊天机器人的创建者在公告中表示：“通过 AI Energy Score 等项目和对人工智能能耗足迹的广泛研究，我们在开源社区推动透明度。未来，能耗信息可能像食品营养标签一样清晰可见！”
如何亲自尝试
您可以此处体验该聊天机器人，并切换不同开源模型，包括 Google Gemma 3、Meta 的 Llama 3.3 和 Mistral Nemo Instruct。
想了解更多人工智能故事？订阅我们的每周简讯 Innovation。
MCP：开放标准如何重塑AI创新
更大的模型并非推动下一次AI突破的关键。真正的变革因素是微妙的：标准化。Anthropic于2024年11月推出的模型上下文协议（MCP）为AI应用与训练数据之外的外部工具交互创建了一个统一的框架。类似于HTTP和REST简化了网络服务连接，MCP标准化了AI工具的集成。你可能已经见过无数关于MCP机制的解释。但常常被忽视的是它的低调力量：MCP是一种标准。标准不仅整理技术——它们还能引发指数级增
当前UX设计趋势与挑战：AI角色的揭示
UX行业正在迅速转型，既带来机遇也带来障碍。本指南深入探讨当前UX格局，提供专家见解，指导如何应对就业市场、解决行业挑战以及评估AI的影响。无论您是经验丰富的UX设计师还是新手，此资源都提供成功应对当今动态环境所需的关键视角。关键要点UX就业市场竞争激烈，对多样化技能的需求不断增长。许多UX设计师担心AI会自动化他们的角色。保持对新兴趋势和技术的更新对于竞争力至关重要。UX心理学在理解用户和打造有
Replit与微软建立战略云合作
Replit于周二宣布与微软建立战略联盟，有望推动双方增长。Replit现可通过微软的Azure Marketplace访问，使微软企业客户能够无缝购买订阅。Replit还在将其平台与微软云服务整合，包括容器、虚拟机和Neon Serverless Postgres，这是微软支持的Replit数据库版本。此次整合使Azure能够从Replit在生产环境中部署的应用中获得收入。虽然微软提供GitHu
2025-07-28 09:20:21
This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!
0
2025-04-28 12:18:34
Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍
0
2025-04-27 10:54:20
Этот инструмент ИИ от Hugging Face открывает глаза! Удивительно видеть, сколько энергии может потреблять один запрос чат-бота. Заставляет дважды подумать о таких неформальных беседах. Мог бы использовать более удобный интерфейс, но всё равно, это довольно круто! 🌍
0
2025-04-27 10:14:09
Cet outil d'IA de Hugging Face est révélateur ! C'est fou de voir combien d'énergie une seule requête de chatbot peut consommer. Ça vous fait réfléchir à deux fois sur ces discussions occasionnelles. Il pourrait utiliser une interface un peu plus conviviale, mais quand même, c'est plutôt cool ! 🌍
0
2025-04-27 07:31:51
This AI tool from Hugging Face is eye-opening! It's wild to see how much energy a single chatbot prompt can consume. Makes you think twice about those casual chats. Could use a bit more user-friendly interface though, but still, it's pretty cool! 🌍
0
2025-04-27 03:11:46
¡Esta herramienta de IA de Hugging Face es reveladora! Es increíble ver cuánta energía puede consumir una sola consulta de chatbot. Te hace pensar dos veces sobre esas charlas casuales. Podría usar una interfaz un poco más amigable para el usuario, pero aún así, ¡es bastante genial! 🌍
0
