选项
首页
新闻
AI工具揭示了单个聊天机器人提示的能耗

AI工具揭示了单个聊天机器人提示的能耗

2025-04-27
111

人工智能系统以高能耗著称,但精确测定其能耗,尤其是单个聊天机器人查询的能耗,仍难以捉摸。为解决这一问题,Hugging Face 的一名工程师开发了一种工具,旨在揭示这些隐藏成本。

人工智能基础设施的语言常显得虚无缥缈,频繁提及“云”和其他轻盈的比喻。然而,这层面纱下隐藏着高能耗计算机的现实。人工智能系统需以极快速度执行复杂计算,依赖强大芯片、多个GPU和庞大数据中心。每次向ChatGPT提问,这些组件都会启动,消耗电能。这就是许多聊天机器人对免费层级施加使用限制的原因——电费成本使得托管这些服务的公司开支昂贵。

聊天界面能耗

为了澄清这一模糊领域,Hugging Face 的工程师 Julien Delavande 创建了一个人工智能聊天界面,实时显示对话的能耗估算。该工具不仅比较不同模型、任务和请求的能耗,还突出显示需要推理的提示可能比简单事实查询消耗更多能量。界面以可理解的单位(如瓦时和焦耳)展示能耗,并提供更直观的比较,如手机电量的百分比或行驶时间,数据来源于环境保护署(EPA)。

询问 Hugging Face 的聊天机器人(运行 Qwen/Qwen2.5-VL-7B-Instruct)关于天气,消耗了约9.5%的手机电量。截图由 Radhika Rajkumar/ZDNET 提供

当我通过聊天界面能耗询问纽约市的天气时,它告诉我该查询消耗了约9.5%的手机电量。点击此估算值,我可以看到其他等效比较,如45分钟的LED灯泡使用、1.21秒的微波炉使用和0.15秒的烤面包机能耗。随着对话继续,机器人在聊天窗口底部显示总能耗和持续时间。

尽管我的查询简单,但需要互联网连接,而机器人缺乏此功能,这可能解释了为何响应耗时90秒且能耗高于预期。即使是估算值,45分钟的LED灯泡使用量也显得惊人,让人们重新审视更复杂、多步骤提示的能耗需求。

虽然只有人工智能公司拥有其系统能耗的精确数据,但研究表明需求正在上升。2024年国际能源署报告预测,到2026年全球电力需求将增长3.4%,部分原因是数据中心的扩张。同样,伯克利实验室报告预计2023至2028年间数据中心增长率将达“13%至27%”。

该工具的发布凸显了 Hugging Face 等开源平台与更封闭的人工智能公司之间的差异。聊天机器人的创建者在公告中表示:“通过 AI Energy Score 等项目和对人工智能能耗足迹的广泛研究,我们在开源社区推动透明度。未来,能耗信息可能像食品营养标签一样清晰可见!”

如何亲自尝试

您可以此处体验该聊天机器人,并切换不同开源模型,包括 Google Gemma 3、Meta 的 Llama 3.3 和 Mistral Nemo Instruct。

想了解更多人工智能故事?订阅我们的每周简讯 Innovation。

相关文章
人工智能配音演员因生成式人工智能行业的伦理问题而罢工 人工智能配音演员因生成式人工智能行业的伦理问题而罢工 人工智能的出现正在重塑全球各行各业,为创意领域带来了机遇和挑战。这种紧张关系最明显的莫过于配音演员,人工智能技术正在引发有关工作保障、创意完整性和道德界限的激烈争论。当前的人工智能配音演员罢工事件是一个重要的案例研究,揭示了在技术不断发展的世界中艺术劳动的基本问题。要点人工智能配音演员罢工凸显了在向自动化解决方案过渡的创意领域中日益严重的道德困境。这场劳工运动凸显了人们对数字时代公平薪酬、就业稳定
Fotor AI 视频生成器将文字和图片瞬间转换成令人惊叹的视频 Fotor AI 视频生成器将文字和图片瞬间转换成令人惊叹的视频 在当今数字优先的时代,视频内容已成为无可争议的参与之王。传统的专业视频制作需要专业技能和昂贵的软件,而 Fotor 的人工智能视频生成器颠覆了这一模式,让任何人都能通过简单的文字描述和图片制作出令人惊叹的视频。这款创新工具非常适合营销人员、教育工作者和内容创作者,它消除了技术障碍,让您专注于讲故事,而人工智能则负责复杂的制作。了解这一尖端解决方案如何实现高质量视频创作的民主化。主要功能Fotor
掌握稳定扩散多重绘制:终极 AI 图像编辑指南 掌握稳定扩散多重绘制:终极 AI 图像编辑指南 人工智能正在改变数字图像处理,人工智能驱动的内绘技术正在成为无缝照片编辑和创意增强的革命性技术。稳定扩散多重内画利用先进的扩散模型智能地移除或替换图像元素,同时保持原始的质量和背景。本综合指南探讨了这一尖端工具的功能、实际应用以及现代视觉内容创作的道德考量。要点AI Inpainting(人工智能涂色)可精确移除对象和替换内容,实现逼真的效果。稳定的漫反射多重涂色将漫反射模型与直观的遮罩相结合,可
评论 (7)
0/200
WillMitchell
WillMitchell 2025-09-16 20:30:48

Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.

ScottGarcía
ScottGarcía 2025-07-28 09:20:21

This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!

WillieRamirez
WillieRamirez 2025-04-28 12:18:34

Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍

MarkScott
MarkScott 2025-04-27 10:54:20

Этот инструмент ИИ от Hugging Face открывает глаза! Удивительно видеть, сколько энергии может потреблять один запрос чат-бота. Заставляет дважды подумать о таких неформальных беседах. Мог бы использовать более удобный интерфейс, но всё равно, это довольно круто! 🌍

JonathanAllen
JonathanAllen 2025-04-27 10:14:09

Cet outil d'IA de Hugging Face est révélateur ! C'est fou de voir combien d'énergie une seule requête de chatbot peut consommer. Ça vous fait réfléchir à deux fois sur ces discussions occasionnelles. Il pourrait utiliser une interface un peu plus conviviale, mais quand même, c'est plutôt cool ! 🌍

JackPerez
JackPerez 2025-04-27 07:31:51

This AI tool from Hugging Face is eye-opening! It's wild to see how much energy a single chatbot prompt can consume. Makes you think twice about those casual chats. Could use a bit more user-friendly interface though, but still, it's pretty cool! 🌍

返回顶部
OR