Chatgpt的能源使用低于预期

来自Openai的聊天机器人Chatgpt可能不是我们认为的能量吉兹勒。但是，根据一项新的研究，它的能源使用可能会有很大差异，这取决于它的使用方式以及AI模型正在回答问题。

非营利性研究小组Epoch AI弄清楚了典型的Chatgpt查询用途的量。您可能已经听说Chatgpt需要大约3瓦小时来回答一个问题，这是Google搜索的10倍。但是时代认为这有点夸大了。

使用OpenAI的最新默认型号GPT-4O作为基准测试，Epoch发现，平均CHATGPT查询实际上使用了约0.3瓦的小时。这比许多家用电器所需的要少。

“与使用普通电器，加热或冷却房屋或开车相比，能源使用实际上并不重要，” Epoch的数据分析师Joshua You告诉TechCrunch。

AI的能源使用及其对环境的影响是一个热门话题，因为AI公司希望像疯狂一样扩大其数据中心。就在上周，超过100个组织签署了一封公开信，敦促AI行业和监管机构确保新的AI数据中心不会耗尽自然资源，并迫使公用事业依靠不可再生能源。

您告诉TechCrunch，他认为他的分析是他所说的过时的研究。他指出，提出的3瓦小时估计的报告认为Openai使用了较旧的，效率低的芯片来运行其型号。

您说：“我已经看到很多公开的话语正确地认识到，在未来几年中，AI将消耗大量精力，但并没有真正准确地描述今天对AI的能量。” “此外，我的一些同事注意到，最广泛报道的每个查询3瓦小时的估计是基于相当古老的研究，并且基于一些餐巾纸，似乎太高了。”

当然，时代的0.3瓦小时数也只是一个估计。 Openai尚未分享进行精确计算所需的详细信息。

该分析还没有考虑到图像生成或处理长输入等CHATGPT功能的额外能源成本。您承认“长输入” chatgpt查询（就像附加长文件的查询一样）可能比典型的问题使用更多的电力。

您说他确实希望Chatgpt的基线功耗会上升。

您说：“ \ [\ \] AI将变得更加先进，训练该AI可能需要更多的精力，并且这种未来的AI可能会更加强烈地使用 - 处理更多的任务和更复杂的任务，而不是当今的人们如何使用CHATGPT。”

尽管最近在AI效率上取得了一些很酷的突破，但预计使用AI的规模将推动巨大的渴望强大的基础设施增长。根据RAND报告，在接下来的两年中，AI数据中心可能需要几乎所有加利福尼亚州2022年的电力容量（68 GW）。报告预测，到2030年，培训边界模型可能需要等于八个核反应堆（8 GW）的功率。

仅CHATGPT就会达到大量的人，而且这个数字仅在增长，这意味着其服务器的需求是巨大的。 Openai与几个投资合作伙伴一起计划在未来几年内花费数十亿美元在新的AI数据中心项目上。

Openai的重点以及AI行业的其余部分正在转移到推理模型。这些模型可以执行更多任务，但需要更多的计算能力才能运行。与诸如GPT-4O之类的模型几乎立即询问的模型不同，在回答前几秒钟到几分钟，推理模型就会“思考”，它消耗了更多的计算能力，从而增加了能量。

您说：“推理模型将越来越多地承担较旧模型无法做到的任务，并生成更多\ [Data \]来做到这一点，并且都需要更多的数据中心。”

OpenAI已开始发布更高的推理推理模型，例如O3-Mini。但是，至少至少现在，这些效率的提高似乎不太可能抵消推理模型的“思考”过程和世界各地AI日益增长的使用的力量需求。

您建议，如果您担心自己的AI Energy足迹，则应使用诸如Chatgpt之类的应用程序少，或者选择使用较少计算能力的型号 - 如果可能的话。

您说：“您可以尝试使用\ [OpenAi's \] GPT-4O-Mini之类的较小的AI模型，”您说，并以需要处理或生成大量数据的方式谨慎使用它们。”