Chatgpt的能源使用低於預期

來自Openai的聊天機器人Chatgpt可能不是我們認為的能量吉茲勒。但是，根據一項新的研究，它的能源使用可能會有很大差異，這取決於它的使用方式以及AI模型正在回答問題。

非營利性研究小組Epoch AI弄清楚了典型的Chatgpt查詢用途的量。您可能已經聽說Chatgpt需要大約3瓦小時來回答一個問題，這是Google搜索的10倍。但是時代認為這有點誇大了。

使用OpenAI的最新默認型號GPT-4O作為基準測試，Epoch發現，平均CHATGPT查詢實際上使用了約0.3瓦的小時。這比許多家用電器所需的要少。

“與使用普通電器，加熱或冷卻房屋或開車相比，能源使用實際上並不重要，” Epoch的數據分析師Joshua You告訴TechCrunch。

AI的能源使用及其對環境的影響是一個熱門話題，因為AI公司希望像瘋狂一樣擴大其數據中心。就在上週，超過100個組織簽署了一封公開信，敦促AI行業和監管機構確保新的AI數據中心不會耗儘自然資源，並迫使公用事業依靠不可再生能源。

您告訴TechCrunch，他認為他的分析是他所說的過時的研究。他指出，提出的3瓦小時估計的報告認為Openai使用了較舊的，效率低的芯片來運行其型號。

您說：“我已經看到很多公開的話語正確地認識到，在未來幾年中，AI將消耗大量精力，但並沒有真正準確地描述今天對AI的能量。” “此外，我的一些同事注意到，最廣泛報導的每個查詢3瓦小時的估計是基於相當古老的研究，並且基於一些餐巾紙，似乎太高了。”

當然，時代的0.3瓦小時數也只是一個估計。 Openai尚未分享進行精確計算所需的詳細信息。

該分析還沒有考慮到圖像生成或處理長輸入等CHATGPT功能的額外能源成本。您承認“長輸入” chatgpt查詢（就像附加長文件的查詢一樣）可能比典型的問題使用更多的電力。

您說他確實希望Chatgpt的基線功耗會上升。

您說：“ \ [\ \] AI將變得更加先進，訓練該AI可能需要更多的精力，並且這種未來的AI可能會更加強烈地使用 - 處理更多的任務和更複雜的任務，而不是當今的人們如何使用CHATGPT。”

儘管最近在AI效率上取得了一些很酷的突破，但預計使用AI的規模將推動巨大的渴望強大的基礎設施增長。根據RAND報告，在接下來的兩年中，AI數據中心可能需要幾乎所有加利福尼亞州2022年的電力容量（68 GW）。報告預測，到2030年，培訓邊界模型可能需要等於八個核反應堆（8 GW）的功率。

僅CHATGPT就會達到大量的人，而且這個數字僅在增長，這意味著其服務器的需求是巨大的。 Openai與幾個投資合作夥伴一起計劃在未來幾年內花費數十億美元在新的AI數據中心項目上。

Openai的重點以及AI行業的其餘部分正在轉移到推理模型。這些模型可以執行更多任務，但需要更多的計算能力才能運行。與諸如GPT-4O之類的模型幾乎立即詢問的模型不同，在回答前幾秒鐘到幾分鐘，推理模型就會“思考”，它消耗了更多的計算能力，從而增加了能量。

您說：“推理模型將越來越多地承擔較舊模型無法做到的任務，並生成更多\ [Data \]來做到這一點，並且都需要更多的數據中心。”

OpenAI已開始發布更高的推理推理模型，例如O3-Mini。但是，至少至少現在，這些效率的提高似乎不太可能抵消推理模型的“思考”過程和世界各地AI日益增長的使用的力量需求。

您建議，如果您擔心自己的AI Energy足跡，則應使用諸如Chatgpt之類的應用程序少，或者選擇使用較少計算能力的型號 - 如果可能的話。

您說：“您可以嘗試使用\ [OpenAi's \] GPT-4O-Mini之類的較小的AI模型，”您說，並以需要處理或生成大量數據的方式謹慎使用它們。 ”