Chatgpt的能源使用低於預期

ChatGPT，來自OpenAI的聊天機器人，可能並非我們原先認為的能源消耗大戶。但根據一項新研究，其能源使用量會因使用方式及回答問題的AI模型而有很大差異。

非營利研究團體Epoch AI嘗試計算一次典型的ChatGPT查詢消耗多少能源。你可能聽說ChatGPT回答單一問題需要約3瓦時的能量，是Google搜尋的10倍。但Epoch認為這有些誇大。

以OpenAI的最新預設模型GPT-4o為基準，Epoch發現平均每次ChatGPT查詢實際上僅使用約0.3瓦時的能量。這比許多家用電器所需的能量還少。

「與使用普通電器、家中供暖或冷卻、或開車相比，能源使用量真的不算什麼大問題，」Epoch的數據分析師Joshua You在接受TechCrunch採訪時表示。

隨著AI公司瘋狂擴建數據中心，AI的能源使用及其對環境的影響成為熱門話題。就在上週，超過100個組織簽署了一封公開信，敦促AI行業和監管機構確保新的AI數據中心不會耗盡自然資源，並迫使公用事業依賴非可再生能源。

You對TechCrunch表示，他的分析是由他認為過時的研究引發的。他指出，得出3瓦時估計的報告假設OpenAI使用的是較舊、效率較低的晶片來運行其模型。

「我看到許多公開討論正確地認識到AI在未來幾年將消耗大量能源，但並未準確描述當前AI的能源消耗，」You說。「此外，我的一些同事注意到，最廣泛報導的每次查詢3瓦時的估計是基於相當老舊的研究，根據一些簡單計算似乎過高。」

當然，Epoch的0.3瓦時數字也只是一個估計。OpenAI尚未分享進行精確計算所需的細節。

該分析也未考慮ChatGPT功能（如圖像生成或處理長輸入）帶來的額外能源成本。You承認，「長輸入」的ChatGPT查詢——例如那些附帶長文件的查詢——可能比典型問題提前使用更多電力。

You表示，他確實預計ChatGPT的基礎功耗會上升。

「AI將變得更先進，訓練這些AI可能需要更多能源，未來AI可能會被更密集地使用——處理更多任務，以及比現在人們使用ChatGPT時更複雜的任務，」You說。

雖然近期在AI效率方面取得了一些重大突破，但預計AI使用的規模將推動龐大、耗電的基礎設施增長。根據Rand報告，未來兩年，AI數據中心可能需要接近加州2022年電力容量（68 GW）的全部。報告預測，到2030年，訓練一個前沿模型可能需要相當於八座核電站的電力（8 GW）。

ChatGPT本身就影響了大量用戶，且這個數字還在增長，這意味著其伺服器需求巨大。OpenAI與多家投資夥伴計劃在未來幾年投入數十億美元於新的AI數據中心項目。

OpenAI以及整個AI行業的焦點正轉向推理模型。這些模型能執行更多任務，但需要更多運算能力來運行。與像GPT-4o這樣幾乎立即回答查詢的模型不同，推理模型在回答前需要「思考」數秒至數分鐘，這消耗更多運算能力——因而使用更多能源。

「推理模型將越來越多地承擔舊模型無法完成的任務，並生成更多數據來實現這一點，這都需要更多數據中心，」You說。

OpenAI已開始推出更省電的推理模型，如o3-mini。但至少目前看來，這些效率提升不太可能抵消推理模型「思考」過程及全球AI使用量增長所帶來的增加的電力需求。

You建議，如果你擔心自己的AI能源足跡，應該減少使用像ChatGPT這樣的應用程式，或者選擇使用較少運算能力的模型——如果可能的話。

「你可以嘗試使用像[OpenAI的] GPT-4o-mini這樣較小的AI模型，」You說，「並以需要處理或生成大量數據的方式謹慎使用它們。」