Chatgpt的能源使用低於預期
ChatGPT,來自OpenAI的聊天機器人,可能並非我們原先認為的能源消耗大戶。但根據一項新研究,其能源使用量會因使用方式及回答問題的AI模型而有很大差異。
非營利研究團體Epoch AI嘗試計算一次典型的ChatGPT查詢消耗多少能源。你可能聽說ChatGPT回答單一問題需要約3瓦時的能量,是Google搜尋的10倍。但Epoch認為這有些誇大。
以OpenAI的最新預設模型GPT-4o為基準,Epoch發現平均每次ChatGPT查詢實際上僅使用約0.3瓦時的能量。這比許多家用電器所需的能量還少。
「與使用普通電器、家中供暖或冷卻、或開車相比,能源使用量真的不算什麼大問題,」Epoch的數據分析師Joshua You在接受TechCrunch採訪時表示。
隨著AI公司瘋狂擴建數據中心,AI的能源使用及其對環境的影響成為熱門話題。就在上週,超過100個組織簽署了一封公開信,敦促AI行業和監管機構確保新的AI數據中心不會耗盡自然資源,並迫使公用事業依賴非可再生能源。
You對TechCrunch表示,他的分析是由他認為過時的研究引發的。他指出,得出3瓦時估計的報告假設OpenAI使用的是較舊、效率較低的晶片來運行其模型。

圖片來源:Epoch AI 「我看到許多公開討論正確地認識到AI在未來幾年將消耗大量能源,但並未準確描述當前AI的能源消耗,」You說。「此外,我的一些同事注意到,最廣泛報導的每次查詢3瓦時的估計是基於相當老舊的研究,根據一些簡單計算似乎過高。」
當然,Epoch的0.3瓦時數字也只是一個估計。OpenAI尚未分享進行精確計算所需的細節。
該分析也未考慮ChatGPT功能(如圖像生成或處理長輸入)帶來的額外能源成本。You承認,「長輸入」的ChatGPT查詢——例如那些附帶長文件的查詢——可能比典型問題提前使用更多電力。
You表示,他確實預計ChatGPT的基礎功耗會上升。
「AI將變得更先進,訓練這些AI可能需要更多能源,未來AI可能會被更密集地使用——處理更多任務,以及比現在人們使用ChatGPT時更複雜的任務,」You說。
雖然近期在AI效率方面取得了一些重大突破,但預計AI使用的規模將推動龐大、耗電的基礎設施增長。根據Rand報告,未來兩年,AI數據中心可能需要接近加州2022年電力容量(68 GW)的全部。報告預測,到2030年,訓練一個前沿模型可能需要相當於八座核電站的電力(8 GW)。
ChatGPT本身就影響了大量用戶,且這個數字還在增長,這意味著其伺服器需求巨大。OpenAI與多家投資夥伴計劃在未來幾年投入數十億美元於新的AI數據中心項目。
OpenAI以及整個AI行業的焦點正轉向推理模型。這些模型能執行更多任務,但需要更多運算能力來運行。與像GPT-4o這樣幾乎立即回答查詢的模型不同,推理模型在回答前需要「思考」數秒至數分鐘,這消耗更多運算能力——因而使用更多能源。
「推理模型將越來越多地承擔舊模型無法完成的任務,並生成更多數據來實現這一點,這都需要更多數據中心,」You說。
OpenAI已開始推出更省電的推理模型,如o3-mini。但至少目前看來,這些效率提升不太可能抵消推理模型「思考」過程及全球AI使用量增長所帶來的增加的電力需求。
You建議,如果你擔心自己的AI能源足跡,應該減少使用像ChatGPT這樣的應用程式,或者選擇使用較少運算能力的模型——如果可能的話。
「你可以嘗試使用像[OpenAI的] GPT-4o-mini這樣較小的AI模型,」You說,「並以需要處理或生成大量數據的方式謹慎使用它們。」
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (34)
0/500
¡Vaya, qué sorpresa! 😮 Siempre pensé que ChatGPT era un monstruo energético, pero parece que no es tan malo. Me pregunto cómo se compara con otros modelos de IA en términos de eficiencia. ¿Habrá un ranking público pronto? Sería muy útil para los usuarios conscientes del medio ambiente.
Wow, ChatGPT’s energy use is lower than I thought! Still, it’s wild how much it varies by model and usage. Makes me wonder how sustainable scaling up AI will be in the long run. 🤔
Surprising to see ChatGPT's energy use isn't as bad as hyped! Still, makes me wonder how much power those massive AI models really burn through when we’re all chatting away. 🤔
A energia usada pelo ChatGPT é surpreendentemente baixa! Pensei que fosse um devorador de energia, mas não é tão ruim assim. Ainda assim, é louco como pode variar muito dependendo do modelo e do uso. Faz você pensar no futuro da IA, né? 🤔 Continuem o bom trabalho, OpenAI!
ChatGPT,來自OpenAI的聊天機器人,可能並非我們原先認為的能源消耗大戶。但根據一項新研究,其能源使用量會因使用方式及回答問題的AI模型而有很大差異。
非營利研究團體Epoch AI嘗試計算一次典型的ChatGPT查詢消耗多少能源。你可能聽說ChatGPT回答單一問題需要約3瓦時的能量,是Google搜尋的10倍。但Epoch認為這有些誇大。
以OpenAI的最新預設模型GPT-4o為基準,Epoch發現平均每次ChatGPT查詢實際上僅使用約0.3瓦時的能量。這比許多家用電器所需的能量還少。
「與使用普通電器、家中供暖或冷卻、或開車相比,能源使用量真的不算什麼大問題,」Epoch的數據分析師Joshua You在接受TechCrunch採訪時表示。
隨著AI公司瘋狂擴建數據中心,AI的能源使用及其對環境的影響成為熱門話題。就在上週,超過100個組織簽署了一封公開信,敦促AI行業和監管機構確保新的AI數據中心不會耗盡自然資源,並迫使公用事業依賴非可再生能源。
You對TechCrunch表示,他的分析是由他認為過時的研究引發的。他指出,得出3瓦時估計的報告假設OpenAI使用的是較舊、效率較低的晶片來運行其模型。

「我看到許多公開討論正確地認識到AI在未來幾年將消耗大量能源,但並未準確描述當前AI的能源消耗,」You說。「此外,我的一些同事注意到,最廣泛報導的每次查詢3瓦時的估計是基於相當老舊的研究,根據一些簡單計算似乎過高。」
當然,Epoch的0.3瓦時數字也只是一個估計。OpenAI尚未分享進行精確計算所需的細節。
該分析也未考慮ChatGPT功能(如圖像生成或處理長輸入)帶來的額外能源成本。You承認,「長輸入」的ChatGPT查詢——例如那些附帶長文件的查詢——可能比典型問題提前使用更多電力。
You表示,他確實預計ChatGPT的基礎功耗會上升。
「AI將變得更先進,訓練這些AI可能需要更多能源,未來AI可能會被更密集地使用——處理更多任務,以及比現在人們使用ChatGPT時更複雜的任務,」You說。
雖然近期在AI效率方面取得了一些重大突破,但預計AI使用的規模將推動龐大、耗電的基礎設施增長。根據Rand報告,未來兩年,AI數據中心可能需要接近加州2022年電力容量(68 GW)的全部。報告預測,到2030年,訓練一個前沿模型可能需要相當於八座核電站的電力(8 GW)。
ChatGPT本身就影響了大量用戶,且這個數字還在增長,這意味著其伺服器需求巨大。OpenAI與多家投資夥伴計劃在未來幾年投入數十億美元於新的AI數據中心項目。
OpenAI以及整個AI行業的焦點正轉向推理模型。這些模型能執行更多任務,但需要更多運算能力來運行。與像GPT-4o這樣幾乎立即回答查詢的模型不同,推理模型在回答前需要「思考」數秒至數分鐘,這消耗更多運算能力——因而使用更多能源。
「推理模型將越來越多地承擔舊模型無法完成的任務,並生成更多數據來實現這一點,這都需要更多數據中心,」You說。
OpenAI已開始推出更省電的推理模型,如o3-mini。但至少目前看來,這些效率提升不太可能抵消推理模型「思考」過程及全球AI使用量增長所帶來的增加的電力需求。
You建議,如果你擔心自己的AI能源足跡,應該減少使用像ChatGPT這樣的應用程式,或者選擇使用較少運算能力的模型——如果可能的話。
「你可以嘗試使用像[OpenAI的] GPT-4o-mini這樣較小的AI模型,」You說,「並以需要處理或生成大量數據的方式謹慎使用它們。」
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
¡Vaya, qué sorpresa! 😮 Siempre pensé que ChatGPT era un monstruo energético, pero parece que no es tan malo. Me pregunto cómo se compara con otros modelos de IA en términos de eficiencia. ¿Habrá un ranking público pronto? Sería muy útil para los usuarios conscientes del medio ambiente.
Wow, ChatGPT’s energy use is lower than I thought! Still, it’s wild how much it varies by model and usage. Makes me wonder how sustainable scaling up AI will be in the long run. 🤔
Surprising to see ChatGPT's energy use isn't as bad as hyped! Still, makes me wonder how much power those massive AI models really burn through when we’re all chatting away. 🤔
A energia usada pelo ChatGPT é surpreendentemente baixa! Pensei que fosse um devorador de energia, mas não é tão ruim assim. Ainda assim, é louco como pode variar muito dependendo do modelo e do uso. Faz você pensar no futuro da IA, né? 🤔 Continuem o bom trabalho, OpenAI!





首頁






