AIツールは、単一のチャットボットプロンプトのエネルギー消費を明らかにします
AIシステムは高いエネルギー消費で知られていますが、特に個々のチャットボットのクエリに対する正確なエネルギー使用量を特定することは困難です。この問題を明らかにするため、Hugging Faceのエンジニアがこれらの隠れたコストを明らかにするツールを開発しました。
AIインフラの「クラウド」などの抽象的な表現に迷い込みがちですが、その裏にはエネルギー集約型のコンピューターが存在します。AIシステムは、複雑な計算を高速で行うため、強力なチップ、複数のGPU、巨大なデータセンターに依存しています。ChatGPTに質問するたびに、これらのコンポーネントが動作し、電力を消費します。このため、多くのチャットボットは無料プランに使用制限を設けています—電力コストがこれらのサービスを提供する企業にとって高額だからです。
チャットUIエネルギー
この不明瞭な領域に光を当てるため、Hugging Faceのエンジニア、ジュリアン・デラヴァンデは、会話のリアルタイムエネルギー使用量の推定を表示するAIチャットインターフェースを作成しました。このツールは、異なるモデル、タスク、リクエストのエネルギー消費を比較するだけでなく、推論を必要とするプロンプトが単純な事実確認クエリよりも多くのエネルギーを消費する可能性があることを示します。インターフェースは、ワット時やジュールといった分かりやすい指標でエネルギー使用量を表示し、電話の充電残量の割合や環境保護庁(EPA)からの運転時間などの具体的な比較も提供します。

チャットUIエネルギーにニューヨーク市の天気を尋ねたところ、クエリが電話の充電量の約9.5%を使用したと表示されました。この推定をクリックすると、LED電球の45分使用、電子レンジの1.21秒使用、トースターの0.15秒使用などの同等の比較が見られました。会話が続くにつれ、ボットはチャットウィンドウの下部に総エネルギー使用量と時間を表示しました。
単純なクエリにもかかわらず、ボットがインターネットアクセスを持っていなかったため、応答に90秒かかり、予想以上のエネルギーを消費した可能性があります。推定値でも、LED電球の45分使用は驚くほど高く、より複雑な複数ステップのプロンプトのエネルギー需要を浮き彫りにします。
AI企業のシステムのエネルギー消費に関する正確なデータはAI企業のみが持ちますが、研究では需要が増加していると示唆されています。2024年の国際エネルギー機関の報告書では、2026年までに世界の電力需要が3.4%増加し、その一部はデータセンターの拡大によるものと予測されています。同様に、バークレー研究所の報告書では、2023年から2028年の間にデータセンターの成長率が「13%から27%」と予測されています。
このツールの公開は、Hugging Faceのようなオープンソースプラットフォームと、より秘密主義のAI企業の違いを強調しています。「AIエネルギースコアやAIのエネルギー足跡に関する広範な研究を通じて、オープンソースコミュニティで透明性を推進しています」と、チャットの作成者は発表で述べました。「いつか、エネルギー使用量は食品の栄養ラベルのように目に見えるものになるかもしれません!」
自分で試す方法
チャットボットをこちらで試し、Google Gemma 3、MetaのLlama 3.3、Mistral Nemo Instructなどのさまざまなオープンソースモデルを切り替えることができます。
AIのストーリーに興味がありますか?毎週のニュースレター、Innovationを購読してください。
関連記事
テキスト翻訳で知られるDeepLが、今度は音声翻訳に注力している
テキスト翻訳ツールで知られる翻訳企業DeepLは本日、カスタムアプリケーションを通じて、会議やモバイル・ウェブ上の会話、現場担当者のグループディスカッションといった場面に対応する音声翻訳スイートをリリースした。 また同社は、外部の開発者や企業がコールセンターなどの特定のユースケースに合わせてDeepLの技術を応用できるようにするAPIも導入した。「長年にわたりテキスト翻訳に注力してきた私たちにとっ
タラットのAI会議メモは、クラウドではなく、お使いのデバイスに保存されます
評価額2億5000万ドルに達するAI搭載ノートアプリ「Granola」は、テック系スタートアップの創業者やベンチャーキャピタリストの間で人気を集めている。しかし、ある開発者は、サブスクリプション制ではなく、一度きりの料金で利用でき、よりプライバシーが守られ、完全にローカルで動作する代替アプリへの需要を見出していた。そのビジョンから生まれたのが、新しいMacアプリ「Talat」だ。イングランドのヨー
新型「Roewe i6」が65万9000元で発売、Snapdragon 8155とDoubaoの大規模モデルを搭載
SAIC Roeweは本日、Roewe D7のデザイン言語を全面的に採用したコンパクトセダン「Roewe i6」を発売した。特徴的な大型の直立型グリルと水平に伸びるハローライトバーがフロント全体を覆い、先進的な技術感と視覚的な広がりを醸し出している。 リアには、上向きのダックテールスポイラーが全幅にわたるテールランプと調和し、車全体により若々しい印象を与えています。新型「Roewe i6」の全長
関連特集おすすめ
コメント (9)
0/500
Honestly never thought about how much energy one ChatGPT question uses 😳 This makes me reconsider spamming 'regenerate response' so much. The environmental impact of AI is kinda scary when you think about it...
Wow, the energy consumption per chat is surprisingly high! We often overlook the environmental footprint of these AI tools. This makes me wonder how sustainable the current AI boom really is. 🌍
Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.
This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!
Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍
AIシステムは高いエネルギー消費で知られていますが、特に個々のチャットボットのクエリに対する正確なエネルギー使用量を特定することは困難です。この問題を明らかにするため、Hugging Faceのエンジニアがこれらの隠れたコストを明らかにするツールを開発しました。
AIインフラの「クラウド」などの抽象的な表現に迷い込みがちですが、その裏にはエネルギー集約型のコンピューターが存在します。AIシステムは、複雑な計算を高速で行うため、強力なチップ、複数のGPU、巨大なデータセンターに依存しています。ChatGPTに質問するたびに、これらのコンポーネントが動作し、電力を消費します。このため、多くのチャットボットは無料プランに使用制限を設けています—電力コストがこれらのサービスを提供する企業にとって高額だからです。
チャットUIエネルギー
この不明瞭な領域に光を当てるため、Hugging Faceのエンジニア、ジュリアン・デラヴァンデは、会話のリアルタイムエネルギー使用量の推定を表示するAIチャットインターフェースを作成しました。このツールは、異なるモデル、タスク、リクエストのエネルギー消費を比較するだけでなく、推論を必要とするプロンプトが単純な事実確認クエリよりも多くのエネルギーを消費する可能性があることを示します。インターフェースは、ワット時やジュールといった分かりやすい指標でエネルギー使用量を表示し、電話の充電残量の割合や環境保護庁(EPA)からの運転時間などの具体的な比較も提供します。

チャットUIエネルギーにニューヨーク市の天気を尋ねたところ、クエリが電話の充電量の約9.5%を使用したと表示されました。この推定をクリックすると、LED電球の45分使用、電子レンジの1.21秒使用、トースターの0.15秒使用などの同等の比較が見られました。会話が続くにつれ、ボットはチャットウィンドウの下部に総エネルギー使用量と時間を表示しました。
単純なクエリにもかかわらず、ボットがインターネットアクセスを持っていなかったため、応答に90秒かかり、予想以上のエネルギーを消費した可能性があります。推定値でも、LED電球の45分使用は驚くほど高く、より複雑な複数ステップのプロンプトのエネルギー需要を浮き彫りにします。
AI企業のシステムのエネルギー消費に関する正確なデータはAI企業のみが持ちますが、研究では需要が増加していると示唆されています。2024年の国際エネルギー機関の報告書では、2026年までに世界の電力需要が3.4%増加し、その一部はデータセンターの拡大によるものと予測されています。同様に、バークレー研究所の報告書では、2023年から2028年の間にデータセンターの成長率が「13%から27%」と予測されています。
このツールの公開は、Hugging Faceのようなオープンソースプラットフォームと、より秘密主義のAI企業の違いを強調しています。「AIエネルギースコアやAIのエネルギー足跡に関する広範な研究を通じて、オープンソースコミュニティで透明性を推進しています」と、チャットの作成者は発表で述べました。「いつか、エネルギー使用量は食品の栄養ラベルのように目に見えるものになるかもしれません!」
自分で試す方法
チャットボットをこちらで試し、Google Gemma 3、MetaのLlama 3.3、Mistral Nemo Instructなどのさまざまなオープンソースモデルを切り替えることができます。
AIのストーリーに興味がありますか?毎週のニュースレター、Innovationを購読してください。
テキスト翻訳で知られるDeepLが、今度は音声翻訳に注力している
テキスト翻訳ツールで知られる翻訳企業DeepLは本日、カスタムアプリケーションを通じて、会議やモバイル・ウェブ上の会話、現場担当者のグループディスカッションといった場面に対応する音声翻訳スイートをリリースした。 また同社は、外部の開発者や企業がコールセンターなどの特定のユースケースに合わせてDeepLの技術を応用できるようにするAPIも導入した。「長年にわたりテキスト翻訳に注力してきた私たちにとっ
タラットのAI会議メモは、クラウドではなく、お使いのデバイスに保存されます
評価額2億5000万ドルに達するAI搭載ノートアプリ「Granola」は、テック系スタートアップの創業者やベンチャーキャピタリストの間で人気を集めている。しかし、ある開発者は、サブスクリプション制ではなく、一度きりの料金で利用でき、よりプライバシーが守られ、完全にローカルで動作する代替アプリへの需要を見出していた。そのビジョンから生まれたのが、新しいMacアプリ「Talat」だ。イングランドのヨー
新型「Roewe i6」が65万9000元で発売、Snapdragon 8155とDoubaoの大規模モデルを搭載
SAIC Roeweは本日、Roewe D7のデザイン言語を全面的に採用したコンパクトセダン「Roewe i6」を発売した。特徴的な大型の直立型グリルと水平に伸びるハローライトバーがフロント全体を覆い、先進的な技術感と視覚的な広がりを醸し出している。 リアには、上向きのダックテールスポイラーが全幅にわたるテールランプと調和し、車全体により若々しい印象を与えています。新型「Roewe i6」の全長
Honestly never thought about how much energy one ChatGPT question uses 😳 This makes me reconsider spamming 'regenerate response' so much. The environmental impact of AI is kinda scary when you think about it...
Wow, the energy consumption per chat is surprisingly high! We often overlook the environmental footprint of these AI tools. This makes me wonder how sustainable the current AI boom really is. 🌍
Esta herramienta me parece súper útil! Siempre me preguntaba cuánta energía consume mi bot de chat favorito. Ahora podré elegir modelos más ecológicos 🌱 Quizás deberían implementar algo así en las apps para crear conciencia.
This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!
Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍





家






