オプション
ニュース
AIツールは、単一のチャットボットプロンプトのエネルギー消費を明らかにします

AIツールは、単一のチャットボットプロンプトのエネルギー消費を明らかにします

2025年4月27日
111

AIシステムは高いエネルギー消費で知られていますが、特に個々のチャットボットのクエリに対する正確なエネルギー使用量を特定することは困難です。この問題を明らかにするため、Hugging Faceのエンジニアがこれらの隠れたコストを明らかにするツールを開発しました。

AIインフラの「クラウド」などの抽象的な表現に迷い込みがちですが、その裏にはエネルギー集約型のコンピューターが存在します。AIシステムは、複雑な計算を高速で行うため、強力なチップ、複数のGPU、巨大なデータセンターに依存しています。ChatGPTに質問するたびに、これらのコンポーネントが動作し、電力を消費します。このため、多くのチャットボットは無料プランに使用制限を設けています—電力コストがこれらのサービスを提供する企業にとって高額だからです。

チャットUIエネルギー

この不明瞭な領域に光を当てるため、Hugging Faceのエンジニア、ジュリアン・デラヴァンデは、会話のリアルタイムエネルギー使用量の推定を表示するAIチャットインターフェースを作成しました。このツールは、異なるモデル、タスク、リクエストのエネルギー消費を比較するだけでなく、推論を必要とするプロンプトが単純な事実確認クエリよりも多くのエネルギーを消費する可能性があることを示します。インターフェースは、ワット時やジュールといった分かりやすい指標でエネルギー使用量を表示し、電話の充電残量の割合や環境保護庁(EPA)からの運転時間などの具体的な比較も提供します。

Hugging Faceのチャットボット(Qwen/Qwen2.5-VL-7B-Instructを使用)で天気を尋ねたところ、約9.5%の電話充電量を使用。Radhika Rajkumar/ZDNETによるスクリーンショット

チャットUIエネルギーにニューヨーク市の天気を尋ねたところ、クエリが電話の充電量の約9.5%を使用したと表示されました。この推定をクリックすると、LED電球の45分使用、電子レンジの1.21秒使用、トースターの0.15秒使用などの同等の比較が見られました。会話が続くにつれ、ボットはチャットウィンドウの下部に総エネルギー使用量と時間を表示しました。

単純なクエリにもかかわらず、ボットがインターネットアクセスを持っていなかったため、応答に90秒かかり、予想以上のエネルギーを消費した可能性があります。推定値でも、LED電球の45分使用は驚くほど高く、より複雑な複数ステップのプロンプトのエネルギー需要を浮き彫りにします。

AI企業のシステムのエネルギー消費に関する正確なデータはAI企業のみが持ちますが、研究では需要が増加していると示唆されています。2024年の国際エネルギー機関の報告書では、2026年までに世界の電力需要が3.4%増加し、その一部はデータセンターの拡大によるものと予測されています。同様に、バークレー研究所の報告書では、2023年から2028年の間にデータセンターの成長率が「13%から27%」と予測されています。

このツールの公開は、Hugging Faceのようなオープンソースプラットフォームと、より秘密主義のAI企業の違いを強調しています。「AIエネルギースコアやAIのエネルギー足跡に関する広範な研究を通じて、オープンソースコミュニティで透明性を推進しています」と、チャットの作成者は発表で述べました。「いつか、エネルギー使用量は食品の栄養ラベルのように目に見えるものになるかもしれません!」

自分で試す方法

チャットボットをこちらで試し、Google Gemma 3、MetaのLlama 3.3、Mistral Nemo Instructなどのさまざまなオープンソースモデルを切り替えることができます。

AIのストーリーに興味がありますか?毎週のニュースレター、Innovationを購読してください。

関連記事
MCP:オープンスタンダードがAIイノベーションをどのように再構築しているか MCP:オープンスタンダードがAIイノベーションをどのように再構築しているか より大きなモデルが次のAIのブレークスルーを牽引しているわけではありません。真のゲームチェンジャーは控えめなものです:標準化。2024年11月にAnthropicによって導入されたModel Context Protocol(MCP)は、AIアプリケーションがトレーニングデータ以外の外部ツールと対話するための統一されたフレームワークを構築します。HTTPやRESTがウェブサービスの接続を効率化した
UXデザインの現在のトレンドと課題:AIの役割が明らかに UXデザインの現在のトレンドと課題:AIの役割が明らかに UX業界は急速に変化しており、機会と障害の両方を提供しています。このガイドでは、現在のUXの状況を深く掘り下げ、就職市場のナビゲーション、業界の課題への対処、AIの影響の評価について専門家の洞察を提供します。経験豊富なUXデザイナーであろうと初心者であろうと、このリソースは今日のダイナミックな環境で成功するための不可欠な視点を届けします。主なポイントUXの就職市場は非常に競争が激しく、多様なスキル
ReplitとMicrosoftが戦略的クラウドパートナーシップを締結 ReplitとMicrosoftが戦略的クラウドパートナーシップを締結 Replitは火曜日にMicrosoftとの戦略的提携を発表し、両社の成長を促進する準備ができています。Replitは現在、MicrosoftのAzure Marketplaceを通じてアクセス可能になり、Microsoftのエンタープライズクライアントがシームレスにサブスクリプションを購入できるようになります。Replitはまた、Microsoftのクラウドサービス(コンテナ、仮想マシン、Neo
コメント (6)
0/200
ScottGarcía
ScottGarcía 2025年7月28日 10:20:21 JST

This tool is eye-opening! It's wild to think how much energy a single chatbot prompt uses. Makes me wonder if AI's gonna need its own power plant soon 😅. Great work by Hugging Face for digging into this!

WillieRamirez
WillieRamirez 2025年4月28日 13:18:34 JST

Dieses KI-Tool von Hugging Face ist aufschlussreich! Es ist verrückt zu sehen, wie viel Energie eine einzelne Chatbot-Anfrage verbrauchen kann. Das lässt einen zweimal über diese lässigen Gespräche nachdenken. Könnte eine etwas benutzerfreundlichere Oberfläche gebrauchen, aber trotzdem, es ist ziemlich cool! 🌍

MarkScott
MarkScott 2025年4月27日 11:54:20 JST

Этот инструмент ИИ от Hugging Face открывает глаза! Удивительно видеть, сколько энергии может потреблять один запрос чат-бота. Заставляет дважды подумать о таких неформальных беседах. Мог бы использовать более удобный интерфейс, но всё равно, это довольно круто! 🌍

JonathanAllen
JonathanAllen 2025年4月27日 11:14:09 JST

Cet outil d'IA de Hugging Face est révélateur ! C'est fou de voir combien d'énergie une seule requête de chatbot peut consommer. Ça vous fait réfléchir à deux fois sur ces discussions occasionnelles. Il pourrait utiliser une interface un peu plus conviviale, mais quand même, c'est plutôt cool ! 🌍

JackPerez
JackPerez 2025年4月27日 8:31:51 JST

This AI tool from Hugging Face is eye-opening! It's wild to see how much energy a single chatbot prompt can consume. Makes you think twice about those casual chats. Could use a bit more user-friendly interface though, but still, it's pretty cool! 🌍

RogerGonzalez
RogerGonzalez 2025年4月27日 4:11:46 JST

¡Esta herramienta de IA de Hugging Face es reveladora! Es increíble ver cuánta energía puede consumir una sola consulta de chatbot. Te hace pensar dos veces sobre esas charlas casuales. Podría usar una interfaz un poco más amigable para el usuario, pero aún así, ¡es bastante genial! 🌍

トップに戻ります
OR