ChatGptのエネルギー使用は、予想よりも低くなります

OpenaiのチャットボットであるChatGptは、私たちが思っていたエネルギーガズラーではないかもしれません。しかし、新しい研究によると、そのエネルギー使用は、その使用方法とどのAIモデルが質問に答えているかによって大きく異なります。

非営利の研究グループであるエポックAIは、典型的なChatGPTクエリが使用するジュースの量を把握することに亀裂を取りました。 ChatGptは、Google検索の10倍の質問に答えるために約3ワットの時間が必要だと聞いたことがあるかもしれません。しかし、エポックはそれが少し誇張だと考えています。

Openaiの最新デフォルトモデルであるGPT-4Oをベンチマークとして使用して、Epochは平均ChatGPTクエリが実際に約0.3ワット時の時間を使用していることを発見しました。これは、多くの家電製品が必要とするものよりも少ないです。

「エネルギーの使用は、通常の電化製品を使用したり、家を暖房したり、車を運転したり、車を運転したりするのに比べて大したことではありません」と、分析を行ったエポックのデータアナリスト、ジョシュア・ユーはTechCrunchに語りました。

AI企業がクレイジーのようなデータセンターを拡大しようとしているため、AIのエネルギー使用と環境への影響はホットなトピックです。先週、100人以上の組織がAI業界と規制当局に促す公開書簡に署名し、新しいAIデータセンターが天然資源を排出し、ユーティリティが再生不可能なエネルギー源に依存しないようにしました。

あなたはTechCrunchに、彼の分析は時代遅れの研究と見なされたものによって引き起こされたと語った。彼は、3ワット時の推定値を思いついた報告書は、Openaiがモデルを実行するために古くて効率の低いチップを使用していると仮定したと指摘しました。

「私は、AIが今後数年間で多くのエネルギーを消費することを正しく認識している多くの公的な談話を見てきましたが、今日AIに行くエネルギーを本当に正確に説明していませんでした」とあなたは言いました。 「また、私の同僚の何人かは、クエリごとに3ワット時の3ワット時の最も広く報告されている推定値がかなり古い研究に基づいており、ナプキン数学に基づいていることが高すぎるように思われたことに気付きました。」

確かに、エポックの0.3ワット時間の数字も推定にすぎません。 Openaiは、正確な計算を行うために必要な詳細を共有していません。

分析では、画像生成や長い入力の処理などのCHATGPT機能からの追加のエネルギーコストも考慮されていません。 「長い入力」chatgptクエリ（長いファイルが添付されている人のように）が、おそらく典型的な質問よりも前の電力を使用する可能性があることを認めました。

しかし、彼はChatGptのベースライン電力消費が上がると予想していると言いました。

「\ [the \] aiはより高度になり、このAIのトレーニングはおそらくはるかに多くのエネルギーを必要とするでしょう。この将来のAIは、より多くのタスクとより複雑なタスクを今日のChatGPTを使用する方法よりもはるかに複雑なタスクを処理することができます」とあなたは言いました。

最近、AI効率でいくつかのクールなブレークスルーがありましたが、AIが使用されている規模は、巨大でパワーに飢えたインフラストラクチャの成長を促進すると予想されます。 RANDのレポートによると、今後2年間で、AIデータセンターは、カリフォルニア州の2022年の電力容量（68 GW）のほぼすべてを必要とする可能性があります。 2030年までに、フロンティアモデルのトレーニングには、8つの原子炉（8 GW）に相当する電力が必要になる可能性がある、と報告書は予測されました。

ChatGptだけで多くの人に届き、その数は成長しているだけです。つまり、サーバーの要求は非常に大きいことを意味します。 Openaiは、いくつかの投資パートナーとともに、今後数年間で新しいAIデータセンタープロジェクトに数十億を費やすことを計画しています。

Openaiの焦点は、AI業界の他の地域とともに、推論モデルに移行しています。これらのモデルはより多くのタスクを実行できますが、実行するにはより多くのコンピューティングパワーが必要です。回答するGPT-4Oのようなモデルとは異なり、ほぼ瞬時にクエリになります。これは、より多くのコンピューティングパワーを使用する、したがってより多くのエネルギーを使用する前に、数秒から数分間モデルを「考え」ます。

「推論モデルは、古いモデルができないタスクをますます引き受け、それを行うためにより多くのデータを生成し、どちらもより多くのデータセンターを必要とします」とあなたは言いました。

Openaiは、O3-Miniのようなより発電効率の高い推論モデルをリリースし始めました。しかし、少なくとも今のところ、これらの効率性の向上は、推論モデルの「思考」プロセスと世界中のAIの使用の増加による電力要求の増加を相殺する可能性は低いようです。

AI Energyフットプリントが心配な場合は、ChatGptのようなアプリを使用する頻度が少なく、コンピューティングパワーを使用するモデルを選択する必要があることを提案しました。

「\ [openai's \] gpt-4o-miniのような小さなAIモデルを使用してみることができます」とあなたは言いました。