Der Energieverbrauch von Chatgpt ist niedriger als erwartet

Chatgpt, der Chatbot von Openai, ist vielleicht nicht der Energie -Guzzler, von dem wir dachten, er sei es. Sein Energieverbrauch kann jedoch je nach Verwendung von KI -Modellen sehr unterschiedlich sein, wie eine neue Studie die Fragen beantwortet.

Epoch AI, eine gemeinnützige Forschungsgruppe, machte einen Riss, herauszufinden, wie viel Saft eine typische Chatgpt -Abfrage verwendet. Vielleicht haben Sie gehört, dass Chatgpt etwa 3 Wattstunden benötigt, um eine einzige Frage zu beantworten, die 10-mal mehr als eine Google-Suche ist. Aber Epoch glaubt, dass das eine Überbeanspruchung ist.

Als das neueste Standardmodell von OpenAI, GPT-4O, als Benchmark, stellte Epoch fest, dass die durchschnittliche Chatgpt-Abfrage tatsächlich etwa 0,3 Wattstunden verwendet. Das ist weniger als das, was viele Haushaltsgeräte brauchen.

"Der Energieverbrauch ist im Vergleich zur Verwendung normaler Geräte, Heizung oder Kühlung Ihres Hauses oder beim Fahren eines Autos wirklich keine große Sache", sagte Joshua, der Datenanalyst bei Epoch, der die Analyse durchführte, gegenüber TechCrunch.

Der Energieverbrauch von KI und ihre Auswirkungen auf die Umwelt sind ein heißes Thema, da KI -Unternehmen ihre Rechenzentren wie Crazy erweitern möchten. Erst letzte Woche unterzeichneten über 100 Organisationen einen offenen Brief, in dem die KI -Industrie und die Aufsichtsbehörden aufgefordert wurden, sicherzustellen, dass neue AI -Rechenzentren keine natürlichen Ressourcen entlassen und die Versorgungsunternehmen dazu zwingen, sich auf nicht erneuerbare Energiequellen zu verlassen.

Sie haben TechCrunch mitgeteilt, dass seine Analyse durch das ausgelöst wurde, was er als veraltete Forschung ansah. Er wies darauf hin, dass der Bericht, der die 3-Watt-Stundenschätzung erbrachte, angenommen wurde, dass Openai ältere, weniger effiziente Chips verwendet, um seine Modelle auszuführen.

"Ich habe viel öffentlichen Diskurs gesehen, die richtig erkannt haben, dass AI in den kommenden Jahren viel Energie verbrauchen würde, aber die Energie, die heute zu AI ging, nicht genau beschrieben", sagten Sie. "Außerdem stellten einige meiner Kollegen fest, dass die am häufigsten gemeldete Schätzung von 3 Wattstunden pro Abfrage auf ziemlich alten Forschungen beruhte und auf einigen Serviettenmathematik zu hoch zu sein schien."

Sicher, Epochs 0,3-Watt-Stunden-Zahl ist auch nur eine Schätzung. OpenAI hat die Details, die erforderlich sind, um eine genaue Berechnung vorzunehmen, nicht geteilt.

Die Analyse berücksichtigt auch nicht die zusätzlichen Energiekosten aus ChatGPT -Funktionen wie Bildgenerierung oder Verarbeitung langer Eingänge. Sie haben zugegeben, dass "Long Input" ChatGPT -Abfragen - wie diejenigen mit langen Dateien - wahrscheinlich mehr Strom im Voraus als eine typische Frage verwenden.

Sie sagten, er erwarte jedoch, dass der Basisstromverbrauch von ChatGPT steigt.

"\ [Die \] KI wird fortgeschrittener werden und diese KI wahrscheinlich viel mehr Energie erfordern, und diese zukünftige KI kann viel intensiver eingesetzt werden - um viel mehr Aufgaben und komplexere Aufgaben zu erledigen, als wie Menschen heute Chatgpt verwenden", sagten Sie.

Während in letzter Zeit einige coole Durchbrüche in der AI-Effizienz gegeben wurden, wird erwartet, dass die KI ein riesiges, leistungsstärkem Infrastrukturwachstum treibt. In den nächsten zwei Jahren benötigen KI -Rechenzentren laut einem Rand -Bericht möglicherweise fast die gesamte Leistung von 2022 in Kalifornien (68 GW). Bis 2030 könnte das Training eines Frontier -Modells einen Strom benötigen, der acht Kernreaktoren (8 GW) entspricht, prognostiziert der Bericht.

Allein Chatgpt erreicht eine Menge Menschen, und diese Zahl wächst nur, was bedeutet, dass seine Serveranforderungen massiv sind. OpenAI plant zusammen mit mehreren Investitionspartnern, in den nächsten Jahren Milliarden für neue AI -Rechenzentrumsprojekte auszugeben.

OpenAIs Fokus zusammen mit dem Rest der KI -Branche verlagert sich auf Argumentationsmodelle. Diese Modelle können mehr Aufgaben erledigen, benötigen jedoch mehr Rechenleistung zum Ausführen. Im Gegensatz zu Modellen wie GPT-4O, die fast augenblicklich Fragen beantworten, denken Sie für Sekunden bis Minuten vor der Beantwortung "Denken", was mehr Rechenleistung verbraucht-und damit mehr Energie.

"Argumentationsmodelle übernehmen zunehmend Aufgaben, die ältere Modelle nicht können, und generieren dazu mehr \ [Daten \] und erfordern mehr Rechenzentren", sagten Sie.

OpenAI hat begonnen, stärkere effizientere Argumentationsmodelle wie O3-Mini freizugeben. Aber zumindest im Moment scheint es unwahrscheinlich, dass diese Effizienzgewinne die erhöhten Stromanforderungen aus dem "Denken" -Prozess von Argumentationsmodellen und dem wachsenden Einsatz von KI auf der ganzen Welt ausgleichen werden.

Sie haben vorgeschlagen, dass Sie, wenn Sie sich Sorgen um Ihren KI -Energie -Fußabdruck machen, Apps wie Chatgpt seltener verwenden oder Modelle auswählen, die weniger Rechenleistung verwenden - wenn dies möglich ist.

"Sie könnten versuchen, kleinere KI-Modelle wie \ [OpenAIs \] gpt-4o-mini zu verwenden", sagten Sie, "und verwenden sie sparsam auf eine Weise, die eine Menge Daten erstellt oder generiert."