La consommation d'énergie de Chatgpt est plus faible que prévu

Chatgpt, le chatbot d'Openai, n'est peut-être pas le Guzzler d'énergie que nous pensions. Mais, sa consommation d'énergie peut varier beaucoup en fonction de la façon dont il est utilisé et des modèles d'IA répondent aux questions, selon une nouvelle étude.

Epoch AI, un groupe de recherche à but non lucratif, a pris une fissure pour déterminer la quantité de jus d'une requête typique de Chatgpt. Vous avez peut-être entendu dire que Chatgpt a besoin d'environ 3 wattheures pour répondre à une seule question, ce qui est 10 fois plus qu'une recherche Google. Mais Epoch pense que c'est un peu une surestimation.

En utilisant le dernier modèle par défaut d'OpenAI, GPT-4O, en tant que référence, Epoch a constaté que la requête CHATGPT moyenne utilise réellement environ 0,3 wattheures. C'est moins que ce dont de nombreux appareils électroménagers ont besoin.

"La consommation d'énergie n'est vraiment pas un gros problème par rapport à l'utilisation d'appareils normaux ou de chauffer ou de refroidir votre maison, ou de conduire une voiture", a déclaré à TechCrunch Joshua, l'analyste de données qui a fait l'analyse.

La consommation d'énergie de l'IA et son impact sur l'environnement sont un sujet brûlant car les entreprises de l'IA cherchent à étendre leurs centres de données comme un fou. La semaine dernière, plus de 100 organisations ont signé une lettre ouverte exhortant l'industrie de l'IA et les régulateurs pour s'assurer que les nouveaux centres de données d'IA ne vident pas les ressources naturelles et ne forcent pas les services publics à s'appuyer sur des sources d'énergie non renouvelables.

Vous avez dit à TechCrunch que son analyse avait été déclenchée par ce qu'il considérait comme des recherches obsolètes. Il a souligné que le rapport qui a présenté l'estimation de 3 wattheures supposait Openai utilisait des puces plus anciennes et moins efficaces pour exécuter ses modèles.

"J'ai vu beaucoup de discours public qui a correctement reconnu que l'IA allait consommer beaucoup d'énergie dans les années à venir, mais n'a pas vraiment décrit l'énergie qui allait à l'IA aujourd'hui", a-t-vous déclaré. "De plus, certains de mes collègues ont remarqué que l'estimation la plus largement signalée de 3 watthers par requête était basée sur des recherches assez anciennes, et basée sur des mathématiques de serviette semblait être trop élevée."

Bien sûr, le chiffre de 0,3 wattheures d'Epoch n'est également qu'une estimation. OpenAI n'a pas partagé les détails nécessaires pour faire un calcul précis.

L'analyse ne prend pas non plus en compte les coûts d'énergie supplémentaires des fonctionnalités de chatgpt comme la génération d'images ou le traitement des entrées longues. Vous avez admis que les requêtes CHATGPT "Long Input" - comme celles avec de longs fichiers jointes - utilisent probablement plus d'électricité à l'avance qu'une question typique.

Vous avez dit qu'il s'attend à ce que la consommation d'énergie de référence de Chatgpt augmente, cependant.

"\ [L'IA \] deviendra plus avancée, la formation de cette IA nécessitera probablement beaucoup plus d'énergie, et cette future IA peut être utilisée beaucoup plus intensément - gérer beaucoup plus de tâches et des tâches plus complexes, que la façon dont les gens utilisent le chatppt aujourd'hui", avez-vous déclaré.

Bien qu'il y ait eu des percées fraîches dans l'efficacité de l'IA ces derniers temps, l'échelle à laquelle l'IA est utilisée devrait générer une énorme croissance des infrastructures gourmandes. Au cours des deux prochaines années, les centres de données de l'IA pourraient avoir besoin de presque toute la capacité d'énergie de la Californie en 2022 (68 GW), selon un rapport RAND. D'ici 2030, la formation d'un modèle Frontier pourrait avoir besoin de puissance équivalente à huit réacteurs nucléaires (8 GW), a prédit le rapport.

Chatgpt à lui seul atteint une tonne de personnes, et ce nombre est en croissance unique, ce qui signifie que ses exigences de serveur sont massives. Openai, ainsi que plusieurs partenaires d'investissement, prévoit de dépenser des milliards pour de nouveaux projets de centre de données d'IA au cours des prochaines années.

L'objectif d'Openai, ainsi que le reste de l'industrie de l'IA, se déplacent vers des modèles de raisonnement. Ces modèles peuvent effectuer plus de tâches mais ont besoin de plus de puissance de calcul pour s'exécuter. Contrairement aux modèles comme GPT-4O, qui répondent aux requêtes presque instantanément, le raisonnement de motifs "pense" pendant quelques secondes à quelques minutes avant de répondre, qui utilise plus de puissance de calcul - et donc plus d'énergie.

"Les modèles de raisonnement assumeront de plus en plus des tâches que les modèles plus anciens ne peuvent pas, et généreront plus de \ [données \] pour le faire, et les deux nécessitent plus de centres de données", a-t-vous déclaré.

OpenAI a commencé à publier des modèles de raisonnement plus économes en puissance comme O3-MinI. Mais il semble peu probable, du moins en ce moment, que ces gains d'efficacité compenseront l'augmentation des demandes de puissance du processus de "pensée" des modèles de raisonnement et l'utilisation croissante de l'IA dans le monde.

Vous avez suggéré que si vous vous inquiétez de votre empreinte d'énergie d'IA, vous devez utiliser des applications comme Chatgpt moins souvent, ou choisir des modèles qui utilisent moins de puissance de calcul - si cela est possible.

"Vous pouvez essayer d'utiliser des modèles AI plus petits comme \ [Openai \] GPT-4O-MINI", avez-vous dit, "et les utilisez avec parcimonie d'une manière qui nécessite un traitement ou une génération d'une tonne de données."