L'outil AI révèle la consommation d'énergie d'une seule invite de chatbot

Les systèmes d'IA sont connus pour leur consommation d'énergie élevée, mais il reste insaisissable à la consommation d'énergie exacte, en particulier pour les requêtes de chatbot individuelles. Pour faire la lumière sur cette question, un ingénieur en visage étreint a développé un outil visant à découvrir ces coûts cachés.

Il est facile de se perdre dans le langage éthéré de l'infrastructure d'IA, avec ses références fréquentes à "The Cloud" et à d'autres métaphores aérées. Cependant, sous ce voile se trouve une réalité des ordinateurs à forte intensité énergétique. Les systèmes d'IA, qui doivent effectuer des calculs complexes à des vitesses cassant, s'appuient sur des puces puissantes, des GPU multiples et de vastes centres de données. Chaque fois que vous posez une question à Chatgpt, ces composants entrent en action, consommant de l'électricité. C'est pourquoi de nombreux chatbots imposent des limites d'utilisation à leurs niveaux gratuits - le coût de l'électricité fait de l'informatique une affaire coûteuse pour les entreprises qui accueillent ces services.

CHAT UI Energy

Pour apporter une certaine clarté à cette zone trouble, Julien Delavande, ingénieur chez Hugging Face, a créé une interface de chat AI qui affiche des estimations de consommation d'énergie en temps réel pour vos conversations. Cet outil compare non seulement la consommation d'énergie de différents modèles, tâches et demandes, mais souligne également comment une invite nécessitant un raisonnement pourrait consommer plus d'énergie qu'une requête de recherche simple. L'interface présente une consommation d'énergie dans des mesures relatives comme les wattheures et les joules, ainsi que des comparaisons plus tangibles telles que le pourcentage d'une charge de téléphone ou d'un temps de conduite, provenant de l'Agence de protection de l'environnement (EPA).

Lorsque j'ai demandé à Chat UI Energy sur la météo à New York, cela m'a informé que ma requête avait utilisé environ 9,5% des frais de téléphone. En cliquant sur cette estimation, je pouvais voir d'autres comparaisons équivalentes, telles que 45 minutes d'utilisation de l'ampoule LED, 1,21 seconde d'utilisation des micro-ondes et 0,15 seconde d'énergie grille-pain. Au fur et à mesure que la conversation se poursuivait, le bot affichait la consommation d'énergie totale et la durée au bas de la fenêtre de chat.

Malgré la simplicité de ma requête, il fallait un accès à Internet, qui manquait le bot, expliquant peut-être pourquoi il a pris 90 secondes et plus d'énergie que prévu. Même en tant qu'estimation, 45 minutes d'utilisation des ampoules LED semblaient étonnamment élevées, mettant en perspective les exigences énergétiques d'invites plus complexes et en plusieurs étapes.

Alors que seules les entreprises d'IA ont des données précises sur la consommation d'énergie de leurs systèmes, les études suggèrent que la demande augmente. Un rapport de l'Agence internationale de l'énergie 2024 prévoit une augmentation mondiale de la demande d'électricité de 3,4% d'ici 2026, en partie tirée par l'expansion des centres de données. De même, un rapport de laboratoire de Berkeley prévoit des taux de croissance des centres de données de "13% à 27% entre 2023 et 2028".

La publication de cet outil souligne la différence entre les plates-formes open-source comme les étreintes et les sociétés d'IA plus secrètes. "Avec des projets comme le score d'énergie de l'IA et des recherches plus larges sur l'empreinte énergétique de l'IA, nous faisons pression pour la transparence dans la communauté open source", ont déclaré les créateurs du chat dans leur annonce. "Un jour, la consommation d'énergie pourrait être aussi visible que les étiquettes de nutrition sur la nourriture!"

Comment l'essayer vous-même

Vous pouvez expérimenter le chatbot ici et basculer entre divers modèles open source, notamment Google Gemma 3, Meta's Llama 3.3 et Mistral Nemo Instruct.

Intéressé par plus d'histoires d'IA? Abonnez-vous à l'innovation, notre newsletter hebdomadaire.