La herramienta AI revela el consumo de energía de un solo mensaje de chatbot

Los sistemas de IA son conocidos por su alto consumo de energía, pero identificar el uso exacto de energía, especialmente para las consultas de chatbot individuales, sigue siendo difícil de alcanzar. Para arrojar luz sobre este tema, un ingeniero facial abrazando una herramienta destinada a descubrir estos costos ocultos.

Es fácil perderse en el lenguaje etéreo de la infraestructura de IA, con sus frecuentes referencias a "la nube" y otras metáforas aireadas. Sin embargo, debajo de este velo se encuentra una realidad de las computadoras intensivas en energía. Los sistemas AI, que necesitan realizar cálculos complejos a velocidades vertiginales, dependen de chips potentes, GPU múltiples y vastas centros de datos. Cada vez que planteas una pregunta para chatgpt, estos componentes entran en acción, consumiendo electricidad. Esta es la razón por la cual muchos chatbots imponen límites de uso en sus niveles gratuitos: el costo de la electricidad hace que la computación sea un asunto costoso para las empresas que organizan estos servicios.

Chat UI Energy

Para aportar algo de claridad a esta área turbia, Julien Delavande, un ingeniero de Hugging Face, creó una interfaz de chat de IA que muestra estimaciones de uso de energía en tiempo real para sus conversaciones. Esta herramienta no solo compara el consumo de energía de diferentes modelos, tareas y solicitudes, sino que también destaca cómo un aviso que requiere razonamiento podría consumir más energía que una consulta directa de investigación de hechos. La interfaz presenta el uso de energía en métricas identificables como Watt-Hours y Joules, así como comparaciones más tangibles, como el porcentaje de un cargo por teléfono o tiempo de conducción, procedentes de la Agencia de Protección Ambiental (EPA).

Cuando le pregunté a Chat UI Energy sobre el clima en la ciudad de Nueva York, me informó que mi consulta usaba alrededor del 9.5% del cargo por teléfono. Al hacer clic en esta estimación, pude ver otras comparaciones equivalentes, como 45 minutos de uso de la bombilla LED, 1.21 segundos de uso de microondas y 0.15 segundos de energía tostadora. A medida que la conversación continuó, el bot mostró el uso total de energía y la duración en la parte inferior de la ventana de chat.

A pesar de la simplicidad de mi consulta, requirió acceso a Internet, que al Bot carecía, posiblemente explicando por qué tomó 90 segundos y más energía de la prevista para responder. Incluso como estimación, 45 minutos de uso de la bombilla LED parecían sorprendentemente altas, poniendo en perspectiva las demandas de energía de las indicaciones más complejas y de múltiples pasos.

Si bien solo las empresas de IA tienen datos precisos sobre el consumo de energía de sus sistemas, los estudios sugieren que la demanda está en aumento. Un informe de la Agencia Internacional de Energía de 2024 pronostica un aumento de demanda de electricidad global del 3.4% para 2026, en parte impulsado por la expansión de los centros de datos. Del mismo modo, un informe de Berkeley Lab anticipa las tasas de crecimiento del centro de datos de "13% a 27% entre 2023 y 2028".

El lanzamiento de esta herramienta subraya la diferencia entre las plataformas de código abierto como abrazar la cara y las compañías de IA más secretas. "Con proyectos como el puntaje de energía AI y la investigación más amplia sobre la huella de energía de la IA, estamos presionando por la transparencia en la comunidad de código abierto", declararon los creadores del CHAT en su anuncio. "¡Un día, el uso de energía podría ser tan visible como las etiquetas de nutrición en los alimentos!"

Cómo probarlo tú mismo

Puede experimentar con el chatbot aquí y cambiar entre varios modelos de código abierto, incluidos Google Gemma 3, Meta's Llama 3.3 e Mistral Nemo Instruct.

¿Interesado en más historias de IA? Suscríbase a la innovación, nuestro boletín semanal.