La herramienta AI revela el consumo de energía de un solo mensaje de chatbot

Los sistemas de IA son notorios por su alto consumo de energía, pero determinar el uso exacto de energía, especialmente para consultas individuales de chatbots, sigue siendo difícil. Para arrojar luz sobre este problema, un ingeniero de Hugging Face desarrolló una herramienta destinada a descubrir estos costos ocultos.

Es fácil perderse en el lenguaje etéreo de la infraestructura de IA, con sus frecuentes referencias a "la nube" y otras metáforas ligeras. Sin embargo, detrás de este velo se encuentra una realidad de computadoras que consumen mucha energía. Los sistemas de IA, que necesitan realizar cálculos complejos a velocidades vertiginosas, dependen de chips potentes, múltiples GPU y vastos centros de datos. Cada vez que haces una pregunta a ChatGPT, estos componentes entran en acción, consumiendo electricidad. Por eso, muchos chatbots imponen límites de uso en sus niveles gratuitos: el costo de la electricidad hace que la computación sea un asunto costoso para las empresas que alojan estos servicios.

Energía de la Interfaz de Chat

Para aportar algo de claridad a esta área turbia, Julien Delavande, un ingeniero de Hugging Face, creó una interfaz de chat de IA que muestra estimaciones en tiempo real del uso de energía de tus conversaciones. Esta herramienta no solo compara el consumo de energía de diferentes modelos, tareas y solicitudes, sino que también destaca cómo un prompt que requiere razonamiento puede consumir más energía que una consulta directa de búsqueda de hechos. La interfaz presenta el uso de energía en métricas comprensibles como vatios-hora y julios, así como comparaciones más tangibles como el porcentaje de una carga de teléfono o el tiempo de conducción, obtenidas de la Agencia de Protección Ambiental (EPA).

Cuando pregunté a Chat UI Energy sobre el clima en la ciudad de Nueva York, me informó que mi consulta usó aproximadamente el 9.5% de una carga de teléfono. Al hacer clic en esta estimación, pude ver otras comparaciones equivalentes, como 45 minutos de uso de una bombilla LED, 1.21 segundos de uso de microondas y 0.15 segundos de energía de tostadora. A medida que continuaba la conversación, el bot mostraba el uso total de energía y la duración en la parte inferior de la ventana de chat.

A pesar de la simplicidad de mi consulta, requería acceso a internet, que el bot no tenía, lo que posiblemente explica por qué tomó 90 segundos y más energía de la esperada para responder. Incluso como estimación, 45 minutos de uso de una bombilla LED parecían sorprendentemente altos, poniendo en perspectiva las demandas de energía de prompts más complejos y de varios pasos.

Aunque solo las empresas de IA tienen datos precisos sobre el consumo de energía de sus sistemas, los estudios sugieren que la demanda está en aumento. Un informe de la Agencia Internacional de Energía de 2024 pronostica un aumento de la demanda mundial de electricidad del 3.4% para 2026, impulsado en parte por la expansión de los centros de datos. De manera similar, un informe del Berkeley Lab anticipa tasas de crecimiento de los centros de datos de "13% a 27% entre 2023 y 2028."

El lanzamiento de esta herramienta subraya la diferencia entre plataformas de código abierto como Hugging Face y empresas de IA más reservadas. "Con proyectos como el AI Energy Score y una investigación más amplia sobre la huella energética de la IA, estamos impulsando la transparencia en la comunidad de código abierto," declararon los creadores del chat en su anuncio. "¡Algún día, el uso de energía podría ser tan visible como las etiquetas nutricionales en los alimentos!"

Cómo Probarlo Tú Mismo

Puedes experimentar con el chatbot aquí y cambiar entre varios modelos de código abierto, incluidos Google Gemma 3, Meta's Llama 3.3 y Mistral Nemo Instruct.

¿Interesado en más historias de IA? Suscríbete a Innovación, nuestro boletín semanal.