A ferramenta de IA revela o consumo de energia de um único prompt de chatbot

Sistemas de IA são notórios pelo alto consumo de energia, mas identificar o uso exato, especialmente para consultas individuais de chatbots, permanece elusivo. Para esclarecer essa questão, um engenheiro da Hugging Face desenvolveu uma ferramenta para revelar esses custos ocultos.

É fácil se perder na linguagem etérea da infraestrutura de IA, com referências frequentes a "a nuvem" e outras metáforas leves. No entanto, por trás desse véu, há uma realidade de computadores intensivos em energia. Sistemas de IA, que precisam realizar cálculos complexos em alta velocidade, dependem de chips poderosos, múltiplas GPUs e vastos centros de dados. Toda vez que você faz uma pergunta ao ChatGPT, esses componentes entram em ação, consumindo eletricidade. É por isso que muitos chatbots impõem limites de uso em suas camadas gratuitas — o custo da eletricidade torna a computação uma atividade cara para as empresas que hospedam esses serviços.

Energia do Chat UI

Para trazer clareza a essa área obscura, Julien Delavande, engenheiro da Hugging Face, criou uma interface de chat de IA que exibe estimativas de uso de energia em tempo real para suas conversas. Essa ferramenta não apenas compara o consumo de energia de diferentes modelos, tarefas e solicitações, mas também destaca como um prompt que exige raciocínio pode consumir mais energia do que uma consulta simples de busca de fatos. A interface apresenta o uso de energia em métricas relacionáveis, como Watt-horas e Joules, além de comparações mais tangíveis, como a porcentagem de uma carga de celular ou tempo de condução, obtidas da Environmental Protection Agency (EPA).

Quando perguntei ao Chat UI Energy sobre o clima em Nova York, ele me informou que minha consulta usou cerca de 9,5% de uma carga de celular. Ao clicar nessa estimativa, pude ver outras comparações equivalentes, como 45 minutos de uso de uma lâmpada LED, 1,21 segundos de uso de micro-ondas e 0,15 segundos de energia de torradeira. À medida que a conversa continuava, o bot exibia o uso total de energia e a duração na parte inferior da janela de chat.

Apesar da simplicidade da minha consulta, ela exigiu acesso à internet, que o bot não tinha, possivelmente explicando por que levou 90 segundos e mais energia do que o esperado para responder. Mesmo como estimativa, 45 minutos de uso de uma lâmpada LED pareceram surpreendentemente altos, colocando em perspectiva as demandas de energia de prompts mais complexos e com várias etapas.

Embora apenas empresas de IA tenham dados precisos sobre o consumo de energia de seus sistemas, estudos sugerem que a demanda está aumentando. Um relatório da International Energy Agency de 2024 prevê um aumento na demanda global de eletricidade de 3,4% até 2026, parcialmente impulsionado pela expansão de centros de dados. Da mesma forma, um relatório do Berkeley Lab prevê taxas de crescimento de centros de dados de "13% a 27% entre 2023 e 2028."

O lançamento dessa ferramenta destaca a diferença entre plataformas de código aberto como a Hugging Face e empresas de IA mais reservadas. "Com projetos como o AI Energy Score e pesquisas mais amplas sobre a pegada energética da IA, estamos promovendo transparência na comunidade de código aberto," afirmaram os criadores do chat em seu anúncio. "Um dia, o uso de energia pode ser tão visível quanto rótulos nutricionais em alimentos!"

Como Experimentar Você Mesmo

Você pode experimentar o chatbot aqui e alternar entre vários modelos de código aberto, incluindo Google Gemma 3, Meta's Llama 3.3 e Mistral Nemo Instruct.

Interessado em mais histórias sobre IA? Inscreva-se no Innovation, nosso boletim semanal.