Das KI -Tool zeigt den Energieverbrauch einer einzelnen Chatbot -Eingabeaufforderung an

KI -Systeme sind für ihren hohen Energieverbrauch berüchtigt und weisen jedoch den genauen Energieverbrauch, insbesondere für einzelne Chatbot -Abfragen, schwer fassbar. Um dieses Problem zu beleuchten, entwickelte ein umarmender Gesichtsingenieur ein Werkzeug, das darauf abzielt, diese versteckten Kosten aufzudecken.

Es ist leicht, sich in der ätherischen Sprache der AI -Infrastruktur zu verirren, mit ihren häufigen Hinweisen auf "The Cloud" und andere luftige Metaphern. Unter diesem Schleier befindet sich jedoch eine Realität von energieintensiven Computern. KI -Systeme, die komplexe Berechnungen mit brennenden Geschwindigkeiten durchführen müssen, stützen sich auf leistungsstarke Chips, mehrere GPUs und riesige Rechenzentren. Jedes Mal, wenn Sie Chatgpt eine Frage stellen, treten diese Komponenten in Aktion und verbrauchen Strom. Aus diesem Grund stellen viele Chatbots ihren freien Ebenen Nutzungsgrenzen auf - die Kosten für Strom machen die Berechnung zu einer teuren Angelegenheit für die Unternehmen, die diese Dienste veranstalten.

Chat -UI -Energie

Um in diesem trüben Gebiet etwas Klarheit zu bringen, erstellte Julien Delavande, ein Ingenieur bei Hugging Face, eine AI-Chat-Schnittstelle, auf der Schätzungen für Ihre Gespräche Echtzeit-Energieverbrauchsschätzungen angezeigt werden. Dieses Tool vergleicht nicht nur den Energieverbrauch verschiedener Modelle, Aufgaben und Anfragen, sondern zeigt auch, wie eine Eingabeaufforderung, die Argumentation erfordert, mehr Energie verbrauchen kann als eine einfache Faktenabfrage. Die Schnittstelle stellt den Energieverbrauch in zuordenbaren Metriken wie Wattstunden und Joule sowie greifbare Vergleiche wie den Prozentsatz einer Telefonladung oder Fahrzeit aus, die von der Environmental Protection Agency (EPA) bezogen werden.

Als ich die Chat -UI -Energie über das Wetter in New York City fragte, teilte es mir mit, dass meine Anfrage etwa 9,5% einer Telefongebühr verwendete. Durch Klicken auf diese Schätzung konnte ich andere äquivalente Vergleiche wie 45 Minuten LED -Zwiebelgebrauch, 1,21 Sekunden der Mikrowellenkonsum und 0,15 Sekunden Toasterergie sehen. Während des Gesprächs zeigte der Bot den gesamten Energieverbrauch und die Dauer am unteren Rand des Chat -Fensters.

Trotz der Einfachheit meiner Anfrage erforderte es einen Internetzugang, was dem Bot fehlte, und möglicherweise erklärte, warum es 90 Sekunden und mehr Energie dauerte, als erwartet zu reagieren. Auch als Schätzung schienen 45 Minuten LED-Zwiebelkonsum überraschend hoch zu sein und die Energiebedarf komplexer, mehrstufiger Eingabeaufforderungen.

Während nur AI -Unternehmen genaue Daten zum Energieverbrauch ihrer Systeme haben, legen Studien nahe, dass die Nachfrage steigt. Ein Bericht über die Internationale Energieagentur 2024 prognostiziert bis 2026 einen weltweiten Strombedarf von 3,4%, teilweise auf die Expansion von Rechenzentren zurückzuführen. In ähnlicher Weise antizipiert ein Berkeley -Laborbericht die Wachstumsraten des Rechenzentrums von "13% bis 27% zwischen 2023 und 2028".

Die Veröffentlichung dieses Tools unterstreicht den Unterschied zwischen Open-Source-Plattformen wie dem Umarmen und geheimeren KI-Unternehmen. "Mit Projekten wie dem KI-Energiebereich und der breiteren Forschung über den Energieausdruck von AI drängen wir in der Open-Source-Community nach Transparenz", erklärte die Schöpfer des Chats in ihrer Ankündigung. "Eines Tages könnte der Energieverbrauch so sichtbar sein wie Nährwertetiketten für Lebensmittel!"

Wie man es selbst ausprobiert

Sie können hier mit dem Chatbot experimentieren und zwischen verschiedenen Open-Source-Modellen wechseln, einschließlich Google Gemma 3, LLAMA 3.3 von Meta und Mistral Nemo.

Interessiert an mehr KI -Geschichten? Abonnieren Sie Innovation, unser wöchentlicher Newsletter.