Das KI -Tool zeigt den Energieverbrauch einer einzelnen Chatbot -Eingabeaufforderung an

KI-Systeme sind berüchtigt für ihren hohen Energieverbrauch, doch die genaue Erfassung des Energieverbrauchs, insbesondere für einzelne Chatbot-Anfragen, bleibt schwierig. Um Licht in dieses Thema zu bringen, entwickelte ein Ingenieur von Hugging Face ein Werkzeug, das darauf abzielt, diese verborgenen Kosten aufzudecken.

Es ist leicht, sich in der ätherischen Sprache der KI-Infrastruktur zu verlieren, mit ihren häufigen Verweisen auf "die Cloud" und andere luftige Metaphern. Doch hinter diesem Schleier verbirgt sich die Realität energieintensiver Computer. KI-Systeme, die komplexe Berechnungen in Höchstgeschwindigkeit durchführen müssen, sind auf leistungsstarke Chips, mehrere GPUs und riesige Rechenzentren angewiesen. Jedes Mal, wenn Sie eine Frage an ChatGPT stellen, springen diese Komponenten an und verbrauchen Strom. Aus diesem Grund setzen viele Chatbots Nutzungsbeschränkungen für ihre kostenlosen Tarife – die Stromkosten machen die Bereitstellung dieser Dienste für die betreibenden Unternehmen zu einer teuren Angelegenheit.

Chat UI Energie

Um etwas Klarheit in dieses undurchsichtige Gebiet zu bringen, entwickelte Julien Delavande, ein Ingenieur bei Hugging Face, eine KI-Chat-Schnittstelle, die Echtzeit-Schätzungen des Energieverbrauchs für Ihre Gespräche anzeigt. Dieses Werkzeug vergleicht nicht nur den Energieverbrauch verschiedener Modelle, Aufgaben und Anfragen, sondern zeigt auch, wie eine Anfrage, die logisches Denken erfordert, mehr Energie verbrauchen könnte als eine einfache Faktenabfrage. Die Schnittstelle präsentiert den Energieverbrauch in nachvollziehbaren Einheiten wie Wattstunden und Joule sowie in greifbareren Vergleichen, wie dem Prozentsatz einer Handy-Ladung oder der Fahrzeit, die von der Environmental Protection Agency (EPA) bezogen werden.

Als ich Chat UI Energy nach dem Wetter in New York City fragte, teilte es mir mit, dass meine Anfrage etwa 9,5 % einer Handy-Ladung verbrauchte. Durch Klicken auf diese Schätzung konnte ich andere äquivalente Vergleiche sehen, wie 45 Minuten Nutzung einer LED-Lampe, 1,21 Sekunden Mikrowellenbetrieb und 0,15 Sekunden Toaster-Energie. Während das Gespräch fortgesetzt wurde, zeigte der Bot am unteren Rand des Chatfensters den Gesamtenergieverbrauch und die Dauer an.

Trotz der Einfachheit meiner Anfrage erforderte sie Internetzugang, den der Bot nicht hatte, was möglicherweise erklärt, warum die Antwort 90 Sekunden und mehr Energie als erwartet benötigte. Selbst als Schätzung erschienen 45 Minuten LED-Lampennutzung überraschend hoch und verdeutlichten die Energieanforderungen komplexerer, mehrstufiger Anfragen.

Während nur KI-Unternehmen präzise Daten über den Energieverbrauch ihrer Systeme haben, deuten Studien darauf hin, dass die Nachfrage steigt. Ein Bericht der Internationalen Energieagentur aus dem Jahr 2024 prognostiziert einen globalen Anstieg des Strombedarfs um 3,4 % bis 2026, teilweise getrieben durch die Expansion von Rechenzentren. Ebenso erwartet ein Bericht des Berkeley Lab Wachstumsraten von Rechenzentren zwischen „13 % und 27 % zwischen 2023 und 2028“.

Die Veröffentlichung dieses Werkzeugs unterstreicht den Unterschied zwischen Open-Source-Plattformen wie Hugging Face und geheimnisvolleren KI-Unternehmen. „Mit Projekten wie dem AI Energy Score und umfassenderen Forschungen zur Energiebilanz von KI drängen wir auf Transparenz in der Open-Source-Community“, erklärten die Entwickler des Chats in ihrer Ankündigung. „Eines Tages könnte der Energieverbrauch so sichtbar sein wie Nährwertkennzeichnungen auf Lebensmitteln!“

Wie Sie es selbst ausprobieren können

Sie können den Chatbot hier ausprobieren und zwischen verschiedenen Open-Source-Modellen wechseln, darunter Google Gemma 3, Meta's Llama 3.3 und Mistral Nemo Instruct.

Interessiert an weiteren KI-Geschichten? Abonnieren Sie Innovation, unseren wöchentlichen Newsletter.