KI-Agenten verbrauchen bis zu 136,5-mal mehr Energie pro Anfrage als Chatbots

Eine neue Studie zeigt, dass KI-Agenten pro Anfrage bis zu 136,5-mal mehr Energie verbrauchen können als ein herkömmlicher Chatbot bei einer vergleichbaren Aufgabe. Der zusätzliche Strombedarf entsteht nicht durch klügere Antworten, sondern dadurch, wie häufig diese Systeme innehalten, nachdenken, Werkzeuge einsetzen und ihren nächsten Schritt erneut bewerten.

Damit wird aus einer Frage raffinierter Software eine Frage der Stromversorgung. Sollten Agenten auch nur einen Teil alltäglicher Online-Aufgaben übernehmen, könnten sie der Studie zufolge einen Energiebedarf erzeugen, der nationale Stromnetze belastet und den Aufbau der Infrastruktur hinter KI verändert.

Warum KI-Agenten Strom verbrauchen

Ein klassischer Chatbot beantwortet eine Anfrage in einem einzigen Durchlauf: Man stellt eine Frage, das Modell läuft einmal, und die Antwort erscheint. Ein Agent funktioniert anders. Er zerlegt ein Ziel in einzelne Schritte, nutzt externe Werkzeuge wie Suchmaschinen oder Taschenrechner, wertet deren Ergebnisse aus und entscheidet anschließend über die nächste Aktion. Dieser Vorgang wiederholt sich, bis er zu einer Antwort gelangt.

Die von Professor Minsoo Rhu von der Fakultät für Elektrotechnik des Korea Advanced Institute of Science and Technology (KAIST) geleitete Forschungsarbeit wollte ermitteln, was diese Schleifen kosten. Dabei handelte es sich um eine direkte Messung. Die Forschenden führten fünf Agenten-Architekturen bei Aufgaben wie Fragebeantwortung, Einkaufen, Mathematik und Programmierung aus und protokollierten jeden Aufruf des Modells.

Die erste Überraschung betraf die Menge der Aufrufe. Ein einfacher Chatbot ruft sein Sprachmodell pro Anfrage einmal auf, während die Agenten im Durchschnitt ungefähr neunmal so viele Aufrufe tätigten.

Eine Architektur ging noch deutlich weiter. Ein als LATS bezeichneter Tree-Search-Agent benötigte für eine einzelne Anfrage durchschnittlich 71 Modellaufrufe. Er startete getrennte Aufrufe, um mehrere Denkwege zu untersuchen, bevor er sich für einen entschied.

Das Problem unbeschäftigter GPUs

Die vielen Aufrufe erhöhen nicht nur den Stromverbrauch, sondern auch die benötigte Zeit. Jeder Schritt hängt vom vorherigen ab, weil das Modell zunächst das Ergebnis eines Werkzeugs sehen muss, ehe es den nächsten Schritt festlegen kann.

Diese Abfolge lässt sich nur schwer beschleunigen. In den Tests der Studie konnte ein Agent mehr als 150-mal länger für den Abschluss brauchen als ein Chatbot für die Beantwortung einer vergleichbaren Frage.

Die ungewöhnlichste Belastung steckt in der Hardware. Die teuren GPUs – spezialisierte Chips, auf denen diese Modelle laufen – bleiben unbeschäftigt, während ein Agent auf die Antwort einer Websuche oder eines Taschenrechners wartet. Bei manchen Aufgaben waren die Chips bis zu 54 % der Laufzeit ungenutzt: eingeschaltet, aber ohne sinnvolle Arbeit zu verrichten.

Strombedarf im Maßstab von Netzen

In Wattstunden gemessen wird der Unterschied greifbar. Auf einem Modell mit 70 Milliarden Parametern, das in seiner Größenordnung heutigen kommerziellen KI-Diensten nahekommt, benötigte ein reflexionsbasierter Agent namens Reflexion durchschnittlich etwa 348 Wattstunden für eine Anfrage. Dasselbe Modell verbrauchte bei einer gewöhnlichen Chatbot-Anfrage ungefähr 2,5 Wattstunden.

Forschende hatten schon lange vermutet, dass Agenten kostspielig sind, doch zuvor hatte niemand das Ausmaß unmittelbar gemessen. Frühere Arbeiten zeigten, dass universelle generative KI wesentlich energiehungriger ist als auf bestimmte Aufgaben zugeschnittene Software; eine häufig zitierte Studie stellte fest, dass sie pro Aufgabe um Größenordnungen mehr Energie benötigen kann. Die neuen Ergebnisse übertragen dieses Muster auf die schleifenbasierte Welt der Agenten.

Die Hochrechnungen übertragen diese Differenz auf nationale Stromnetze. Würden Agenten eines Tages 13,7 Milliarden Anfragen täglich bearbeiten – entsprechend dem aktuellen Google-Suchaufkommen –, könnte der erforderliche Leistungsbedarf laut Studie an 200 Gigawatt heranreichen.

Das entspricht beinahe der Hälfte der durchschnittlichen Last des gesamten Stromnetzes der Vereinigten Staaten. Zugleich liegt es weit über der Kapazität jedes derzeit geplanten KI-Rechenzentrums, einschließlich der Standorte im Bereich mehrerer Gigawatt, die Technologieunternehmen derzeit zügig errichten wollen.

Auch beim heutigen Datenverkehr bleibt der Bedarf hoch. Schon eine einzelne Anfrage im Stil von ChatGPT benötigt etwa zehnmal so viel Strom wie eine Websuche, und separate Forschungsergebnisse warnten, dass der gesamte Energiehunger der KI bald mit dem eines kleinen Landes vergleichbar sein könnte.

Grenzen der Skalierung

Mehr Rechenleistung führt durchaus zu besseren Antworten. Der Haken: Die Verbesserungen lassen nach. Ab einem bestimmten Punkt flacht die Genauigkeit ab, während die Stromrechnung weiter steigt. Die Forschenden nennen diesen Ansatz Testzeit-Skalierung: Zusätzliche Rechenleistung wird eingesetzt, während ein Modell eine Antwort ermittelt, statt das Modell selbst zu vergrößern.

Diese Erträge nehmen rasch ab. Bei einem Agenten kostete es etwa 31-mal mehr Rechenleistung, nahe der Obergrenze einige zusätzliche Genauigkeitspunkte herauszuholen, als derselbe Zugewinn zu einem früheren Zeitpunkt gekostet hatte.

Nicht jeder Weg führt in eine Sackgasse. Als das Team einem Agenten erlaubte, mehrere Denkwege gleichzeitig statt nacheinander zu untersuchen, stieg die Genauigkeit, während die Antwortzeit ebenfalls sank. Ein kleineres Modell mit diesem Ansatz kam nahezu an ein wesentlich größeres Modell heran und verbrauchte dabei weniger Energie.

Die Belastung zeigt sich bereits in Werkzeugen, die Menschen verwenden. Die für diese Art mehrstufiger Arbeit entwickelte Funktion Deep Research von OpenAI kann für eine einzelne Anfrage bis zu 30 Minuten benötigen. Um die Kosten unter Kontrolle zu halten, begrenzt das Unternehmen, wie oft Abonnenten sie ausführen dürfen.

Intelligenter gebaute KI-Agenten

Was früher unklar blieb, ist nun messbar. Bis zu dieser Studie wurde der Strombedarf hinter dem Denken eines Agenten überwiegend geschätzt; jetzt belegen konkrete Zahlen, dass die Kosten mit jeder zusätzlichen Schleife steigen und zusätzliche Schleifen ab einem bestimmten Punkt nur noch wenig bringen.

Rhu betrachtet das Ergebnis als Veränderung dessen, was Fortschritt bedeuten sollte. „Diese Studie zeigt erstmals quantitativ nicht nur, wie KI intelligenter wird, sondern auch, wie viel Strom und Kosten erforderlich sind, um diese Intelligenz umzusetzen und aufrechtzuerhalten“, sagte Rhu.

Die Studie plädiert für schlankere Architekturen statt größerer Systeme. Eine von den Autorinnen und Autoren hervorgehobene Möglichkeit ist die Kombination kleiner und großer Modelle: Ein leichtgewichtiges Modell übernimmt Routineaufgaben, während ein leistungsstarkes Modell nur eingesetzt wird, wenn eine Aufgabe es tatsächlich erfordert. Ein aktueller Fachbeitrag argumentiert, dass dies sowohl Kosten als auch Verzögerungen senken könnte.

Für Menschen, die diese Werkzeuge nutzen, wird der Zielkonflikt in alltäglichen Beschränkungen sichtbar, etwa in Obergrenzen für die Anzahl tiefgehender Anfragen, die ein Abonnement zulässt. Die größere Frage lautet, ob die Branche Kraftwerke für brute-force-basierte Agenten baut oder von Beginn an intelligentere Agenten entwickelt, die weniger Strom benötigen.