KAIST-Studie: KI-Agenten verbrauchen 136,5-mal mehr Strom als Chatbots

Eine erste Studie dieser Art des Korea Advanced Institute of Science and Technology (KAIST) in Südkorea hat die Energiekosten von KI-Agenten quantifiziert und festgestellt, dass diese autonomen Systeme pro Anfrage bis zu 136,5-mal mehr Strom verbrauchen als herkömmliche generative KI-Chatbots – eine Lücke, die laut Forschern die globalen Stromnetze belasten könnte, wenn agentenbasierte KI zum Mainstream wird.

Die Energielücke

Die Studie, die von KAIST-Professor Rhu Min-soo geleitet und am Wochenende veröffentlicht wurde, maß die Leistungsaufnahme von KI-Agenten – Systemen, die über die Beantwortung einer einzelnen Frage hinausgehen und eigenständig mehrstufige Aufgaben planen und ausführen, wie etwa die Verwaltung eines Budgets oder die Buchung von Reisen. Im Gegensatz zu einem Standard-Chatbot, der eine Anfrage verarbeitet und stoppt, durchläuft ein KI-Agent wiederholt sein zugrunde liegendes Sprachmodell, durchsucht das Internet, führt Berechnungen durch und erteilt eigenständig Befehle.koreatimes+1

Diese Autonomie hat einen hohen Preis. Unter Verwendung eines Large Language Models mit 70 Milliarden Parametern – vergleichbar mit aktuellen kommerziellen KI-Diensten – stellten die Forscher fest, dass eine einzelne komplexe Agenten-Anfrage durchschnittlich 348,41 Wattstunden Strom verbrauchte. Bei Benchmarking-Tests verbrauchte das Agenten-Framework namens Reflexion auf Metas Llama-3.1-Instruct 70B 136,5-mal mehr GPU-Energie pro Anfrage als eine Standard-Chatbot-Basislinie mit einer einzelnen Interaktion, während ein anderes Framework namens LATS 62,1-mal mehr verbrauchte.letsdatascience+2

Die Forscher fanden zudem heraus, dass Agenten-Anfragen bis zu 153,7-mal länger zur Generierung benötigen als Chatbot-Antworten und dass teure GPU-Chips mehr als die Hälfte der Zeit im Leerlauf sind und Strom verbrauchen, während sie auf die Antwort externer Tools und Websites warten.koreatimes

Ein unter Druck stehendes Stromnetz

Die alarmierendste Prognose der Studie betrifft den Maßstab. Wenn die Nutzung von KI-Agenten weltweit auf geschätzte 13,7 Milliarden tägliche Anfragen ansteigt, könnte der gesamte Strombedarf der Rechenzentren etwa 199 Gigawatt erreichen – das entspricht etwa der Hälfte des durchschnittlichen Stromverbrauchs der gesamten Vereinigten Staaten.aintelligencehub+1

Diese Zahl übertrifft die aktuellen Lasten von Rechenzentren bei weitem. US-Rechenzentren verbrauchten 2023 etwa 176 Terawattstunden, was laut dem Lawrence Berkeley National Laboratory etwa 4,4 Prozent des nationalen Stromverbrauchs entspricht. Die Internationale Energieagentur prognostiziert, dass der weltweite Stromverbrauch von Rechenzentren bis 2030 auf etwa 945 Terawattstunden mehr als verdoppelt wird, aber die KAIST-Studie deutet darauf hin, dass agentenbasierte KI-Arbeitslasten den Bedarf weit über diese Prognosen hinaus beschleunigen könnten.iea+1

Ein Aufruf zur Neugestaltung

Rhu warnte, dass sich die Technologiebranche nicht allein auf intelligentere Software verlassen könne, um das Problem zu lösen. Stattdessen forderte er eine grundlegende Neugestaltung von KI-Modellen, Mikrochips und der Strominfrastruktur von Rechenzentren, um die Arbeitslast zu bewältigen, die agentenbasierte KI mit sich bringen wird. Die Studie erscheint zu einem Zeitpunkt, an dem große Technologieunternehmen im Wettlauf darum sind, KI-Agenten in Unternehmens- und Verbraucheranwendungen einzusetzen, was neue Fragen darüber aufwirft, ob das Stromnetz mit den KI-Ambitionen Schritt halten kann.koreatimes