Studie KAIST: Agenti AI spotřebují 136,5krát více energie než chatboti

První studie svého druhu z jihokorejského institutu Korea Advanced Institute of Science and Technology (KAIST) vyčíslila energetické náklady agentů AI a zjistila, že tyto autonomní systémy spotřebují na jeden dotaz až 136,5krát více elektřiny než běžní generativní chatboti s AI – propast, která podle varování výzkumníků může zatížit globální elektrické sítě, jakmile se AI založená na agentech stane běžnou záležitostí.

Energetická propast

Studie, kterou vedl profesor KAIST Rhu Min-soo a která byla zveřejněna o víkendu, měřila odběr energie agentů AI – systémů, které jdou nad rámec zodpovězení jediné otázky a nezávisle plánují a provádějí vícekrokové úkoly, jako je správa rozpočtu nebo rezervace cest. Na rozdíl od standardního chatbota, který zpracuje dotaz a zastaví se, agent AI opakovaně prochází svůj základní jazykový model, vyhledává na webu, provádí výpočty a samostatně vydává příkazy.koreatimes+1

Tato autonomie má vysokou cenu. Při použití velkého jazykového modelu se 70 miliardami parametrů – srovnatelného se současnými komerčními službami AI – výzkumníci zjistili, že jeden komplexní dotaz agenta spotřeboval v průměru 348,41 watthodin elektřiny. V benchmarkovém testování spotřeboval agentní rámec známý jako Reflexion na modelu Meta Llama-3.1-Instruct 70B o 136,5krát více energie GPU na dotaz než standardní chatbot s jedním obratem, zatímco jiný rámec nazvaný LATS spotřeboval 62,1krát více.letsdatascience+2

Výzkumníci také zjistili, že generování dotazů agentů trvá až 153,7krát déle než odpovědi chatbotů a že drahé čipy GPU jsou více než polovinu času nečinné a spalují elektřinu, zatímco čekají na odpověď externích nástrojů a webových stránek.koreatimes

Síť pod tlakem

Nejalarmující projekce studie se týká rozsahu. Pokud by využívání agentů AI vzrostlo na odhadovaných 13,7 miliardy denních požadavků po celém světě, celková poptávka datových center po elektřině by mohla dosáhnout přibližně 199 gigawattů – což je zhruba polovina průměrné spotřeby elektřiny celých Spojených států.aintelligencehub+1

Toto číslo převyšuje současnou zátěž datových center. Podle Lawrence Berkeley National Laboratory spotřebovala datová centra v USA v roce 2023 přibližně 176 terawatthodin, což je zhruba 4,4 procenta národní spotřeby elektřiny. Mezinárodní energetická agentura předpokládá, že celosvětová spotřeba elektřiny datovými centry se do roku 2030 více než zdvojnásobí na přibližně 945 terawatthodin, ale studie KAIST naznačuje, že pracovní zátěž agentní AI by mohla poptávku urychlit daleko za tyto prognózy.iea+1

Výzva k přepracování

Rhu varoval, že technologický průmysl se nemůže při řešení tohoto problému spoléhat pouze na chytřejší software. Místo toho vyzval k zásadnímu přepracování modelů AI, mikročipů a energetické infrastruktury datových center, aby zvládly zátěž, kterou agentní AI přinese. Studie přichází v době, kdy velké technologické společnosti závodí v nasazování agentů AI napříč podnikovými a spotřebitelskými aplikacemi, což vyvolává nové otázky o tom, zda elektrická síť dokáže držet krok s ambicemi AI.koreatimes