KAIST-tutkimus: AI-agentit kuluttavat 136,5 kertaa enemmän virtaa kuin chatbotit

Eteläkorealaisen Korea Advanced Institute of Science and Technology (KAIST) -instituutin ensimmäinen laatuaan oleva tutkimus on mitannut tekoälyagenttien energiakustannuksia. Tutkimuksessa havaittiin, että nämä autonomiset järjestelmät kuluttavat jopa 136,5 kertaa enemmän sähköä kyselyä kohden kuin perinteiset generatiiviset tekoälychatbotit – ero, jonka tutkijat varoittavat voivan kuormittaa maailmanlaajuisia sähköverkkoja, kun agenttipohjainen tekoäly yleistyy.

Energiakuilu

KAIST-professori Rhu Min-soon johtama ja viikonloppuna julkaistu tutkimus mittasi tekoälyagenttien virrankulutusta. Nämä järjestelmät eivät vain vastaa yhteen kysymykseen, vaan ne suunnittelevat ja suorittavat itsenäisesti monivaiheisia tehtäviä, kuten budjetin hallintaa tai matkojen varaamista. Toisin kuin tavallinen chatbot, joka käsittelee kyselyn ja pysähtyy, tekoälyagentti käy toistuvasti läpi taustalla olevaa kielimalliaan, etsii tietoa verkosta, suorittaa laskelmia ja antaa komentoja itsenäisesti.koreatimes+1

Tämä autonomia on kallista. Käyttämällä 70 miljardin parametrin suurta kielimallia – joka vastaa nykyisiä kaupallisia tekoälypalveluita – tutkijat havaitsivat, että yksi monimutkainen agenttikysely kulutti keskimäärin 348,41 wattituntia sähköä. Vertailutesteissä Metan Llama-3.1-Instruct 70B -mallilla toimiva Reflexion-agenttikehys kulutti 136,5 kertaa enemmän GPU-energiaa kyselyä kohden kuin tavallinen yksivaiheinen chatbot, kun taas toinen LATS-niminen kehys kulutti 62,1 kertaa enemmän.letsdatascience+2

Tutkijat havaitsivat myös, että agenttikyselyiden tuottaminen kestää jopa 153,7 kertaa kauemmin kuin chatbot-vastausten, ja että kalliit GPU-sirut ovat käyttämättöminä yli puolet ajasta, kuluttaen sähköä odottaessaan ulkoisten työkalujen ja verkkosivustojen vastausta.koreatimes

Paineen alla oleva sähköverkko

Tutkimuksen hälyttävin ennuste koskee mittakaavaa. Jos tekoälyagenttien käyttö kasvaa arviolta 13,7 miljardiin päivittäiseen pyyntöön maailmanlaajuisesti, konesalien kokonaissähkön kysyntä voi nousta noin 199 gigawattiin – mikä on noin puolet koko Yhdysvaltojen keskimääräisestä sähkönkulutuksesta.aintelligencehub+1

Tämä luku on huomattavasti suurempi kuin nykyiset konesalien kuormat. Lawrence Berkeley National Laboratoryn mukaan Yhdysvaltain konesalit kuluttivat noin 176 terawattituntia vuonna 2023, mikä on noin 4,4 prosenttia maan sähkönkulutuksesta. Kansainvälinen energiajärjestö IEA ennustaa, että konesalien maailmanlaajuinen sähkönkulutus yli kaksinkertaistuu noin 945 terawattituntiin vuoteen 2030 mennessä, mutta KAIST-tutkimus viittaa siihen, että agenttipohjaiset tekoälytyökuormat voivat kiihdyttää kysyntää huomattavasti näitä ennusteita nopeammin.iea+1

Kutsu uudelleensuunnitteluun

Rhu varoitti, että teknologiateollisuus ei voi luottaa pelkästään älykkäämpään ohjelmistoon ongelman ratkaisemiseksi. Sen sijaan hän vaati tekoälymallien, mikrosirujen ja konesalien sähköinfrastruktuurin perusteellista uudelleensuunnittelua, jotta ne pystyvät käsittelemään agenttipohjaisen tekoälyn aiheuttamaa työkuormaa. Tutkimus julkaistaan aikana, jolloin suuret teknologiayritykset kilpailevat tekoälyagenttien käyttöönotosta yritys- ja kuluttajasovelluksissa, mikä herättää uusia kysymyksiä siitä, pysyykö sähköverkko tekoälyn kunnianhimoisten tavoitteiden perässä.koreatimes