Pienet työpöydän tekoälymallit voivat kilpailla pilvijärjestelmien kanssa, Stanfordin tutkimus toteaa

Stanfordin yliopiston tutkimus herättää uutta huomiota havainnollaan, jonka mukaan työpöytätietokoneissa toimivat pienet kielimallit voivat vastata suurten pilvipohjaisten tekoälyjärjestelmien suorituskykyä valtaosassa tehtäviä – kuluttaen samalla huomattavasti vähemmän energiaa. Tutkimus, jossa esiteltiin uusi "älykkyys wattia kohden" -mittari, nostettiin esiin tällä viikolla Reutersin kolumnissa, jonka kirjoitti sijoitusstrategi Joachim Klement. Hän väitti, että tulokset herättävät kysymyksiä yhä suurempia tekoälymalleja rakentavien yritysten pitkän aikavälin kannattavuudesta.Inkl+1

Mitä tutkimus totesi

Stanfordin paperi, jonka kirjoittivat Jon Saad-Falcon, Avanika Narayan ja kollegat Stanfordin yliopistosta ja Together AI:sta, testasi yli 20 paikallista kielimallia, joissa oli jopa 20 miljardia aktiivista parametria, kahdeksalla laitteistokiihdyttimellä ja miljoonalla todellisella keskustelu- ja päättelykyselyllä. Tutkijat havaitsivat, että paikalliset mallit voivat vastata tarkasti 88,7 prosenttiin kyselyistä, ja tarkkuus ylitti 90 % luovissa tehtävissä ja pysyi vahvana myynnin, hallinnon ja viihteen sovelluksissa.Let's Data Science+3

Vaikeimmissa päättelytehtävissä pienet mallit pysyvät suurten kielimallien tahdissa noin 50 prosentissa tapauksista – mikä on nousua vain 8 prosentista kaksi vuotta aiemmin, Klementin analyysin mukaan. Tutkimus totesi myös, että "älykkyys wattia kohden" parani 5,3-kertaiseksi vuosien 2023 ja 2025 välillä, mikä johtui 3,1-kertaisesta hyödystä mallien parannuksista ja 1,7-kertaisesta hyödystä laitteiston kehityksestä.scalingintelligence.stanford+2

Energia- ja kustannusvaikutukset

Tehokkuushyödyillä on suoria taloudellisia seurauksia. "Oraakkeli"-reititystapa – kyselyjen ohjaaminen paikallisille malleille silloin kun ne kykenevät – voisi vähentää energiankulutusta 80,4 % ja laskentakustannuksia 73,8 % verrattuna pelkkään pilvipohjaiseen päättelyyn, Stanfordin tiimi totesi. Jopa epätäydellinen reititin, joka toimii 80 prosentin tarkkuudella, tuottaa silti yli 60 prosentin energiansäästöt.Linkedin

Tutkimuksen tulokset tulevat samaan aikaan, kun Nvidia ↘ 3.17%, joka toimittaa konesalien tekoälyä pyörittäviä GPU-piirejä, kohtaa kysymyksiä siitä, kasvaako keskitetyn laskennan kysyntä ennustetusti. Klement kirjoitti, että jos pienet mallit jatkavat kehittymistään nykyisellä tahdilla, Anthropicin, OpenAIn ja xAI:n kaltaisilla yrityksillä "voi olla syytä huoleen", koska "tekoälyn tulevaisuus voi olla pienempi, halvempi ja paljon vähemmän kannattava kuin sijoittajat odottavat".klementoninvesting.substack

Muuttuva maisema

Tutkimus heijastaa laajempaa alan trendiä. IBM International Business Machines Corporation ↗ 1.71% -tutkijat ovat testanneet malleja, kuten OpenAIn gpt-ossia, Qwen3:a ja IBM:n Granite 4.0:aa kuluttajalaitteistoilla, ja havainneet, että nykyiset paikalliset mallit saavuttavat korkeamman älykkyyden wattia kohden kuin vanhemman sukupolven mallit erikoistuneilla laitteistoilla. Nvidia itse julkaisi vuonna 2026 paperin, jossa väitettiin, että pienet kielimallit ovat "riittävän tehokkaita, luonnostaan sopivampia ja välttämättä taloudellisempia" agenttipohjaisille tekoälyjärjestelmille.IBM+1

Stanfordin paperi julkaistiin ensimmäisen kerran esijulkaisuna marraskuussa 2025, ja paikallisten kyselyiden kattavuus – se osuus todellisista kyselyistä, jotka paikalliset mallit voivat käsitellä tarkasti – on noussut 23,2 prosentista vuonna 2023 71,3 prosenttiin vuonna 2025.Let's Data Science+1