Små AI-modeller for skrivebordet kan konkurrere med skysystemer, viser Stanford-studie

En Stanford-studie fant at små språkmodeller på stasjonære datamaskiner svarte nøyaktig på 88,7 % av reelle spørringer, noe som konkurrerer med store skybaserte AI-systemer.scalingintelligence.stanford+1
Investeringsstrateg Joachim Klement argumenterte i en Reuters-spalte onsdag for at funnene truer lønnsomheten til Anthropic, OpenAI og xAI.klementoninvesting.substack+1
Studiens «intelligens per watt»-metrikk forbedret seg 5,3 ganger fra 2023 til 2025, og en optimal rutingmetode kan kutte energikostnadene med over 80 %, fant forskerne.scalingintelligence.stanford+1

En studie fra Stanford University vekker oppsikt med funnet om at små språkmodeller som kjører på stasjonære datamaskiner, kan matche ytelsen til store skybaserte AI-systemer på de fleste oppgaver – samtidig som de bruker langt mindre energi. Forskningen, som introduserte en ny metrikk kalt «intelligens per watt», ble denne uken fremhevet i en Reuters-spalte av investeringsstrateg Joachim Klement, som argumenterte for at funnene reiser spørsmål om den langsiktige lønnsomheten til selskaper som bygger stadig større AI-modeller.Inkl+1

Hva studien fant

Stanford-artikkelen, forfattet av Jon Saad-Falcon, Avanika Narayan og kolleger fra Stanford University og Together AI, testet mer enn 20 lokale språkmodeller med opptil 20 milliarder aktive parametere på tvers av åtte maskinvareakseleratorer og én million reelle spørringer for chat og resonnering. Forskerne fant at lokale modeller kan svare nøyaktig på 88,7 % av spørringene, med en nøyaktighet som overstiger 90 % i kreative oppgaver og forblir sterk i applikasjoner for salg, ledelse og underholdning.Let's Data Science+3

På de vanskeligste resonneringsoppgavene holder små modeller følge med store språkmodeller i omtrent 50 % av tilfellene – opp fra bare 8 % to år tidligere, ifølge Klements analyse av funnene. Studien fant også at «intelligens per watt» forbedret seg 5,3 ganger mellom 2023 og 2025, drevet av en 3,1x gevinst fra modellforbedringer og 1,7x fra maskinvarefremskritt.scalingintelligence.stanford+2

Energi- og kostnadskonsekvenser

Effektivitetsgevinstene har direkte økonomiske konsekvenser. En «orakel»-rutingmetode – å dirigere spørringer til lokale modeller når de er kapable – kan kutte energibruken med 80,4 % og beregningskostnadene med 73,8 % sammenlignet med sky-inferens alene, fant Stanford-teamet. Selv en ufullkommen ruter som opererer med 80 % nøyaktighet, gir fortsatt energireduksjoner på over 60 %.Linkedin

Studiens funn kommer samtidig som Nvidia , som leverer GPU-ene som driver datasenter-AI, står overfor spørsmål om hvorvidt etterspørselen etter sentralisert datakraft vil vokse som forventet. Klement skrev at hvis små modeller fortsetter å forbedre seg i sitt nåværende tempo, kan selskaper som Anthropic, OpenAI og xAI «ha grunn til å bekymre seg» fordi «fremtiden for AI kan bli mindre, billigere og langt mindre lønnsom enn investorer forventer».klementoninvesting.substack

Et skiftende landskap

Forskningen reflekterer en bredere bransjetrend. Forskere ved IBM International Business Machines Corporation har testet modeller inkludert OpenAIs gpt-oss, Qwen3 og IBMs Granite 4.0 på forbrukermaskinvare, og funnet at nåværende lokale modeller oppnår høyere intelligens per watt enn eldre generasjons modeller på spesialisert maskinvare. Nvidia publiserte selv en artikkel i 2026 som argumenterer for at små språkmodeller er «tilstrekkelig kraftige, iboende mer egnede og nødvendigvis mer økonomiske» for agentiske AI-systemer.IBM+1

Stanford-artikkelen ble først utgitt som et preprint i november 2025, med lokal spørringsdekning – andelen reelle spørringer lokale modeller kan håndtere nøyaktig – som har steget fra 23,2 % i 2023 til 71,3 % i 2025.Let's Data Science+1

Kilder (27)