Stenfordo tyrimas rodo, kad maži staliniai DI modeliai gali prilygti debesų kompiuterijos sistemoms

Stenfordo universiteto tyrimas sulaukė didelio dėmesio dėl išvados, kad maži kalbos modeliai, veikiantys staliniuose kompiuteriuose, gali prilygti didelių debesų kompiuterijos DI sistemų našumui atliekant daugumą užduočių, kartu suvartodami kur kas mažiau energijos. Tyrimas, kuriame pristatytas naujas „intelekto vienam vatui“ rodiklis, šią savaitę buvo aptartas „Reuters“ skiltyje, kurioje investicijų strategas Joachim Klement teigė, kad šios išvados kelia klausimų dėl ilgalaikio pelningumo įmonių, kuriančių vis didesnius DI modelius.Inkl+1

Ką nustatė tyrimas

Stenfordo universiteto mokslininkų Jon Saad-Falcon, Avanika Narayan ir jų kolegų iš „Together AI“ parengtame darbe buvo išbandyta daugiau nei 20 vietinių kalbos modelių su iki 20 milijardų aktyvių parametrų, naudojant aštuonis aparatinės įrangos greitintuvus ir milijoną realių vieno žingsnio pokalbių bei argumentavimo užklausų. Tyrėjai nustatė, kad vietiniai modeliai gali tiksliai atsakyti į 88,7 % užklausų, o kūrybinėse užduotyse tikslumas viršija 90 % ir išlieka aukštas pardavimų, valdymo bei pramogų srityse.Let's Data Science+3

Remiantis Klement analize, atliekant sudėtingiausias argumentavimo užduotis, maži modeliai maždaug 50 % atvejų prilygsta dideliems kalbos modeliams – tai didelis šuolis nuo vos 8 % prieš dvejus metus. Tyrimas taip pat parodė, kad „intelekto vienam vatui“ rodiklis 2023–2025 m. pagerėjo 5,3 karto, prie ko prisidėjo 3,1 karto geresni modeliai ir 1,7 karto pažangesnė aparatinė įranga.scalingintelligence.stanford+2

Energijos ir sąnaudų pasekmės

Šis efektyvumo padidėjimas turi tiesioginių ekonominių pasekmių. Stenfordo komanda nustatė, kad „oracle“ nukreipimo metodas – užklausų nukreipimas į vietinius modelius, kai jie yra pajėgūs jas atlikti – galėtų sumažinti energijos suvartojimą 80,4 %, o skaičiavimo sąnaudas – 73,8 %, palyginti su tik debesų kompiuterija pagrįsta išvada. Net ir netobulas maršrutizatorius, veikiantis 80 % tikslumu, vis tiek sumažina energijos sąnaudas daugiau nei 60 %.Linkedin

Tyrimo išvados pasirodė tuo metu, kai „Nvidia“ ↘ 3.17%, tiekianti duomenų centrų DI maitinančius GPU, susiduria su klausimais, ar centralizuotų skaičiavimų paklausa augs taip, kaip prognozuota. Klement rašė, kad jei maži modeliai ir toliau tobulės dabartiniu tempu, tokios įmonės kaip „Anthropic“, „OpenAI“ ir „xAI“ „gali turėti pagrindo nerimauti“, nes „DI ateitis gali būti mažesnė, pigesnė ir kur kas mažiau pelninga, nei tikisi investuotojai“.klementoninvesting.substack

Besikeičiantis kraštovaizdis

Šis tyrimas atspindi platesnę pramonės tendenciją. „IBM International Business Machines Corporation“ ↗ 1.71% mokslininkai išbandė tokius modelius kaip „OpenAI“ gpt-oss, „Qwen3“ ir „IBM Granite 4.0“ su vartotojų įranga ir nustatė, kad dabartiniai vietiniai modeliai pasiekia didesnį intelektą vienam vatui nei senesnės kartos modeliai, naudojantys specializuotą įrangą. Pati „Nvidia“ 2026 m. paskelbė straipsnį, kuriame teigiama, kad maži kalbos modeliai yra „pakankamai galingi, iš prigimties tinkamesni ir būtinai ekonomiškesni“ agentiniams DI sistemoms.IBM+1

Stenfordo straipsnis pirmą kartą buvo išleistas kaip išankstinė publikacija 2025 m. lapkritį, o vietinių užklausų aprėptis – realių užklausų dalis, kurias vietiniai modeliai gali tiksliai apdoroti – išaugo nuo 23,2 % 2023 m. iki 71,3 % 2025 m.Let's Data Science+1