päättely

Cerebras julkaisi ultranopean tilan OpenAI:n GPT-5.6 Sol -mallille

Cerebras Systems ilmoitti torstaina tarjoavansa uuden "ultranopean" palvelutason OpenAI:n API:ssa GPT-5.6 Sol -mallille. Se tuottaa jopa 750 tulostus-tokenia sekunnissa, mikä on jopa 14 kertaa nopeampaa kuin vakiokäsittely, ilman että mallin älykkyys kärsii.

AMD ostaa startup-yrityksen, joka koodaa tekoälymallit suoraan siruihin

Advanced Micro Devices, Inc. ilmoitti torstaina tehneensä lopullisen sopimuksen Torontossa toimivan Taalas-yrityksen ostamisesta. Startup kehittää teknologiaa, jossa tekoälymallien painoarvot koodataan suoraan piiin, mikä mahdollistaa perinteisiä GPU-suorittimia huomattavasti nopeamman päättelyn. Taloudellisia ehtoja ei julkistettu.

OpenAI löysi optimoinnin, joka puolittaa päättelykustannukset

OpenAI:n insinöörit kehittivät aiemmin tässä kuussa optimoinnin, joka vähentää päättelykustannuksia yli puolella niissä malleissa, joihin sitä on sovellettu, kertoo The Information -raportti. Läpimurto, joka perustuu olemassa olevien palvelinresurssien tehokkaampaan hyödyntämiseen lisäsirujen käyttöönoton sijaan, merkitsee merkittävää edistysaskelta suurten kielimallien ajamisen taloudellisuudessa…