Musk planlegger begrenset lansering av Grok 4.8 etter kodeskriving

Elon Musk sa tirsdag at Grok 4.8 vil starte en begrenset utrulling senere denne uken. Han forklarte at selskapet bak chatboten har erstattet eksterne programvarerammer med egen kode, noe som forsinket modellen. "Vi har dumpet JAX/SGLang og skrevet om hele RL- og inferensstakken fra bunnen av i C/C++, noe som tok litt ekstra tid," skrev Musk på X, ifølge Anadolu Agency. Selskapet heter nå SpaceX Super Intelligence og var tidligere kjent som xAI.breakingthenews.net

Oppdateringen kommer mens xAI forsøker å flytte brukere bort fra Grok 4.7, som ble lansert i september. Musk var åpenlyst kritisk til den modellen og oppga ingen ytelsestall for den nye.

Status for Grok 4.8

Musk sa at forhåndstreningen er ferdig og at "mye opprydding var nødvendig i SFT-dataene for å få det meste riktig." SFT står for veiledet finjustering (supervised fine-tuning). Han la til at "4.8 er i RL-fasen og evalueringene begynner å klatre," ifølge FourWeekMBA, som siterte innlegget publisert kl. 09:35 UTC den 10. november. RL refererer til forsterkningslæring, fasen der en modell trenes mot belønninger. "Vi vil gjøre en begrenset utrulling til Bot-brukere senere denne uken og se hvordan det går," skrev Musk. Han sa ikke hvor stor utrullingen vil være, om API-kunder får tilgang, eller hva modellen vil koste, bemerket FourWeekMBA.fourweekmba.com

Tesla-sjefen kom også med et stikk til den nåværende modellen. "Grok 4.8 vil ikke ligne på 4.7 (heldigvis). Den er ikke utrolig ennå, men denne gangen er fundamentet bygget riktig, så jeg forventer at den utvikler seg til å bli noe spesielt," skrev han. Grok 4.7 ble lansert 21. september.breakingthenews.net

En forsinkelse på 57 dager

Innlegget kom 57 dager etter at Musk skrev den 14. september at Grok 4.8 "vil fullføre treningen denne uken og starte RL," beregnet FourWeekMBA. I det tidligere innlegget beskrev Musk 4.8 som "en 2.5T-modell trent med vår nye C++ programvarestakk." Det betydde at forhåndstreningen allerede hadde gått over til egenutviklet kode. Det nye innlegget sier at stadiene for forsterkningslæring og inferens nå også er flyttet. Forsterkningslæringen hadde fremdeles vært avhengig av eldre, patchede programvarestakker på tidspunktet for september-innlegget.lookonchain.com+1

Endringen er et brudd med hvordan Grok opprinnelig ble bygget. xAIs lanseringsinnlegg fra november 2023 sa at selskapet hadde bygget "en tilpasset trenings- og inferensstakk basert på Kubernetes, Rust og JAX," rapporterte FourWeekMBA. JAX er et bibliotek for matriseberegninger fra Google-forskere. SGLang er et åpen kildekode-rammeverk for å kjøre store språkmodeller.fourweekmba.com

Konkurransemessig timing

Den begrensede lanseringen kommer dager etter rivaliserende utgivelser. Anthropic annonserte Claude Fable 5.2 den 9. november, og Google annonserte Gemini 4 Carbon den 28. oktober, ifølge FourWeekMBA. Det skjer også etter en uke med klager fra Grok Bot-brukere. Den 9. november lovet Musk raske utbedringer etter at betalende abonnenter sa at brukskvotene deres var i ferd med å gå tomme.fourweekmba.com

Foreløpig er Musks ord det eneste beviset for både omskrivingen av stakken og de stigende evalueringsresultatene. Ekstern testing av Grok 4.8 må vente til brukere kan prøve den.