Musk suunnittelee Grok 4.8:n rajoitettua julkaisua koodin uudelleenkirjoituksen jälkeen

Elon Musk kertoi tiistaina, että Grok 4.8:n rajoitettu julkaisu alkaa myöhemmin tällä viikolla. Hän totesi, että chatbotin takana oleva yritys on korvannut ulkoiset ohjelmistokehykset omalla koodillaan, mikä viivästytti mallia. "Olemme hylänneet JAX/SGLang-ratkaisut ja kirjoittaneet koko RL- ja päättelypinon alusta asti C/C++-kielellä, mikä vei hieman ylimääräistä aikaa", Musk kirjoitti X:ssä Anadolu Agencyn mukaan. Yrityksen nimi on nyt SpaceX Super Intelligence, ja se tunnettiin aiemmin nimellä xAI.breakingthenews.net

Päivitys tulee samaan aikaan, kun xAI yrittää siirtää käyttäjiä pois syyskuussa julkaistusta Grok 4.7 -mallista. Musk kritisoi kyseistä mallia avoimesti eikä antanut uudelle mallille mitään vertailuarvoja.

Missä Grok 4.8 menee

Musk kertoi, että esikoulutus on valmis ja että "SFT-datan siivoamiseen tarvittiin paljon työtä, jotta se saatiin pääosin oikein". SFT tarkoittaa ohjattua hienosäätöä. Hän lisäsi, että "4.8 on RL-vaiheessa ja arvioinnit alkavat nousta", kertoi FourWeekMBA, joka lainasi 10. marraskuuta klo 09:35 UTC julkaistua viestiä. RL viittaa vahvistusoppimiseen, vaiheeseen, jossa mallia koulutetaan palkkioiden avulla. "Teemme pehmeän julkaisun Bot-käyttäjille myöhemmin tällä viikolla ja katsomme, miten se sujuu", Musk kirjoitti. Hän ei kertonut, kuinka laaja julkaisu on, saavatko API-asiakkaat pääsyn siihen tai mitä malli tulee maksamaan, FourWeekMBA huomautti.fourweekmba.com

Teslan toimitusjohtaja antoi myös kritiikkiä nykyiselle mallille. "Grok 4.8 ei tule muistuttamaan 4.7-versiota (onneksi). Se ei ole vielä uskomaton, mutta tällä kertaa perustukset on rakennettu oikein, joten odotan sen kehittyvän joksikin erityiseksi", hän kirjoitti. Grok 4.7 julkaistiin 21. syyskuuta.breakingthenews.net

57 päivän viivästys

Viesti tuli 57 päivää sen jälkeen, kun Musk kirjoitti 14. syyskuuta, että Grok 4.8 "saa koulutuksen valmiiksi tällä viikolla ja aloittaa RL-vaiheen", FourWeekMBA laski. Tuossa aiemmassa viestissä Musk kuvaili 4.8-mallia "2.5T-malliksi, joka on koulutettu uudella C++-ohjelmistopinollamme". Tämä tarkoitti, että esikoulutus oli jo siirtynyt talon sisäiseen koodiin. Uusi viesti kertoo, että myös vahvistusoppimisen ja päättelyn vaiheet on nyt siirretty. Vahvistusoppiminen nojasi syyskuun viestin aikaan vielä vanhempiin, paikattuihin ohjelmistopinoihin.lookonchain.com+1

Muutos on poikkeama siitä, miten Grok alun perin rakennettiin. xAI:n marraskuun 2023 julkaisupäivityksessä kerrottiin, että yritys oli rakentanut "mukautetun koulutus- ja päättelypinon, joka perustuu Kubernetes-, Rust- ja JAX-teknologioihin", FourWeekMBA raportoi. JAX on Googlen tutkijoiden kehittämä matriisilaskentakirjasto. SGLang on avoimen lähdekoodin kehys suurten kielimallien tarjoamiseen.fourweekmba.com

Kilpailullinen ajoitus

Pehmeä julkaisu tapahtuu päiviä kilpailijoiden julkaisujen jälkeen. Anthropic ilmoitti Claude Fable 5.2:sta 9. marraskuuta ja Google ilmoitti Gemini 4 Carbonista 28. lokakuuta, FourWeekMBA kertoi. Se seuraa myös viikkoa, jolloin Grok Bot -käyttäjät valittivat ongelmista. 9. marraskuuta Musk lupasi korjauksia yön aikana sen jälkeen, kun maksavat tilaajat kertoivat käyttöoikeuksiensa loppuvan kesken.fourweekmba.com

Tällä hetkellä Muskin sana on ainoa todiste sekä pinon uudelleenkirjoituksesta että nousevista arviointipisteistä. Grok 4.8:n ulkopuolinen testaus saa odottaa, kunnes käyttäjät pääsevät kokeilemaan sitä.