Musk plánuje omezené vydání Grok 4.8 po přepsání kódu

Elon Musk v úterý oznámil, že omezené spuštění modelu Grok 4.8 začne koncem tohoto týdne. Uvedl, že společnost stojící za chatbotem nahradila externí softwarové rámce vlastním kódem, což model zpozdilo. „Zahodili jsme JAX/SGLang a přepsali celý RL a inference stack od základu v C/C++, což zabralo nějaký čas navíc,“ napsal Musk na síti X podle agentury Anadolu. Společnost se nyní jmenuje SpaceX Super Intelligence a dříve byla známá jako xAI.breakingthenews.net

Aktualizace přichází v době, kdy se xAI snaží přimět uživatele k přechodu z modelu Grok 4.7, který byl spuštěn v září. Musk byl k tomuto modelu otevřeně kritický a pro nový model neposkytl žádné srovnávací výsledky.

V jaké fázi je Grok 4.8

Musk uvedl, že předtrénování je hotové a že „bylo potřeba hodně vyčistit SFT data, aby to bylo víceméně v pořádku“. SFT znamená supervised fine-tuning (řízené doladění). Dodal, že „4.8 je ve fázi RL a hodnocení začínají stoupat,“ uvádí FourWeekMBA, která citovala příspěvek publikovaný 10. listopadu v 09:35 UTC. RL odkazuje na reinforcement learning (posilované učení), fázi, ve které je model trénován na základě odměn. „Koncem týdne provedeme omezené spuštění pro uživatele Bot a uvidíme, jak to půjde,“ napsal Musk. Neuvedl, jak rozsáhlé bude spuštění, zda k němu získají přístup API zákazníci nebo kolik bude model stát, poznamenala FourWeekMBA.fourweekmba.com

Generální ředitel Tesly si také rýpl do současného modelu. „Grok 4.8 se nebude podobat 4.7 (naštěstí). Ještě není neuvěřitelný, ale tentokrát jsou základy postaveny správně, takže očekávám, že se vyvine v něco speciálního,“ napsal. Grok 4.7 byl spuštěn 21. září.breakingthenews.net

57denní zpoždění

Příspěvek přišel 57 dní poté, co Musk 14. září napsal, že Grok 4.8 „dokončí trénink tento týden a začne RL,“ vypočítala FourWeekMBA. V tomto dřívějším příspěvku Musk popsal 4.8 jako „2.5T model trénovaný s naším novým softwarovým stackem v C++“. To znamenalo, že předtrénování již přešlo na interní kód. Nový příspěvek říká, že fáze posilovaného učení a inference byly nyní také přesunuty. Posilované učení se v době zářijového příspěvku stále spoléhalo na starší záplatované softwarové stacky.lookonchain.com+1

Změna představuje odklon od toho, jak byl Grok původně postaven. V příspěvku xAI o spuštění z listopadu 2023 bylo uvedeno, že společnost postavila „vlastní trénovací a inferenční stack založený na Kubernetes, Rustu a JAXu,“ uvedla FourWeekMBA. JAX je knihovna pro výpočty polí od výzkumníků z Googlu. SGLang je open-source rámec pro obsluhu velkých jazykových modelů.fourweekmba.com

Konkurenční načasování

Omezené spuštění přichází několik dní po vydáních konkurence. Anthropic oznámil Claude Fable 5.2 dne 9. listopadu a Google oznámil Gemini 4 Carbon dne 28. října, uvádí FourWeekMBA. Přichází také po týdnu stížností od uživatelů Grok Bot. Dne 9. listopadu Musk slíbil opravy přes noc poté, co si platící předplatitelé stěžovali, že jim docházejí limity využití.fourweekmba.com

Prozatím jsou Muskovy výroky jediným důkazem jak pro přepsání stacku, tak pro rostoucí skóre hodnocení. Externí testování Grok 4.8 bude muset počkat, až si jej uživatelé budou moci vyzkoušet.