Musk: Nový model xAI se 2 biliony parametrů dokončí trénink příští týden

Elon Musk 18. července prozradil, že příští velký jazykový model společnosti xAI, systém se 2 biliony parametrů, který by se měl jmenovat Grok 4.6, dokončí příští týden svůj úvodní trénovací cyklus. Jde o přímou reakci na to, že startup Moonshot AI jen o dva dny dříve uvedl na trh model Kimi K3.kucoin+2

Musk uvedl, že nový model ve všech metrikách překonává Grok 4.5, jenž je postaven na základním modelu s 1,5 bilionu parametrů (interně označovaném jako V9). Dodal, že model se 2 biliony parametrů (2T) může překonat Kimi K3, a to při zachování rychlosti generování a efektivity tokenů blízké modelu Grok 4.5.kucoin+1

Výzva v podobě Kimi K3

Startup Moonshot AI představil model Kimi K3 s 2,8 bilionu parametrů 16. července, což z něj činí největší dosud vydaný AI model s otevřenými váhami (open-weight). Pekingský startup načasoval spuštění před Světovou konferenci o umělé inteligenci v Šanghaji, přičemž úplné váhy modelu mají být veřejnosti zpřístupněny 27. července.tmtpost+4

Podle testů společnosti Artificial Analysis dosáhl model Kimi K3 v testech inteligence skóre 57 bodů ve srovnání s 54 body u modelu Grok 4.5. Náklady na jednu úlohu u Groku 4.5 však činí zhruba 0,31 dolaru, což je asi třetina oproti 0,94 dolaru u Kimi K3. Muskovým deklarovaným cílem pro model se 2T parametry je tuto výkonnostní mezeru smazat a zároveň si zachovat nákladovou výhodu.kucoin+1

Stanice BBC uvedla, že nezávislá hodnocení od Artificial Analysis naznačují, že Kimi K3 funguje srovnatelně s předními americkými modely a dosahuje špičkových výsledků v oblasti inženýrství webových rozhraní. Server Business Insider informoval, že ceny API pro model K3 od Moonshot AI, využívající infrastrukturu Alphabet Inc. ↗ 0.78%, jsou nižší než u společností OpenAI a Anthropic.bbc+1

Ambice xAI v oblasti škálování

Model se 2T parametry představuje jeden z kroků v širším plánu škálování společnosti xAI. Grok 4.5, model s 1,5 bilionu parametrů, který je v současné době v uzavřené beta verzi ve společnostech SpaceX a Tesla ↗ 4.23%, oznámil Musk 28. června a podle zpráv dosahuje výkonu „blízkého modelu Claude Opus a v některých případech jej i překonává“.gigazine+2

Kromě toho xAI trénuje ještě větší systémy na svém superpočítačovém clusteru Colossus 2, včetně variant se 6 a 10 biliony parametrů označovaných jako Grok 5. Podle dostupných informací se na tomto clusteru v dubnu souběžně trénovalo sedm modelů.mindstudio+1

Společnost xAI také pokračuje ve vývoji kódovacího agenta Grok Build, který byl spuštěn v květnu. Tento nástroj funguje přímo v terminálu a deleguje práci na paralelní podagenty. Nástroj dosáhl 13. července verze 0.2.101 a zůstává v beta verzi pro předplatitele tarifu SuperGrok Heavy od xAI, který stojí 300 dolarů měsíčně.ciodive+2