ByteDance trénuje AI model s 10 biliony parametrů, píše FT

Společnost ByteDance trénuje model umělé inteligence s až 10 biliony parametrů. Tato velikost by se mohla přiblížit nejvyspělejšímu systému Mythos od společnosti Anthropic, napsal v pátek deník Financial Times s odkazem na zdroje obeznámené s prostředím.reuters+1

Projekt, který se nyní nachází ve fázi předtrénování plánované na tři až šest měsíců, by z modelu ByteDance učinil více než trojnásobek velikosti modelu Kimi K3 čínského startupu Moonshot AI s 2,8 bilionu parametrů. Pokud bude dokončen v tomto rozsahu, zařadí se mezi největší systémy umělé inteligence, jaké kdy byly vyvinuty.thenews+1

Měřítko a kontext

Ačkoli společnost Anthropic veřejně nezveřejňuje počty parametrů svých modelů, odhady z odvětví odhadují její vlajkový model Mythos 5 na přibližně 8 bilionů parametrů a Fable 5 na přibližně 5 bilionů. Údajné ambice společnosti ByteDance by ji posunuly na samotnou hranici nebo i nad hranici současného vývoje AI.finimize+1

Parametry jsou číselné hodnoty, které se model učí během trénování a které mu umožňují rozpoznávat vzorce a generovat odpovědi. Výzkumníci však upozorňují, že samotné měřítko neurčuje schopnosti modelu. Záleží také na kvalitě trénovacích dat, architektuře a optimalizaci.newsbytesapp+1

Před modelem Kimi K3 patřily k největším čínským modelům LongCat-2.0 od společnosti Meituan a V4-Pro od společnosti DeepSeek, každý s přibližně 1,6 bilionu parametrů.timesnownews

Nezávislý vývoj místo destilace

Zpráva přichází v době pokynu zakladatele společnosti ByteDance Čang I-minga, který zaměstnancům nařídil, aby přestali vylepšovat modely destilací výstupů konkurenčních systémů. Místo toho upřednostňuje dlouhodobou nezávislou schopnost před krátkodobými zisky. Příkaz následuje po obvinění ze strany společnosti Anthropic, že několik čínských firem v oblasti AI využívalo model Claude ve velkém měřítku k trénování konkurenčních modelů.news.sbs+1

Výzkumný tým Seed společnosti ByteDance, založený počátkem roku 2023, v současnosti zaměstnává přibližně 2 000 lidí v Číně i v zahraničí. Wu Jung-chuej, který dříve působil ve společnostech Google Alphabet Inc. ↘ 0.88% a DeepMind, nastoupil jako vedoucí výzkumu tohoto týmu v únoru 2025.news.sbs

Širší závod v oblasti AI

Tento vývoj podtrhuje sílící konkurenci mezi čínskými a americkými technologickými firmami v čele vývoje AI. V posledních týdnech získaly modely společností Moonshot a Alibaba ↗ 1.26% příznivá hodnocení v srovnávacích testech, přičemž v některých oblastech zaostávaly pouze za modelem Fable 5 od společnosti Anthropic.news.sbs

Na rozdíl od mnoha čínských společností, které dávají přednost otevřenému softwaru v AI, zůstává většina modelů ByteDance uzavřená. Její chatbot Doubao je s 324 miliony aktivních uživatelů měsíčně nejpopulárnějším AI modelem v Číně a její model pro generování videa Seedance je považován za jeden z nejvyspělejších na světě.news.sbs

Společnost ByteDance na žádost o komentář nereagovala, uvedl deník Financial Times.news.sbs