ByteDance zakládá elitní divizi pro AI data, cílí na model s 10 biliony parametrů

Společnost ByteDance založila nové klíčové oddělení s názvem „AI Data & Security“. Posiluje tím svůj přístup ke správě dat v době, kdy zahajuje trénování jednoho z největších modelů umělé inteligence na světě.

Nová jednotka, o které informoval čínský technologický portál 36Kr, funguje podle serveru PANews na stejné organizační úrovni jako výzkumná divize Seed AI, platforma Flow a aplikace Douyin. Vede ji Adam Wang, který dříve dohlížel na bezpečnost platformy TikTok a živé vysílání.kucoin

Sjednocení datového řetězce

Hlavním posláním nového oddělení je poskytovat multimodální datové služby pro všechny velké modely ByteDance. Sdružuje tým Global Data, který v roce 2023 založil spoluzakladatel TikToku Fu Jüe, společně s podnikovým datovým middlewarem DMC a platformou AI Data Platform spadající pod divizi Flow. Jednotka pokrývá celý životní cyklus dat, od standardizace a získávání přes syntézu, čištění a hodnocení kvality až po zajištění bezpečnostního souladu.kucoin

Boj proti destilaci modelů

Restrukturalizace přichází jen několik dní poté, co zakladatel ByteDance Čang I-ming nařídil výzkumnému týmu Seed AI, aby se vyhnul vylepšování modelů pomocí destilace (přebírání znalostí) z konkurenčních systémů. „Vývoj AI vyžaduje dlouhodobou perspektivu a schopnost odložit uspokojení, nikoli využívání výstupů ostatních k dosažení krátkodobých úspěchů v žebříčcích,“ uvedl Čang na nedávném interním setkání podle zprávy agentury Reuters, která citovala čínský list The Paper.mix929

Čang zaměstnancům řekl, že ByteDance musí být ochotna „obětovat některé krátkodobé zisky ve prospěch dlouhodobých cílů“, a dodal, že destilace brání skutečným dlouhodobým technologickým průlomům.mix929

Toto nařízení má zvláštní váhu i s ohledem na širší geopolitický kontext. Deník Financial Times 7. srpna uvedl, že ByteDance provádí předběžný trénink modelu s až 10 biliony parametrů s využitím architektury Mixture of Experts (MoE), což vyžaduje přibližně 30 000 grafických procesorů (GPU) a tři až šest měsíců nepřetržitého trénování. Nová datová jednotka má zjevně zajistit, aby celý proces trénování pro tento projekt i budoucí iniciativy probíhal na řádně spravovaných, interně získaných datech, a nikoli na výstupech stažených nebo destilovaných ze západních systémů.wionews

Strukturální signál

Zařazením správy AI dat na stejnou úroveň, jakou mají hlavní výzkumné a produktové divize, dává ByteDance jasně najevo, že původ dat a soulad s předpisy nejsou druhořadé záležitosti, ale základní předpoklady pro její ambiciózní plány. Tento krok zároveň firmě umožňuje lépe se bránit budoucím obviněním ze zneužití duševního vlastnictví v době, kdy američtí představitelé varovali, že pro čínské firmy podezřelé z destilace amerických systémů AI budou ve hře sankce a zařazení na černou listinu.wionews