FT: „ByteDance“ kuria 10 trilijonų parametrų DI modelį

Bendrovė „ByteDance“ kuria dirbtinio intelekto modelį, turintį net 10 trilijonų parametrų. Šis mastas gali prilygti pažangiausiai „Anthropic“ sistemai „Mythos“, penktadienį pranešė „Financial Times“, remdamasi informuotais šaltiniais.reuters+1

Projektas šiuo metu yra pradinio mokymo etape, kuris turėtų trukti nuo trijų iki šešių mėnesių. „ByteDance“ modelis būtų daugiau nei tris kartus didesnis už Kinijos startuolio „Moonshot AI“ modelį „Kimi K3“, turintį 2,8 trilijono parametrų. Jei modelis bus baigtas tokia apimtimi, jis taps vienu didžiausių kada nors sukurtų DI sistemų.thenews+1

Mastelis ir kontekstas

Nors „Anthropic“ viešai neatskleidžia savo modelių parametrų skaičiaus, sektoriaus ekspertų vertinimais, jos pagrindinis modelis „Mythos 5“ turi apie 8 trilijonus parametrų, o „Fable 5“: apie 5 trilijonus. Pranešami „ByteDance“ siekiai atsidurtų pačioje šiuolaikinio DI vystymo viršūnėje arba net viršytų ją.finimize+1

Parametrai yra skaitmeninės reikšmės, kurias modelis įsisavina mokymosi metu, leidžiančios jam atpažinti dėsningumus ir kurti atsakymus. Tačiau tyrėjai pažymi, kad vien tik mastelis nelemia galimybių, taip pat svarbi mokymo duomenų kokybė, architektūra ir optimizavimas.newsbytesapp+1

Iki „Kimi K3“ atsiradimo didžiausi Kinijos modeliai buvo „Meituan“ „LongCat-2.0“ ir „DeepSeek“ „V4-Pro“, kurių kiekvienas turėjo apie 1,6 trilijono parametrų.timesnownews

Savarankiškas vystymas vietoje distiliavimo

Ši ataskaita pasirodė kartu su „ByteDance“ įkūrėjo Zhang Yiming nurodymu darbuotojams nebetobulinti modelių distiliuojant konkuruojančių sistemų rezultatus, o vietoje trumpalaikės naudos teikti pirmenybę ilgalaikiam savarankiškam pajėgumui. Nurodymas priimtas po „Anthropic“ kaltinimų, kad kelios Kinijos DI bendrovės masiniu mastu naudojo „Claude“ konkuruojantiems modeliams mokyti.news.sbs+1

2023 metų pradžioje įkurtoje „ByteDance“ tyrimų komandoje „Seed“ šiuo metu dirba apie 2 000 žmonių Kinijoje ir užsienyje. Wu Yonghui, anksčiau dirbęs „Google“ patronuojančioje bendrovėje „Alphabet Inc.“ ↘ 0.88% ir „DeepMind“, 2025 m. vasarį tapo šios komandos tyrimų vadovu.news.sbs

Platesnės lenktynės DI srityje

Šis žingsnis išryškina aštrėjančią Kinijos ir JAV technologijų bendrovių konkurenciją DI srityje. Pastarosiomis savaitėmis „Moonshot“ ir „Alibaba“ ↗ 1.26% modeliai sulaukė palankių įvertinimų lyginamuosiuose testuose, tam tikrose srityse nusileisdami tik „Anthropic“ modeliui „Fable 5“.news.sbs

Skirtingai nei daugelis Kinijos bendrovių, teikiančių pirmenybę atvirojo kodo DI, dauguma „ByteDance“ modelių išlieka uždarojo kodo. Jos pokalbių robotas „Doubao“ yra populiariausias DI modelis Kinijoje, turintis 324 mln. aktyvių vartotojų per mėnesį, o vaizdo generavimo modelis „Seedance“ laikomas vienu pažangiausių pasaulyje.news.sbs

„ByteDance“ neatsakė į prašymą pakomentuoti, pranešė „Financial Times“.news.sbs