ByteDance-ը ստեղծել է AI տվյալների բարձր մակարդակի ստորաբաժանում 10 տրիլիոնանոց մոդելի մշակման ֆոնին

ByteDance-ը ստեղծել է առաջին մակարդակի նոր ստորաբաժանում՝ «AI Data & Security» անվանումով՝ բարձրացնելով տվյալների կառավարման իր մոտեցումը նոր մակարդակի, քանի որ ընկերությունը սկսում է աշխարհի խոշորագույն ԱԻ մոդելներից մեկի վերապատրաստումը:

Ինչպես հաղորդում է PANews-ը՝ հղում անելով չինական տեխնոլոգիական 36Kr պարբերականին, նոր ստորաբաժանումը գործում է նույն կազմակերպչական մակարդակում, ինչ ByteDance-ի Seed AI հետազոտական բաժինը, Flow-ն և Douyin-ը: Այն ղեկավարում է Ադամ Վանգը, ով նախկինում համակարգում էր TikTok-ի հարթակի պատասխանատվության և ուղիղ հեռարձակումների աշխատանքները:kucoin

Տվյալների հոսքի միավորումը

Ստորաբաժանման հիմնական առաքելությունն է տրամադրել միջմոդալ (cross-modal) տվյալների ծառայություններ ByteDance-ի բոլոր խոշոր մոդելների համար: Այն միավորում է Global Data թիմը, որը հիմնադրվել է 2023 թվականին TikTok-ի համահիմնադիր անդամ Ֆու Յուեի կողմից, ինչպես նաև ընկերության DMC տվյալների միջանկյալ ծրագրային ապահովումը և Flow-ի ներքո գործող AI Data Platform-ը: Ստորաբաժանումն ընդգրկում է տվյալների ողջ կենսապարբերությունը՝ ստանդարտացումից և հայթայթումից մինչև սինթեզում, մաքրում, որակի գնահատում և անվտանգության համապատասխանություն:kucoin

Դիստիլյացիայի դեմ պայքարի համատեքստը

Կառուցվածքային փոփոխությունները տեղի են ունենում այն բանից օրեր անց, երբ ByteDance-ի հիմնադիր Չժան Իմինը հանձնարարել է ընկերության Seed AI հետազոտական թիմին խուսափել մրցակից համակարգերի տվյալների դիստիլյացիայի (distillation) միջոցով սեփական մոդելների բարելավումից: «ԱԻ զարգացումը պահանջում է երկարաժամկետ մոտեցում և հետաձգված բավարարվածություն, այլ ոչ թե ուրիշների արդյունքների օգտագործում՝ առաջատարների աղյուսակում կարճաժամկետ դիրքեր գրավելու համար», — ասել է Չժանը վերջերս տեղի ունեցած ներքին հանդիպման ժամանակ, համաձայն Reuters-ի զեկույցի, որը հղում է անում չինական The Paper պարբերականին:mix929

Չժանն աշխատակիցներին ասել է, որ ByteDance-ը պետք է պատրաստ լինի «զոհաբերել որոշ կարճաժամկետ օգուտներ հանուն երկարաժամկետ նպատակների»՝ հավելելով, որ դիստիլյացիան խոչընդոտում է իրական երկարաժամկետ տեխնոլոգիական բեկումներին:mix929

Այս հանձնարարականն առավել մեծ կշիռ է ստանում աշխարհաքաղաքական ավելի լայն համատեքստում: Օգոստոսի 7-ին Financial Times-ը հաղորդել էր, որ ByteDance-ը նախնական վերապատրաստում է անցկացնում մինչև 10 տրիլիոն պարամետր ունեցող մոդելի համար՝ օգտագործելով փորձագետների խառնուրդի (mixture-of-experts) ճարտարապետությունը, ինչը պահանջում է մոտավորապես 30,000 GPU և երեքից վեց ամիս շարունակական նախնական վերապատրաստում: Տվյալների նոր ստորաբաժանումը, ըստ ամենայնի, ստեղծվել է ապահովելու համար, որ այդ և հետագա նախագծերի վերապատրաստման գործընթացը հիմնվի պատշաճ կերպով կառավարվող, ներքին աղբյուրներից ստացված տվյալների վրա, այլ ոչ թե արևմտյան համակարգերից հավաքագրված կամ դիստիլացված արդյունքների վրա:wionews

Կառուցվածքային ազդակ

ԱԻ տվյալների կառավարումը իր հիմնական ԱԻ հետազոտական և արտադրանքի ստորաբաժանումների հետ նույն մակարդակի վրա դնելով՝ ByteDance-ը կազմակերպչական հստակ հայտարարություն է անում, որ տվյալների ծագումնաբանությունն ու համապատասխանությունը ոչ թե երկրորդական հարցեր են, այլ նախապայման իր հավակնոտ նպատակների համար: Այս քայլը նաև հնարավորություն է տալիս ընկերությանը պաշտպանվել մտավոր սեփականության չարաշահման ապագա մեղադրանքներից այն ժամանակ, երբ ԱՄՆ պաշտոնյաները նախազգուշացրել են, որ «պատժամիջոցները և Entity List-ում (արգելված կազմակերպությունների ցանկ) ներառումը օրակարգում կլինեն» այն չինական ընկերությունների համար, որոնք կասկածվում են ամերիկյան ԱԻ համակարգերի տվյալների դիստիլյացիայի մեջ:wionews