OpenAI-ի Jalapeño չիպն ինֆերենսի արագությամբ գերազանցել է Nvidia-ին

Երեքշաբթի օրը OpenAI-ն հրապարակել է թեստավորման արդյունքները, որոնք ցույց են տալիս, որ իր սեփական Jalapeño ինֆերենս չիպը թողունակությամբ և էներգաարդյունավետությամբ գերազանցում է Nvidia ↘ 0.59% և այլ ընկերությունների արտադրանքներին: Սա ԱԲ ոլորտի առաջատարի մինչ օրս ամենամանրամասն հանրային մարտահրավերն է չիպերի շուկայում գերիշխող հսկայի տեխնոլոգիական գերակայությանը:

Թեստավորման արդյունքները, որոնք ներկայացվել են Սթենֆորդում կայանալիք Hot Chips կիսահաղորդիչների համաժողովում OpenAI-ի ելույթից առաջ, ցույց են տալիս, որ Jalapeño-ն ապահովում է 1.5-ից 1.9 անգամ ավելի շատ ԱԲ աշխատանք մեկ վատտի հաշվով և 1.7-ից 3.6 անգամ ավելի ցածր վերջնական հապաղում, քան Nvidia-ի GB200 և GB300 համակարգերը՝ այնպիսի մոդելներ գործարկելիս, ինչպիսիք են DeepSeek R1-ը, Kimi K2.5-ի 1 տրիլիոն պարամետրով տարբերակը և OpenAI-ի սեփական GPT-OSS 120B-ն:axios+1

Ինֆերենսի հզոր համակարգ՝ սերվերային կանգնակի մասշտաբով

Չիպը, որը համատեղ մշակվել է Broadcom ↘ 0.48% ընկերության հետ և առաջին անգամ անոնսավորվել էր հունիսին, ի սկզբանե նախագծվել է բացառապես խոշոր լեզվական մոդելների (LLM) ինֆերենսի համար: Համակարգային մակարդակում յուրաքանչյուր Jalapeño սերվերային կանգնակ ներառում է 128 արագացուցիչ, որոնք ապահովում են 1.7 էկզաֆլոպս (exaFLOPS) 4-բիթանոց հաշվարկային հզորություն, 27.5 ՏԲ HBM4 հիշողություն և վայրկյանում գրեթե 2 պետաբայթ հիշողության թողունակություն:theregister

OpenAI-ի սարքավորումների գծով փոխնախագահ Ռիչարդ Հոն լրագրողներին հայտնել է, որ չիպն առաջարկում է «երկու աշխարհների լավագույնը»՝ ապահովելով թե՛ ցածր հապաղում, թե՛ բարձր թողունակություն, մինչդեռ ԱԲ համակարգերը սովորաբար ստիպված են լինում փոխզիջման գնալ այս երկուսի միջև:theverge

Ըստ SemiAnalysis վերլուծական ընկերության, որն OpenAI-ի լաբորատորիաներում չիպի վրա գործարկել է իր InferenceX թեստային փաթեթը, Jalapeño-ն DeepSeek R1 մոդելի վրա ապահովել է վայրկյանում ավելի քան 700 տոկեն մեկ օգտատիրոջ հաշվով՝ 1 համաժամանակյա հարցման դեպքում: Ընդ որում, սա արվել է առանց սպեկուլյատիվ դեկոդավորման կամ prefill-decode տարանջատման տեխնոլոգիաների, որոնց ապավինում են մրցակիցները սեփական ցուցանիշները բարելավելու համար:newsletter.semianalysis

Արագ անցում նախագծումից արտադրության և դրա սահմանափակումները

OpenAI-ին հաջողվել է թիմի նախնական հավաքագրումից մինչև չիպի արտադրության նախապատրաստում (tape-out) անցնել ընդամենը 16 ամսում. չիպի նախագիծն ուղարկվել է արտադրության 2025 թվականի նոյեմբերին: Ընկերությունը նշել է, որ նախագծման փուլում ԱԲ օգնականների կիրառումը թույլ է տվել 8 տոկոսով կրճատել SIMD տիրույթը և 10 տոկոսով՝ մատրիցային շարժիչի (matrix-engine) տիրույթը:newsletter.semianalysis

Այնուամենայնիվ, Jalapeño-ն նախատեսված է միայն ինֆերենսի, այլ ոչ թե մարզման համար: «Մեզ հսկայական հաշվարկային հզորություն է անհրաժեշտ լինելու», նշել է Հոն: «Եվ Jalapeño-ն դրա մի մասն է: Cerberus-ը դրա մի մասն է: Nvidia-ն դրա մի մասն է: AMD Advanced Micro Devices, Inc. ↗ 1.74%-ն նույնպես դրա մի մասն է»:axios

Ներդրումը և մրցակցությունը

OpenAI-ն նախատեսում է սահմանափակ ներդրում իրականացնել մինչև 2026 թվականի վերջը, իսկ զանգվածային արտադրությունը կսկսվի 2027 թվականի ընթացքում: Ընկերությունն արդեն մշակում է երկրորդ սերնդի չիպը, և արդեն ուրվագծվում են երրորդի ստեղծման պլանները:theverge+1

SemiAnalysis-ը նշել է կարևոր վերապահումներ. թեստավորման ժամանակ օգտագործվել է համեմատաբար պարզ ծանրաբեռնվածություն (8k մուտքային և 1k ելքային տվյալներ), այլ ոչ թե ավելի բարդ գործակալական առաջադրանքներ, որոնք ծանրաբեռնում են քեշավորումն ու երթուղավորումը: Բացի այդ, ավելի համադրելի կլիներ համեմատությունը Nvidia-ի նոր՝ Vera Rubin ճարտարապետության հետ, որն օգտագործում է նույն HBM4 հիշողությունը:newsletter.semianalysis

Չիպը մտնում է խիստ մրցակցային դաշտ: Google Alphabet Inc. ↘ 1.08%-ն ունի իր TPU շարքը, Amazon Amazon.com, Inc. ↘ 0.95%-ը և Microsoft ↗ 0.66%-ն ունեն իրենց սեփական մշակումները, իսկ Anthropic-ն այս ամսվա սկզբին հաստատեց, որ աշխատում է սեփական չիպի ստեղծման ուղղությամբ: OpenAI-ն չի պլանավորում վաճառել Jalapeño-ն արտաքին շուկայում: «Մենք դրա այնքան մեծ պահանջարկ ունենք, որ դժվար է պատկերացնել, թե երբևէ կկարողանանք այն վաճառել», ասել է Հոն:axios