„OpenAI“ teigia, kad jos lustas „Jalapeño“ išvadų darymo užduotyse pranoksta „Nvidia“

Antradienį „OpenAI“ paskelbė testavimo rezultatus, rodančius, kad jos specializuotas išvadų darymo lustas „Jalapeño“ pralaidumu ir energiniu efektyvumu pranoksta „Nvidia“ ↘ 1.27% bei kitus konkurentus. Tai yra iki šiol išsamiausias šios DI bendrovės viešas iššūkis rinkoje dominuojančio lustų gamintojo techninės įrangos viršenybei.

Testavimo rezultatai, kuriais pasidalinta prieš „OpenAI“ pristatymą puslaidininkių konferencijoje „Hot Chips“ Stanfordo universitete, rodo, kad „Jalapeño“ atlieka nuo 1,5 iki 1,9 karto daugiau DI darbo vienam vatui ir užtikrina nuo 1,7 iki 3,6 karto mažesnę bendrąją delsą nei „Nvidia“ GB200 ir GB300 sistemos, kai naudojami tokie modeliai kaip „DeepSeek R1“, 1 trilijono parametrų „Kimi K2.5“ versija ir pačios „OpenAI“ sukurtas „GPT-OSS 120B“.axios+1

Serverių spintos lygio išvadų darymo mašina

Lustas, sukurtas kartu su „Broadcom“ ↘ 1.52% ir pirmą kartą užsimintas birželio mėnesį, buvo suprojektuotas nuo nulio išskirtinai didžiųjų kalbos modelių (LLM) išvadų darymui. Sistemos lygmeniu kiekvienoje „Jalapeño“ serverių spintoje yra 128 spartintuvai, užtikrinantys 1,7 eksaflopo 4 bitų skaičiavimo galios, 27,5 TB HBM4 atminties ir beveik 2 petabaitų per sekundę atminties pralaidumą.theregister

„OpenAI“ techninės įrangos viceprezidentas Richardas Ho žurnalistams teigė, kad šis lustas siūlo „geriausia iš abiejų pasaulių“: mažesnę delsą ir didesnį pralaidumą, nes DI sistemos paprastai „turi ieškoti kompromiso tarp šių dviejų parametrų“.theverge

Remiantis „SemiAnalysis“, kuri „OpenAI“ laboratorijose atliko testavimą su savo „InferenceX“ programų rinkiniu, „Jalapeño“ pasiekė daugiau nei 700 žetonų per sekundę vienam vartotojui, esant 1 lygiagrečiai užklausai su „DeepSeek R1“ modeliu. Visa tai pasiekta nenaudojant spekuliacinio dekodavimo ar išankstinio užpildymo ir dekodavimo atskyrimo metodų, kuriais konkurentai remiasi siekdami pagerinti savo rezultatus.newsletter.semianalysis

Spartus kelias iki silicio ir jo ribos

„OpenAI“ kelią nuo pirmųjų komandos narių samdymo iki gamybos projektavimo pabaigos nuėjo maždaug per 16 mėnesių, o lusto projektas gamybai buvo perduotas 2025 m. lapkritį. Bendrovė teigia, kad DI pagalba projektavimo metu padėjo 8 procentais sumažinti SIMD plotą ir 10 procentų sumažinti matricinio variklio plotą.newsletter.semianalysis

Vis dėlto „Jalapeño“ atlieka tik išvadų darymą, bet ne apmokymą. „Mums reikės labai daug skaičiavimo galios“, sakė R. Ho. „Ir „Jalapeño“ yra to dalis. „Cerberus“ yra to dalis. „Nvidia“ yra to dalis. „AMD“ Advanced Micro Devices, Inc. ↗ 0.79% taip pat yra to dalis.“axios

Diegimas ir konkurencija

„OpenAI“ planuoja ribotą diegimą iki 2026 m. pabaigos, o masinę gamybą ketina išplėsti per 2027 m. Bendrovė jau kuria antrosios kartos lustą, taip pat ryškėja ir trečiosios kartos planai.theverge+1

„SemiAnalysis“ atkreipė dėmesį į svarbias išlygas: testavimui buvo naudojama palyginti paprasta 8 tūkst. įvesties ir 1 tūkst. išvesties žetonų apkrova, o ne sudėtingesnės agentų užduotys, kurios labiau apkrauna spartinančiąją atmintį ir maršruto parinkimą. Be to, objektyvesnis būtų palyginimas su naujesne „Nvidia“ „Vera Rubin“ architektūra, kurioje naudojama ta pati HBM4 atmintis.newsletter.semianalysis

Šis lustas žengia į jau perpildytą rinką. „Google“ Alphabet Inc. ↘ 1.54% turi savo TPU liniją, „Amazon“ Amazon.com, Inc. ↘ 0.98% ir „Microsoft“ ↗ 0.53% turi savo projektus, o „Anthropic“ šio mėnesio pradžioje patvirtino, kad taip pat kuria savo lustą. „OpenAI“ neplanuoja pardavinėti „Jalapeño“ išorės klientams. „Mums patiems jo taip reikia, kad net neįsivaizduojame, kada galėtume tai padaryti“, teigė R. Ho.axios