Čip Jalapeño od OpenAI v inferenci překonává Nvidii

Společnost OpenAI v úterý zveřejnila benchmarky, podle kterých její vlastní inferenční čip Jalapeño překonává Nvidii ↘ 0.59% a další konkurenty v propustnosti i energetické účinnosti. Jde o dosud nejdetailnější veřejnou výzvu, kterou tato AI firma adresovala hardwarové dominanci předního výrobce čipů.

Benchmarky, které byly sdíleny před prezentací OpenAI na polovodičové konferenci Hot Chips na Stanfordu, ukazují, že Jalapeño odvádí 1,5 až 1,9krát více AI práce na watt a vykazuje 1,7 až 3,6krát nižší celkovou latenci (end-to-end) než systémy GB200 a GB300 od Nvidie při spuštění modelů jako DeepSeek R1, verze Kimi K2.5 s jedním bilionem parametrů a vlastního modelu GPT-OSS 120B od OpenAI.axios+1

Inferenční stroj v měřítku racku

Čip, který byl vyvinut ve spolupráci se společností Broadcom ↘ 0.48% a poprvé poodhalen v červnu, byl od základu navržen výhradně pro inferenci velkých jazykových modelů (LLM). Na systémové úrovni obsahuje každý rack Jalapeño 128 akcelerátorů, které poskytují výpočetní výkon 1,7 exaFLOPS při 4bitových výpočtech, 27,5 TB paměti HBM4 a propustnost paměti téměř 2 petabajty za sekundu.theregister

Viceprezident OpenAI pro hardware Richard Ho novinářům řekl, že čip nabízí „to nejlepší z obou světů“ v podobě nižší latence a vyšší propustnosti, zatímco u běžných AI systémů je obvykle nutné „volit kompromis mezi oběma parametry“.theverge

Podle analytické společnosti SemiAnalysis, která v laboratořích OpenAI otestovala čip pomocí své sady benchmarků InferenceX, dosáhlo Jalapeño rychlosti přes 700 tokenů za sekundu na uživatele při souběžnosti 1 na modelu DeepSeek R1. Toho všeho dosáhlo bez spekulativního dekódování nebo oddělení fází prefill a decode, což jsou techniky, na které se konkurence spoléhá při vylepšování svých výsledků.newsletter.semianalysis

Rychlost vývoje a její limity

OpenAI prošla cestou od prvního náboru týmu až po odeslání návrhu do výroby (tape-out) za přibližně 16 měsíců, přičemž k odeslání došlo v listopadu 2025. Společnost uvedla, že využití AI při návrhu přispělo k 8% zmenšení plochy SIMD a 10% zmenšení plochy maticového procesoru.newsletter.semianalysis

Jalapeño nicméně zvládá pouze inferenci, nikoli trénování. „Budeme potřebovat obrovský výpočetní výkon,“ uvedl Ho. „A Jalapeño je jeho součástí. Cerberus je jeho součástí. Nvidia je jeho součástí. AMD Advanced Micro Devices, Inc. ↗ 1.74% je jeho součástí.“axios

Nasazení a konkurence

OpenAI plánuje omezené nasazení do konce roku 2026, přičemž masová produkce se rozběhne v průběhu roku 2027. Společnost již vyvíjí druhou generaci čipu a rýsují se i plány pro třetí generaci.theverge+1

Analytici ze SemiAnalysis však upozornili na důležité výhrady: benchmarky využívaly relativně jednoduchou zátěž s 8k vstupními a 1k výstupními tokeny namísto náročnějších agentních úloh, které zatěžují ukládání do mezipaměti a směrování. Srovnání s novější architekturou Vera Rubin od Nvidie, která využívá stejnou paměť HBM4, by navíc bylo objektivnější.newsletter.semianalysis

Nový čip vstupuje na vysoce konkurenční trh. Google Alphabet Inc. ↘ 1.08% má svou řadu TPU, Amazon Amazon.com, Inc. ↘ 0.95% a Microsoft ↗ 0.66% mají vlastní návrhy a společnost Anthropic začátkem tohoto měsíce potvrdila, že pracuje na vlastním čipu. OpenAI neplánuje prodávat Jalapeño externím zájemcům. „Máme pro něj tak obrovské využití, že si ani nedokážeme představit, kdy bychom ho mohli nabídnout dál,“ dodal Ho.axios