OpenAI: Jalapeño-siru peittoaa Nvidian tekoälyn päättelyssä

OpenAI julkaisi tiistaina suorituskykytestejä, joiden mukaan sen räätälöity Jalapeño-päättelysiru peittoaa Nvidian ↗ 0.90% ja muut kilpailijat sekä läpimenossa että energiatehokkuudessa. Tämä on tekoälyyhtiön tähän asti yksityiskohtaisin julkinen haaste markkinoita hallitsevan sirujätin laitteistoylivoimalle.

Tulokset julkistettiin ennen OpenAI:n esitystä Stanfordin yliopiston Hot Chips -puolijohdekonferenssissa. Ne osoittavat Jalapeñon tekevän 1,5-1,9 kertaa enemmän tekoälytyötä wattia kohden ja tarjoavan 1,7-3,6 kertaa pienemmän kokonaisviiveen kuin Nvidian GB200- ja GB300-järjestelmät. Testeissä käytettiin malleja, kuten DeepSeek R1, Kimi K2.5:n biljoonan parametrin versio ja OpenAI:n oma GPT-OSS 120B.axios+1

Räkkiluokan päättelykone

Yhdessä Broadcomin ↗ 4.00% kanssa kehitetty siru, josta vihjattiin ensimmäisen kerran kesäkuussa, suunniteltiin alusta alkaen yksinomaan suurten kielimallien (LLM) päättelyyn. Järjestelmätasolla jokainen Jalapeño-räkki sisältää 128 kiihdytintä, jotka tarjoavat 1,7 eksaflopsia 4-bittistä laskentatehoa, 27,5 teratavua HBM4-muistia ja lähes 2 petatavua sekunnissa muistikaistanleveyttä.theregister

OpenAI:n laitteistojohtaja Richard Ho kertoi toimittajille sirun tarjoavan "parhaat puolet molemmista maailmoista" eli pienemmän viiveen ja suuremman läpimenon, kun taas tekoälyjärjestelmät joutuvat yleensä "tekemään kompromissin näiden kahden välillä".theverge

SemiAnalysis-analyysiyhtiö testasi sirua OpenAI:n laboratorioissa omalla InferenceX-testiohjelmistollaan. Sen mukaan Jalapeño saavutti yli 700 tokenia sekunnissa käyttäjää kohden DeepSeek R1 -mallilla rinnakkaisuustasolla 1, ja tämä saavutettiin ilman spekulatiivista dekoodausta tai esitäyttö-dekoodaus-erottelua (prefill-decode disaggregation), joihin kilpailijat tukeutuvat parantaakseen tuloksiaan.newsletter.semianalysis

Nopeasti piiksi: rajoitukset huomioiden

OpenAI eteni tiimin ensimmäisistä rekrytoinneista sirun valmistusvaiheeseen (tape-out) noin 16 kuukaudessa, ja siru valmistui suunnittelupöydältä marraskuussa 2025. Yhtiön mukaan tekoälyavusteinen suunnittelu auttoi pienentämään SIMD-aluetta 8 prosentilla ja matriisimoottorin aluetta 10 prosentilla.newsletter.semianalysis

Jalapeño soveltuu kuitenkin vain päättelyyn, ei mallien kouluttamiseen. "Tarvitsemme valtavasti laskentatehoa", Ho sanoi. "Ja Jalapeño on osa sitä. Cerberus on osa sitä. Nvidia on osa sitä. AMD Advanced Micro Devices, Inc. ↗ 5.45% on osa sitä."axios

Käyttöönotto ja kilpailu

OpenAI suunnittelee rajoitettua käyttöönottoa vuoden 2026 loppuun mennessä, ja massatuotannon on määrä käynnistyä vuoden 2027 aikana. Yhtiö kehittää jo toisen sukupolven sirua, ja kolmannen sukupolven suunnitelmat ovat jo hahmottumassa.theverge+1

SemiAnalysis huomautti tärkeistä rajoituksista: testeissä käytettiin suhteellisen yksinkertaista kuormitusta (8 000 syötetokenia, 1 000 tulostetokenia) vaativampien agenttipohjaisten kuormitusten sijaan, jotka kuormittavat välimuistia ja reititystä. Lisäksi vertailu Nvidian uudempaan Vera Rubin -arkkitehtuuriin, joka käyttää samaa HBM4-muistia, olisi ollut tasaväkisempi.newsletter.semianalysis

Siru liittyy kilpailtuun joukkoon. Google Alphabet Inc. ↗ 0.84% tarjoaa TPU-sarjaansa, Amazon Amazon.com, Inc. ↗ 1.61% ja Microsoft ↘ 0.24% kehittävät omia mallejaan, ja Anthropic vahvisti aiemmin tässä kuussa käynnistäneensä oman siruhankkeensa. OpenAI:lla ei ole suunnitelmia myydä Jalapeñoa ulkopuolisille. "Meillä on sille niin paljon käyttöä, ettemme pysty edes kuvittelemaan, milloin voisimme myydä sitä muille", Ho sanoi.axios