Cerebras avduker CS-4, hevder 30 ganger raskere ytelse enn GPU-er

Cerebras Systems ↘ 1.96% avduket tirsdag CS-4, sin neste generasjons AI-akselerator, under selskapets Supernova-arrangement i San Francisco. Selskapet hevder systemet leverer opptil 30 ganger raskere inferens enn GPU-baserte løsninger. Kunngjøringen markerer brikkeprodusentens mest aggressive forsøk på å utfordre Nvidia ↘ 0.99% i det raskt voksende markedet for AI-inferens.

Raskere brikke, modulært design

CS-4 er bygget rundt tre av Cerebras' nylig annonserte WSE-3 Turbo-prosessorer. Dette er brikker på størrelse med middagstallerkener som dobler regnekraften og minnebåndbredden fra forgjengerne ved å presse eksisterende silisium hardere i stedet for å introdusere et helt nytt design. Hver WSE-3T leverer 250 petaFLOPs med AI-regnekraft og 43,2 petabytes per sekund i minnebåndbredde, oppnådd ved å omtrent doble klokkehastigheten til anslått 2,8 GHz gjennom forbedret strømforsyning.theregister

Samlet gir de tre brikkene CS-4 totalt 750 PFLOPs med AI-regnekraft og 129,6 petabytes per sekund i minnebåndbredde. På GPT-OSS-120B oppnår systemet ifølge analyseselskapet Artificial Analysis over 4 400 tokens per sekund per bruker, sammenlignet med omtrent 350 tokens per sekund på den raskeste GPU-baserte inferenstjenesten.quiverquant+1

"Innen AI er hastighet produktivitet," sa administrerende direktør Andrew Feldman under arrangementet. "Cerebras CS-4 leverer bransjeledende hastigheter på de største grenseoverskridende modellene og endrer paradigmet fundamentalt."quiverquant

Enklere utrulling, ambisiøs veikart

CS-4 introduserer en modulær "ryggsekk"-arkitektur med 50 prosent færre komponenter enn forgjengeren, noe teknologidirektør Sean Lie sier vil fremskynde byggingen av datasentre. Systemet har også bryterløse brikke-til-brikke-koblinger ved bruk av en 2D-torus-topologi, noe som reduserer forsinkelsen i sammenkoblingen fra fem mikrosekunder til to.investing+2

Cerebras opplyste at de første leveransene starter senere dette kvartalet. Selskapet skisserte også planer for en neste generasjons brikke og server i 2027, der Feldman anslår at selskapet vil levere 600 megawatt med regnekraft innen utgangen av det året og oppnå 20 ganger høyere gjennomstrømning.investing

Markedskontekst

Lanseringen kommer samtidig som Cerebras forsøker å skape en nisje mot Nvidias dominans innen AI-maskinvare. The Register bemerket at WSE-3Ts ytelsestall i stor grad baserer seg på sparsitet, noe som "som en generell regel ikke gagner LLM-inferens," og at Cerebras nå samarbeider med AWS Amazon.com, Inc. ↗ 2.46% og AMD Advanced Micro Devices, Inc. ↘ 3.71% for å håndtere beregningsintensiv prefill-prosessering på deres maskinvare. Forrige uke rapporterte Cerebras et justert tap på 6,9 millioner dollar av en omsetning på 180,1 millioner dollar.theregister+1