Cerebras představuje CS-4: slibuje 30x vyšší rychlost než GPU

Společnost Cerebras Systems ↘ 1.82% v úterý na své akci Supernova v San Franciscu představila CS-4, svůj AI akcelerátor nové generace, a prohlásila, že systém poskytuje až 30krát rychlejší inferenci než řešení založená na GPU. Toto oznámení představuje dosud nejagresivnější pokus výrobce čipů vyzvat společnost Nvidia ↗ 1.34% na rychle rostoucím trhu AI inference.

Rychlejší čip a modulární design

CS-4 je postaven na třech nově oznámených procesorech WSE-3 Turbo, což jsou čipy o velikosti jídelního talíře, které zdvojnásobují výpočetní výkon a paměťovou propustnost svých předchůdců tím, že vytěžují stávající křemík na maximum, namísto zavádění zcela nového designu. Každý WSE-3T dodává 250 petaFLOPs AI výkonu a 43,2 petabajtu za sekundu paměťové propustnosti, čehož bylo dosaženo přibližným zdvojnásobením taktovací frekvence na odhadovaných 2,8 GHz díky vylepšenému napájení.theregister

Celkem tři čipy poskytují systému CS-4 celkem 750 PFLOPs AI výkonu a 129,6 petabajtu za sekundu paměťové propustnosti. Podle analytické firmy Artificial Analysis dosahuje systém u modelu GPT-OSS-120B více než 4 400 tokenů za sekundu na uživatele, ve srovnání s přibližně 350 tokeny za sekundu u nejrychlejší inferenční služby založené na GPU.quiverquant+1

"V AI je rychlost produktivitou," řekl na akci generální ředitel Andrew Feldman. "Cerebras CS-4 přináší špičkovou rychlost u největších modelů a zásadně mění paradigma."quiverquant

Snazší nasazení a ambiciózní plán

CS-4 zavádí modulární architekturu "batohu" s o 50 procent menším počtem komponent než u předchůdce, což podle technického ředitele Seana Lie urychlí výstavbu datových center. Systém také obsahuje bezpřepínačové propojení čipů, které snižuje latenci propojení z pěti mikrosekund na dvě.investing+2

Cerebras uvedl, že první dodávky začnou koncem tohoto čtvrtletí. Společnost také nastínila plány na čip a server příští generace v roce 2027, přičemž Feldman předpokládá, že společnost do konce tohoto roku dodá 600 megawattů výpočetního výkonu a dosáhne 20krát vyšší propustnosti.investing

Kontext trhu

Uvedení na trh přichází v době, kdy se Cerebras snaží vytvořit si vlastní prostor proti dominanci Nvidia v oblasti AI hardwaru. Server The Register poznamenal, že hlavní výkonnostní čísla WSE-3T silně spoléhají na řídkost (sparsity), která "obecně nepřináší výhody pro LLM inferenci," a že Cerebras nyní spolupracuje s AWS Amazon.com, Inc. ↗ 1.33% a AMD Advanced Micro Devices, Inc. ↗ 2.95% na zvládání výpočetně náročného předzpracování na jejich hardwaru. Minulý týden Cerebras vykázal upravenou ztrátu 6,9 milionu dolarů při tržbách 180,1 milionu dolarů.theregister+1