NVIDIA představila Groq 3 LPU: 4x rychlejší dekódování

Společnost NVIDIA ↗ 1.80% dominovala technickému programu konference Hot Chips 2026, kde představila dva specializované procesory rozšiřující její platformu Vera Rubin nad rámec běžných GPU: Groq 3 Language Processing Unit a BlueField-4 Data Processing Unit. Konference, která se konala 23. až 25. srpna v Memorial Auditorium na Stanfordově univerzitě, zahrnovala také prezentace 88jádrového procesoru Vera CPU a GPU Rubin.vdura+1

Groq 3 LPU: Deterministické dekódování ve velkém měřítku

Prezentace Groq 3 LPU podrobně popsala, jak NVIDIA integruje technologii od společnosti Groq, jejíž tým se k NVIDIA připojil po akvizici v hodnotě 20 miliard dolarů oznámené koncem prosince 2025. Jeden rack LPX, obsahující 256 jednotek LPU, dokáže dekódovat 11 000 tokenů za sekundu u modelu s 31 miliardami parametrů (Gemma 4), což podle nezávislých testů Artificial Analysis představuje 4x vyšší výkon než u nejbližšího veřejného konkurenta.servethehome+2

Čip spoléhá na velké množství SRAM přímo na čipu – celkem 128 GB na rack – což poskytuje agregovanou propustnost SRAM 40 PB/s a výpočetní výkon 315 PFLOPS v FP8. Jeho plně deterministická architektura eliminuje větvení a hardwarové plánování, přičemž veškeré plánování instrukcí přenáší na software. Spotřeba energie je stejně předvídatelná, což umožňuje techniky předvídání, které snižují pokles napětí o 60 procent.servethehome

Ve spojení s GPU Rubin rozšiřuje rack LPX hranice výkonu až 5x při nejvyšších rychlostech tokenů na uživatele, přičemž LPU zvládá část dekódování, zatímco GPU se soustředí na předvyplňování.servethehome

BlueField-4: Důvěryhodné rozhraní pro AI továrny

V oblasti síťování představila NVIDIA BlueField-4 jako první „AI-native DPU“, kombinující 64 jader Arm Neoverse V2 na frekvenci 1,7 GHz se síťovým rozhraním ConnectX-9 s rychlostí 800G Ethernet. V systému Vera Rubin spravuje toto DPU agregovanou propustnost 7 Tb/s na jeden výpočetní modul a zároveň vynucuje zabezpečení s nulovou důvěrou (zero-trust) při plné rychlosti linky.servethehome

Výkon úložiště byl pozoruhodný: NVMe přes BlueField-4 dosahuje 1,6 Tb/s s osmi jádry a 20 milionů IOPS se 16 jádry, což podle NVIDIA představuje 2x rychlejší cestu k datům pro GPU.servethehome

Groq pokračuje v nezávislém provozu

Společnost Groq, která nadále nezávisle provozuje svou službu GroqCloud, najala Olu Kasali, bývalou manažerku síťového nasazení ve společnosti Meta ↗ 3.01%, jako vedoucí inženýrství sítí a datových center. Společnost v srpnu získala 350 milionů dolarů při ocenění 3,5 miliardy dolarů a plánuje do roku 2027 škálovat výpočetní výkon z 54 megawattů na více než 200 MW.sdxcentral