„NVIDIA“ pristatė „Groq 3 LPU“: 4 kartus spartesnis dekodavimas

„NVIDIA“ ↗ 1.07% dominavo „Hot Chips 2026“ techninėje programoje, pristatydama du specializuotus procesorius, kurie išplečia „Vera Rubin“ platformos galimybes už GPU ribų: „Groq 3“ kalbos apdorojimo bloką (LPU) ir „BlueField-4“ duomenų apdorojimo bloką (DPU). Rugpjūčio 23–25 d. Stanfordo universitete vykusioje konferencijoje taip pat buvo pristatyti 88 branduolių „Vera“ CPU ir „Rubin“ GPU.vdura+1

„Groq 3 LPU“: deterministinis dekodavimas mastu

„Groq 3 LPU“ pristatyme buvo detaliai aprašyta, kaip „NVIDIA“ integruoja „Groq“ technologiją, kurios komanda didžiąja dalimi prisijungė prie „NVIDIA“ po 20 mlrd. JAV dolerių vertės įsigijimo 2025 m. pabaigoje. Viena LPX sistema su 256 LPU gali dekoduoti 11 000 žetonų per sekundę 31 milijardo parametrų modeliui („Gemma 4“), o tai yra 4 kartus didesnis našumas nei artimiausio konkurento, rodo „Artificial Analysis“ atlikti bandymai.servethehome+2

Lustas remiasi dideliu SRAM kiekiu – 128 GB visame stelaže – užtikrinančiu 40 PB/s bendrą SRAM pralaidumą ir 315 PFLOPS FP8 skaičiavimo galią. Jo visiškai deterministinė architektūra pašalina šakojimąsi ir aparatinį planavimą, visą instrukcijų planavimą perkeliant į programinę įrangą. Energijos suvartojimas yra vienodai nuspėjamas, todėl galima naudoti metodus, kurie sumažina įtampos kritimą 60 procentų.servethehome

Sujungus su „Rubin“ GPU, LPX sistema padidina našumą iki 5 kartų, kai naudojami didžiausi žetonų perdavimo greičiai, nes LPU atlieka dekodavimo dalį, o GPU susikoncentruoja į išankstinį užpildymą.servethehome

„BlueField-4“: patikima AI gamyklos sąsaja

Tinklo srityje „NVIDIA“ pristatė „BlueField-4“ kaip pirmąjį „AI-native DPU“, sujungiantį 64 „Arm Neoverse V2“ branduolius (1,7 GHz) su „ConnectX-9“ tinklo įranga, užtikrinančia 800G Ethernet. „Vera Rubin“ sistemoje šis DPU valdo 7 Tb/s bendrą pralaidumą kiekviename skaičiavimo padėkle, kartu užtikrindamas saugumą.servethehome

Saugyklos našumo rodikliai buvo įspūdingi: NVMe per „BlueField-4“ pasiekia 1,6 Tb/s su aštuoniais branduoliais ir 20 milijonų IOPS su 16 branduolių, o tai, pasak „NVIDIA“, yra 2 kartus greitesnis kelias iki duomenų GPU.servethehome

„Groq“ tęsia nepriklausomą veiklą

Atskirai „Groq“, kuri toliau savarankiškai valdo „GroqCloud“ išvadų paslaugą, pasamdė Olą Kasali, buvusią „Meta“ ↘ 1.08% tinklo diegimo vadovę, tinklo ir duomenų centrų inžinerijos skyriaus vadove. Rugpjūčio mėnesį bendrovė pritraukė 350 mln. JAV dolerių investicijų, pasiekdama 3,5 mlrd. JAV dolerių vertinimą, ir planuoja iki 2027 m. išplėsti skaičiavimo pajėgumus nuo 54 megavatų iki daugiau nei 200 MW.sdxcentral