NVIDIA-მ Hot Chips-ზე Groq 3 LPU წარადგინა, რომელიც დეკოდირების 4-ჯერ მაღალ სიჩქარეს აჩვენებს

NVIDIA ↘ 4.22% დომინირებდა Hot Chips 2026-ის ტექნიკურ პროგრამაში და წარადგინა ორი სპეციალიზებული პროცესორი, რომლებიც მის Vera Rubin პლატფორმას GPU-ების მიღმა აფართოებს: Groq 3 Language Processing Unit და BlueField-4 Data Processing Unit. კონფერენციაზე, რომელიც 23-25 აგვისტოს სტენფორდის უნივერსიტეტში გაიმართა, ასევე წარმოდგენილი იყო NVIDIA-ს 88-ბირთვიანი Vera CPU და Rubin GPU.vdura+1

Groq 3 LPU: დეტერმინისტული დეკოდირება მასშტაბით

Groq 3 LPU-ს პრეზენტაციამ დეტალურად აჩვენა, თუ როგორ ნერგავს NVIDIA Groq-ის ტექნოლოგიას, რომლის გუნდიც NVIDIA-ს შეუერთდა 2025 წლის დეკემბერში გამოცხადებული 20 მილიარდი დოლარის ღირებულების შენაძენის შემდეგ. ერთ LPX თაროს, რომელიც 256 LPU-ს შეიცავს, შეუძლია 31 მილიარდი პარამეტრის მქონე მოდელზე (Gemma 4) წამში 11 000 ტოკენის დეკოდირება, რაც 4-ჯერ აღემატება უახლოესი კონკურენტის მაჩვენებელს Artificial Analysis-ის დამოუკიდებელ ტესტებში.servethehome+2

ჩიპი ეყრდნობა დიდი რაოდენობით on-die SRAM-ს (128 GB თაროზე), რაც უზრუნველყოფს 40 PB/s ჯამურ SRAM გამტარუნარიანობას და 315 PFLOPS FP8 გამოთვლით სიმძლავრეს. მისი სრულად დეტერმინისტული არქიტექტურა გამორიცხავს განშტოებებს და აპარატურულ დაგეგმვას, რაც ინსტრუქციების დაგეგმვას პროგრამულ უზრუნველყოფაზე გადააქვს. ენერგომოხმარებაც პროგნოზირებადია, რაც იძლევა წინასწარი გათვლების საშუალებას, რაც ძაბვის ვარდნას 60 პროცენტით ამცირებს.servethehome

Rubin GPU-ებთან ერთად, LPX თარო ზრდის მუშაობის ეფექტურობას 5-ჯერ, როდესაც GPU-ები პრეფილზე მუშაობენ, ხოლო LPU-ები დეკოდირების პროცესს იღებენ საკუთარ თავზე.servethehome

BlueField-4: AI ქარხნის სანდო ფრონტ-ენდი

ქსელური მიმართულებით, NVIDIA-მ წარადგინა BlueField-4, როგორც პირველი "AI-native DPU", რომელიც აერთიანებს 64 Arm Neoverse V2 ბირთვს 1.7 GHz სიხშირით და ConnectX-9 ქსელს 800G Ethernet-ით. Vera Rubin სისტემაში DPU მართავს 7 Tb/s ჯამურ გამტარუნარიანობას თითო გამოთვლით უჯრაზე და უზრუნველყოფს უსაფრთხოებას.servethehome

შენახვის მუშაობის მაჩვენებლები შთამბეჭდავია: NVMe over fabrics BlueField-4-ზე აღწევს 1.6 Tb/s-ს რვა ბირთვით და 20 მილიონ IOPS-ს 16 ბირთვით, რაც NVIDIA-ს თქმით, GPU-ებისთვის მონაცემებთან წვდომის 2-ჯერ უფრო სწრაფ გზას ქმნის.servethehome

Groq დამოუკიდებელ ოპერირებას აგრძელებს

ცალკე, Groq, რომელიც აგრძელებს თავისი GroqCloud სერვისის დამოუკიდებლად მართვას, დაიქირავა Meta-ს ↘ 1.53% ყოფილი ქსელური განლაგების მენეჯერი, ოლა კასალი, ქსელური და მონაცემთა ცენტრის ინჟინერიის ხელმძღვანელად. კომპანიამ აგვისტოში 350 მილიონი დოლარი მოიზიდა 3.5 მილიარდი დოლარის შეფასებით და გეგმავს 2027 წლისთვის გამოთვლითი სიმძლავრე 54 მეგავატიდან 200 მეგავატზე მეტამდე გაზარდოს.sdxcentral