OpenAI-ის განცხადებით, მისი ახალი ჩიპი Jalapeño ინფერენსში Nvidia-ს სჯობნის

OpenAI-მა სამშაბათს გამოაქვეყნა ტესტირების შედეგები, რომლებიც აჩვენებს, რომ მისი სპეციალიზებული ინფერენს-ჩიპი Jalapeño გამტარუნარიანობითა და ენერგოეფექტურობით სჯობნის Nvidia-ს ↗ 0.90% და სხვა კონკურენტებს. ეს არის ხელოვნური ინტელექტის კომპანიის ყველაზე დეტალური საჯარო გამოწვევა დომინანტი ჩიპების მწარმოებლის ტექნიკური უპირატესობის მიმართ.

ტესტირების შედეგები, რომლებიც სტენფორდში გამართულ ნახევარგამტარების კონფერენციაზე (Hot Chips) OpenAI-ის პრეზენტაციამდე გავრცელდა, აჩვენებს, რომ Jalapeño 1.5-დან 1.9-ჯერ მეტ AI სამუშაოს ასრულებს ერთ ვატზე და 1.7-დან 3.6-ჯერ ნაკლები ორმხრივი დაყოვნება (end-to-end latency) აქვს, ვიდრე Nvidia-ს GB200 და GB300 სისტემებს ისეთი მოდელების გაშვებისას, როგორებიცაა DeepSeek R1, Kimi K2.5-ის 1-ტრილიონპარაამეტრიანი ვერსია და თავად OpenAI-ის GPT-OSS 120B.axios+1

სერვერული თაროს მასშტაბის ინფერენსის მანქანა

ჩიპი, რომელიც Broadcom-თან ↗ 4.00% ერთად შეიქმნა და რომლის შესახებ პირველი ინფორმაცია ივნისში გავრცელდა, თავიდანვე ექსკლუზიურად დიდი ენობრივი მოდელების (LLM) ინფერენსისთვის შეიქმნა. სისტემურ დონეზე, თითოეული Jalapeño-ს სერვერული თარო შეიცავს 128 აქსელერატორს, რომლებიც უზრუნველყოფენ 1.7 ექსაფლოპსის (exaFLOPS) 4-ბიტიან გამოთვლებს, 27.5 ტერაბაიტ HBM4 მეხსიერებას და თითქმის 2 პეტაბაიტს წამში მეხსიერების გამტარუნარიანობას.theregister

OpenAI-ის აპარატურული უზრუნველყოფის ვიცე-პრეზიდენტმა, რიჩარდ ჰომ, ჟურნალისტებს განუცხადა, რომ ჩიპი გვთავაზობს „საუკეთესოს ორივე სამყაროდან“ დაბალი დაყოვნებითა და მაღალი გამტარუნარიანობით, რადგან AI სისტემებს, როგორც წესი, „ამ ორს შორის კომპრომისზე წასვლა უწევთ“.theverge

კვლევითი კომპანია SemiAnalysis-ის თანახმად, რომელმაც OpenAI-ის ლაბორატორიებში ჩიპზე თავისი InferenceX ტესტირების პაკეტი გაუშვა, Jalapeño-მ DeepSeek R1-ზე წამში 700-ზე მეტ ტოკენს მიაღწია თითო მომხმარებელზე 1 პარალელური მოთხოვნისას. ეს ყველაფერი სპეკულაციური დეკოდირების ან prefill-decode დეზაგრეგაციის გარეშე მოხდა: ტექნოლოგიების, რომლებსაც კონკურენტები საკუთარი მაჩვენებლების გასაზრდელად იყენებენ.newsletter.semianalysis

იდეიდან ჩიპამდე: სისწრაფე და შეზღუდვები

OpenAI-ს გუნდის დაკომპლექტებიდან ჩიპის წარმოებაში ჩაშვებამდე (tape-out) დაახლოებით 16 თვე დასჭირდა, ხოლო უშუალოდ წარმოების პროცესი 2025 წლის ნოემბერში დაიწყო. კომპანიის განცხადებით, პროექტირებისას ხელოვნური ინტელექტის გამოყენებამ ხელი შეუწყო SIMD-ის ფართობის 8 პროცენტით, ხოლო მატრიცული ძრავის (matrix-engine) ფართობის 10 პროცენტით შემცირებას.newsletter.semianalysis

მიუხედავად ამისა, Jalapeño მხოლოდ ინფერენსს ასრულებს და არა სწავლებას. „ჩვენ ბევრი გამოთვლითი სიმძლავრე დაგვჭირდება“, განაცხადა ჰომ. „და Jalapeño ამის ნაწილია. Cerberus ამის ნაწილია. Nvidia ამის ნაწილია. AMD Advanced Micro Devices, Inc. ↗ 5.45% ამის ნაწილია“.axios

დანერგვა და კონკურენცია

OpenAI გეგმავს ჩიპის შეზღუდულ დანერგვას 2026 წლის ბოლოსთვის, ხოლო მასობრივი წარმოება 2027 წლის განმავლობაში გაიზრდება. კომპანია უკვე მუშაობს მეორე თაობის ჩიპზე, ხოლო მესამე თაობის გეგმები უკვე ისახება.theverge+1

SemiAnalysis-მა მნიშვნელოვანი დათქმებიც აღნიშნა: ტესტირებაში გამოყენებული იყო შედარებით მარტივი დატვირთვა (8k-შესავალი, 1k-გამოსავალი) და არა უფრო რთული აგენტური დავალებები, რომლებიც ქეშირებასა და როუტინგს ტვირთავს. გარდა ამისა, Nvidia-ს უფრო ახალ Vera Rubin არქიტექტურასთან შედარება, რომელიც იმავე HBM4 მეხსიერებას იყენებს, უფრო ობიექტური იქნებოდა.newsletter.semianalysis

ჩიპი საკმაოდ კონკურენტულ გარემოში ერთვება. Google Alphabet Inc.-ს ↗ 0.84% აქვს თავისი TPU ხაზი, Amazon Amazon.com, Inc.-სა ↗ 1.61% და Microsoft-ს ↘ 0.24% საკუთარი პროექტები აქვთ, ხოლო Anthropic-მა ამ თვის დასაწყისში დაადასტურა, რომ საკუთარ ჩიპზე მუშაობს. OpenAI არ გეგმავს Jalapeño-ს გარე გაყიდვას. „ჩვენ თავად იმდენად გვჭირდება ის, რომ ვერც კი წარმოგვიდგენია, როდის შევძლებთ მის გაყიდვას“, განაცხადა ჰომ.axios