AMD სტარტაპს ყიდულობს, რომელიც AI მოდელებს პირდაპირ ჩიპებში ნერგავს

Advanced Micro Devices, Inc. ↘ 1.47%-მ ხუთშაბათს განაცხადა, რომ მიაღწია საბოლოო შეთანხმებას ტორონტოში დაფუძნებული სტარტაპ Taalas-ის შეძენაზე. ეს კომპანია AI მოდელების წონებს პირდაპირ სილიკონში ნერგავს, რაც ჩვეულებრივ GPU-ებთან შედარებით გაცილებით მაღალ ინფერენსის სიჩქარეს უზრუნველყოფს. ფინანსური პირობები არ გასაჯაროებულა.bloomberg+1

გარიგება, რომელიც ბაზრის დახურვისას გამოცხადდა, AMD-ს საშუალებას აძლევს უფრო პირდაპირ კონკურენცია გაუწიოს Nvidia ↘ 1.47%-ს, რომელმაც გასული წლის დეკემბერში Groq-თან ლიცენზირების გარიგებაში 20 მილიარდი დოლარი დახარჯა საკუთარი ინფერენსის შესაძლებლობების გასაძლიერებლად.cnbc+1

როგორ მუშაობს Taalas

2023 წელს Tenstorrent-ის ყოფილი აღმასრულებელი დირექტორის ლიუბისა ბაიჩისა და AMD-ს ყოფილი ინჟინრების მიერ დაფუძნებული Taalas ინფერენსისადმი რადიკალურად განსხვავებულ მიდგომას იყენებს: მოდელის წონები პირდაპირ სილიკონშია ამოტვიფრული და არა მეხსიერებაში შენახული. შედეგი არის მოდელზე სპეციალიზებული ინტეგრირებული სქემა.eetimes+1

თებერვალში Taalas-მა წარმოადგინა თავისი პირველი სატესტო ჩიპი HC1, რომელიც TSMC-ის ↘ 1.20% 6 ნანომეტრიან პროცესზეა დამზადებული. ჩიპმა Meta ↗ 1.02%-ს Llama 3.1 8B მოდელი წამში 16 960 ტოკენის სიჩქარით დაამუშავა, რაც 48-ჯერ სწრაფია Nvidia-ს GPU-ებზე და 8.5-ჯერ სწრაფია Cerebras-ის ამაჩქარებლებზე იმ დროისთვის.theregister+1

ამას აქვს თავისი ფასი: ერთხელ დანერგვის შემდეგ, Taalas-ის ჩიპს მხოლოდ მასში ჩაშენებული მოდელის გაშვება შეუძლია. LoRA ადაპტერის გარდა ნებისმიერი ცვლილება მოითხოვს ჩიპის ხელახალ დიზაინს, თუმცა კომპანია აცხადებს, რომ მხოლოდ ორი მეტალის ფენის მოდიფიკაციაა საჭირო, რაც დაახლოებით ორ თვეს მოითხოვს.eetimes+1

AMD-ს ინტეგრაციის გეგმები

AMD გეგმავს Taalas-ის ჩიპების დაწყვილებას თავის Instinct GPU-ებთან და Helios-ის სისტემებთან დეზაგრეგირებულ არქიტექტურაში, სადაც GPU-ები ამუშავებენ გამოთვლით რთულ პროცესებს, ხოლო Taalas-ის ამაჩქარებლები მართავენ ტოკენების გენერაციას. ეს იმეორებს Nvidia-ს მიდგომას Groq-თან, სადაც სპეციალიზებული დეკოდირების ჩიპები მუშაობენ GPU-ებთან ერთად.investing+2

"Taalas-ის ტექნოლოგია და მსოფლიო დონის საინჟინრო გუნდი აძლიერებს ჩვენს AI პორტფელს, რაც უზრუნველყოფს დიფერენცირებულ ინფერენსის შესრულებას და ეფექტურობას," განაცხადა AMD-ს AI-ის უფროსმა ვიცე-პრეზიდენტმა ვამსი ბოპანამ.investing

AMD-ს აღმასრულებელმა დირექტორმა ლიზა სუმ ივლისში პროდუქტის პრეზენტაციაზე აღნიშნა, რომ ის "მტკიცედ სწამს, რომ არ არსებობს უნივერსალური ჩიპი ყველა შემთხვევისთვის," თუმცა დასძინა, რომ GPU-ები კვლავ დაიკავებენ AI ჩიპების ბაზრის უმეტეს ნაწილს.cnbc

სტრატეგიული კონტექსტი

ეს შენაძენი აგრძელებს AMD-ს მიერ AI პლატფორმის გაფართოების სტრატეგიას, ZT Systems-ის 4.9 მილიარდ დოლარად და Silo AI-ის 665 მილიონ დოლარად შეძენის შემდეგ. დაფუძნების დღიდან Taalas-მა 219 მილიონი დოლარის ვენჩურული დაფინანსება მოიზიდა.cnbc

AMD-ს Instinct GPU-ების მსხვილი მომხმარებლები, მათ შორის OpenAI, Anthropic და Meta, შესაძლოა იყვნენ პირველები, ვინც გამოიყენებს Taalas-ისა და Instinct-ის ამაჩქარებლების კომბინაციას. გარიგება, მარეგულირებლის თანხმობის შემთხვევაში, მეოთხე კვარტალში დაიხურება.betakit+1