AMD įsigys startuolį, kuris dirbtinio intelekto modelius integruoja tiesiai į lustus

„Advanced Micro Devices, Inc.“ ↘ 1.47% ketvirtadienį paskelbė pasiekusi galutinį susitarimą įsigyti Toronte įsikūrusį startuolį „Taalas“, kuris dirbtinio intelekto modelių svorius integruoja tiesiai į silicio lustus, taip pasiekdamas gerokai didesnį spartos lygį nei įprasti grafikos procesoriai. Finansinės sandorio sąlygos nebuvo atskleistos.bloomberg+1

Šis sandoris, apie kurį paskelbta užsidarius rinkoms, leidžia AMD tiesiogiau konkuruoti su „Nvidia“ ↘ 1.47%, kuri praėjusį gruodį skyrė 20 milijardų dolerių licencijavimo sutarčiai su „Groq“, siekdama sustiprinti savo galimybes.cnbc+1

Kaip veikia „Taalas“ technologija

2023 metais buvusio „Tenstorrent“ vadovo Ljubisa Bajic ir kitų buvusių AMD inžinierių įkurtas startuolis „Taalas“ taiko radikaliai kitokį požiūrį į duomenų apdorojimą, įrašydamas modelių svorius tiesiai į silicio struktūrą, užuot juos saugojęs atmintyje. Rezultatas yra iš esmės konkrečiam modeliui skirtas integruotas grandynas.eetimes+1

Vasario mėnesį „Taalas“ pristatė savo pirmąjį bandomąjį lustą HC1, pagamintą naudojant „Taiwan Semiconductor Manufacturing Company Limited“ ↘ 1.20% 6 nm procesą. Šis lustas „Meta“ ↗ 1.02% modelį „Llama 3.1 8B“ aptarnavo 16 960 tokenų per sekundę greičiu, t. y. 48 kartus greičiau nei „Nvidia“ grafikos procesoriai ir 8,5 karto greičiau nei „Cerebras“ akceleratoriai tuo metu, kai buvo paskelbta apie šį pasiekimą.theregister+1

Kompromisas yra akivaizdus: kartą įdiegtas „Taalas“ lustas gali vykdyti tik tą modelį, kuris jame yra „iškeptas“. Bet kokiems pakeitimams, išskyrus „LoRA“ adapterius, reikia iš naujo gaminti lustą, nors įmonė teigia, kad reikia modifikuoti tik du metalinius sluoksnius, o šis procesas trunka apie du mėnesius.eetimes+1

AMD integracijos planai

AMD planuoja derinti „Taalas“ lustus su savo „Instinct“ grafikos procesoriais ir „Helios“ serverių sistemomis, sukurdama išskaidytą architektūrą, kurioje grafikos procesoriai atlieka skaičiavimams imlų užklausų apdorojimą, o „Taalas“ akceleratoriai generuoja tokenus. Tai atspindi „Nvidia“ požiūrį su „Groq“, kur specializuoti dekodavimo lustai veikia kartu su grafikos procesoriais.investing+2

„Taalas technologija ir pasaulinio lygio inžinierių komanda sustiprina mūsų DI portfelį, užtikrindami išskirtinį našumą ir efektyvumą“, – teigė Vamsi Boppana, AMD vyresnysis DI viceprezidentas.investing

AMD generalinė direktorė Lisa Su liepos mėnesį vykusio produkto pristatymo metu sakė, kad ji „tvirtai tiki, jog nėra vieno visiems tinkančio sprendimo, kai kalbama apie lustus“, tačiau pažymėjo, kad grafikos procesoriai vis tiek sudarys didžiąją DI lustų rinkos dalį.cnbc

Strateginis kontekstas

Šis įsigijimas tęsia AMD plėtrą kuriant savo DI platformą po 4,9 milijardo dolerių vertės „ZT Systems“ pirkimo ir 665 milijonų dolerių vertės „Silo AI“ įsigijimo 2024 metais. Nuo pat įkūrimo „Taalas“ pritraukė 219 milijonų dolerių rizikos kapitalo investicijų.cnbc

Pagrindiniai AMD „Instinct“ grafikos procesorių klientai, įskaitant „OpenAI“, „Anthropic“ ir „Meta“, galėtų tapti pirmaisiais kandidatais diegti sistemas, kuriose derinami „Taalas“ ir „Instinct“ akceleratoriai. Tikimasi, kad sandoris bus užbaigtas ketvirtąjį ketvirtį, gavus reguliavimo institucijų pritarimą.betakit+1