AMD ostaa startup-yrityksen, joka koodaa tekoälymallit suoraan siruihin

Advanced Micro Devices, Inc. ↘ 1.47% ilmoitti torstaina tehneensä lopullisen sopimuksen Torontossa toimivan Taalas-yrityksen ostamisesta. Startup kehittää teknologiaa, jossa tekoälymallien painoarvot koodataan suoraan piiin, mikä mahdollistaa perinteisiä GPU-suorittimia huomattavasti nopeamman päättelyn. Taloudellisia ehtoja ei julkistettu.bloomberg+1

Markkinoiden sulkeutumisen jälkeen julkistettu kauppa vahvistaa AMD:n asemaa kilpailussa Nvidiaa ↘ 1.47% vastaan, joka käytti viime joulukuussa 20 miljardia dollaria lisenssisopimukseen Groqin kanssa parantaakseen omia päättelyominaisuuksiaan.cnbc+1

Miten Taalas toimii

Vuonna 2023 perustettu yritys, jonka perustajiin kuuluvat Tenstorrentin entinen toimitusjohtaja Ljubisa Bajic ja useat entiset AMD-insinöörit, lähestyy päättelyä radikaalisti eri tavalla. Sen sijaan, että mallin painoarvot tallennettaisiin muistiin, ne syövytetään suoraan piiin. Lopputuloksena on käytännössä mallikohtainen integroitu piiri.eetimes+1

Helmikuussa Taalas esitteli ensimmäisen testisirunsa, HC1:n, joka valmistettiin Taiwan Semiconductor Manufacturing Company Limitedin ↘ 1.20% 6 nanometrin prosessilla. Siru ajoi Metan ↗ 1.02% Llama 3.1 8B -mallia 16 960 tokenin sekuntinopeudella, mikä on 48 kertaa nopeammin kuin Nvidian GPU-suorittimet ja 8,5 kertaa nopeammin kuin Cerebrasin kiihdyttimet kyseisen julkistuksen aikaan.theregister+1

Kääntöpuolena on se, että käyttöön otettu Taalas-siru voi ajaa vain sille koodattua mallia. Kaikki muutokset, jotka ylittävät LoRA-sovittimen mahdollisuudet, vaativat sirun uudelleensuunnittelua, vaikka yrityksen mukaan vain kaksi metallikerrosta vaatii muutoksia, mikä vie noin kaksi kuukautta.eetimes+1

AMD:n integraatiosuunnitelmat

AMD aikoo yhdistää Taalas-sirut Instinct GPU-suorittimiinsa ja Helios-palvelinjärjestelmiinsä hajautetussa arkkitehtuurissa. Tässä mallissa GPU-suorittimet hoitavat laskentatehoa vaativan kehotteiden käsittelyn, kun taas Taalas-kiihdyttimet vastaavat tokenien tuottamisesta. Tämä peilaa Nvidian Groq-yhteistyötä, jossa erikoistuneet dekoodaussirut toimivat rinnakkain GPU-suorittimien kanssa.investing+2

"Taalasin teknologia ja maailmanluokan insinööritiimi vahvistavat tekoälyportfoliotamme tarjoamalla erottuvaa päättelykykyä ja tehokkuutta", sanoi Vamsi Boppana, AMD:n tekoälyyksikön johtaja.investing

AMD:n toimitusjohtaja Lisa Su totesi heinäkuussa tuotejulkistuksen yhteydessä uskovansa vahvasti siihen, ettei siruissa ole yhtä kaikille sopivaa ratkaisua, vaikka GPU-suorittimet tulevatkin muodostamaan suurimman osan tekoälysirumarkkinoista.cnbc

Strateginen konteksti

Yrityskauppa jatkaa AMD:n tekoälyalustansa laajentamista. Aiemmin vuonna 2024 yhtiö osti ZT Systemsin 4,9 miljardilla dollarilla ja Silo AI:n 665 miljoonalla dollarilla. Taalas on kerännyt perustamisestaan lähtien 219 miljoonaa dollaria pääomasijoituksia.cnbc

AMD:n suurimmat Instinct GPU -asiakkaat, kuten OpenAI, Anthropic ja Meta, voisivat olla ensimmäisiä, jotka ottavat käyttöön Taalas- ja Instinct-kiihdyttimiä yhdistäviä ratkaisuja. Kaupan odotetaan toteutuvan neljännellä vuosineljänneksellä viranomaishyväksynnän jälkeen.betakit+1