AMD kjøper opp oppstartsselskap som bygger AI-modeller rett inn i brikker

AMD Advanced Micro Devices, Inc. ↘ 1.47% kunngjorde torsdag at de har inngått en bindende avtale om å kjøpe Toronto-baserte Taalas, en oppstart som bygger AI-modellvekter direkte inn i silisium for å levere inferenshastigheter langt utover konvensjonelle GPU-er. De økonomiske vilkårene er ikke offentliggjort.bloomberg+1

Avtalen, som ble kunngjort ved børsslutt, posisjonerer AMD til å konkurrere mer direkte med Nvidia ↘ 1.47%, som brukte 20 milliarder dollar på en lisensavtale med Groq i desember i fjor for å styrke egne inferensevner.cnbc+1

Slik fungerer Taalas

Taalas ble grunnlagt i 2023 av tidligere Tenstorrent-sjef Ljubisa Bajic og andre tidligere AMD-ingeniører. Selskapet tar en radikalt annerledes tilnærming til inferens ved å etse modellvekter direkte inn i silisium i stedet for å lagre dem i minnet. Resultatet er i praksis en modellspesifikk integrert krets.eetimes+1

I februar demonstrerte Taalas sin første testbrikke, HC1, produsert på 6nm-prosessen til TSMC, Taiwan Semiconductor Manufacturing Company Limited ↘ 1.20%. Brikken kjørte Metas ↗ 1.02% Llama 3.1 8B-modell med 16 960 tokens per sekund, noe som er 48 ganger raskere enn Nvidias GPU-er og 8,5 ganger raskere enn Cerebras-akseleratorer på tidspunktet for kunngjøringen.theregister+1

Kompromisset er tydelig: Når en Taalas-brikke er tatt i bruk, kan den bare kjøre modellen den er programmert med. Enhver endring utover en LoRA-adapter krever en ny produksjonsrunde av brikken, selv om selskapet hevder at bare to metallag trenger modifisering, en prosess de anslår tar omtrent to måneder.eetimes+1

AMDs integrasjonsplaner

AMD planlegger å kombinere Taalas-brikker med sine Instinct GPU-er og Helios rack-systemer i en disaggregert arkitektur, der GPU-er håndterer beregningstung prosessering mens Taalas-akseleratorer styrer generering av tokens. Dette speiler Nvidias tilnærming med Groq, der spesialiserte dekodingsbrikker jobber sammen med GPU-er.investing+2

"Taalas sin teknologi og ingeniørteam i verdensklasse styrker vår AI-portefølje ved å levere differensiert inferensytelse og effektivitet," sier Vamsi Boppana, AMDs senior visepresident for AI.investing

AMD-sjef Lisa Su sa under en produktlansering i juli at hun er "en stor tilhenger av at det ikke finnes én løsning som passer alle når det gjelder brikker," samtidig som hun bemerket at GPU-er fortsatt vil utgjøre størstedelen av markedet for AI-brikker.cnbc

Strategisk kontekst

Oppkjøpet fortsetter AMDs kjøpsbølge for å bygge ut sin AI-plattform, etter kjøpet av ZT Systems for 4,9 milliarder dollar og Silo AI for 665 millioner dollar i 2024. Taalas har hentet 219 millioner dollar i risikokapital siden oppstarten.cnbc

AMDs største kunder for Instinct GPU-er, inkludert OpenAI, Anthropic og Meta, kan bli tidlige kandidater for implementeringer som kombinerer Taalas- og Instinct-akseleratorer. Avtalen forventes å bli fullført i fjerde kvartal, underlagt regulatorisk godkjenning.betakit+1