Analyytikot: Meta pakotti AMD:n puolittamaan tekoälysirunsa tehot

Meta Platforms ↗ 1.02% ottaa käyttöön räätälöidyn version AMD:n Advanced Micro Devices, Inc. ↘ 1.47% Instinct MI450 -kiihdyttimestä, joka puolittaa laskentapiin määrän ja leikkaa muistikapasiteettia noin kaksi kolmasosaa verrattuna vakioversio MI455X:ään, kertoo puolijohdetutkimusyhtiö SemiAnalysis. Päätös, joka on optimoitu Metan suositusjärjestelmiä eikä generatiivista tekoälyä varten, on herättänyt harvinaisen julkisen kritiikin analyytikkoyhtiöltä. Se varoittaa, että konfiguraatio jättää Metan tekoälytutkimustiimit epäedulliseen asemaan kilpailijoihin nähden.

Karsittu rakenne

SemiAnalysis paljasti 21. heinäkuuta, että Metan räätälöity MI400-sarjan siru käyttää neljää laskentapiitä kahdeksan sijasta ja korvaa MI455X:n kaksitoista 12-Hi HBM4 -pinoa, joiden yhteiskapasiteetti on 432 Gt, kuudella 8-Hi pinolla, jotka tarjoavat noin 144 Gt muistia. Metan infrastruktuuritiimi perusteli konfiguraatiota sillä, että se on viritetty suositusjärjestelmien kuormituksen vaatimaan CPU-GPU-suhteeseen, mikä optimoi kustannukset muistin kaistanleveyden yksikköä kohden.FuTu News+1

Vakioversio MI455X, joka on rakennettu TSMC:n 2 nm prosessilla ja hybridiliitospakkauksella, edustaa nykyistä huippua GPU-pakkauksissa ja muistitiheydessä. Räätälöity versio uhraa tämän kapasiteetin palvellakseen kuormituksia, joita Meta ajaa valtavassa mittakaavassa, mutta jotka eroavat jyrkästi suurten kielimallien koulutus- ja päättelytehtävistä, jotka ovat nyt tekoälyteollisuuden keskiössä.FuTu News

SemiAnalysis varoittaa

SemiAnalysis kutsui päätöstä "katastrofaaliseksi" ja otti harvinaisen askeleen kehottamalla julkisesti AMD:tä työskentelemään suoraan TBD Labin, Metan superälykkyyden tutkimusyksikön, jota johtaa Alexandr Wang, kanssa Metan infrastruktuuriorganisaation sijaan. Yhtiö väitti, että karsittu siru ei houkuttele TBD Labin insinöörejä, jotka "suosisivat vahvasti" Nvidian ↘ 1.47% Vera Rubin -arkkitehtuuria.LinkedIn+1

Kritiikki sopii laajempaan kuvioon, jonka SemiAnalysis on tunnistanut Metan laitteistovalinnoissa. Yhtiö viittasi Metan Ariel-palvelimeen, räätälöityyn GB200-konfiguraatioon, jossa oli yksi-yhteen CPU-GPU-suhde ja jonka kokonaiskustannukset olivat 14 prosenttia korkeammat kuin vakio-NVL72-mallissa, yhtenä esimerkkinä siitä, kuinka suositusjärjestelmien prioriteetit ohittavat generatiivisen tekoälyn tiimien tarpeet. Meta on sittemmin palannut vakiokonfiguraatioon GB300-palvelimissaan, mikä on hiljainen myönnytys siitä, että räätälöity lähestymistapa epäonnistui.FuTu News

Panokset AMD:n ja Metan kumppanuudessa

Räätälöity siru on osa laajempaa helmikuussa julkistettua viisivuotista sopimusta, jonka puitteissa AMD toimittaa Metalle jopa kuuden gigawatin edestä Instinct GPU-yksiköitä jopa 60 miljardin dollarin arvoisessa sopimuksessa. AMD myönsi Metalle suorituskykyyn perustuvan 160 miljoonan osakkeen option, joka vastaa mahdollisesti 10 prosenttia siruvalmistajan pääomasta, ja jonka ansainta on sidottu toimitusten virstanpylväisiin. Ensimmäisen gigawatin MI450-pohjaisia laitteistoja on määrä alkaa toimittaa vuoden 2026 jälkipuoliskolla.Jon Peddie Research+1

SemiAnalysis varoitti, että jos karsittu malli pysyy Metan ensisijaisena AMD-käyttökohteena, se voi heikentää AMD:n volyymia yhtiössä ja rajoittaa Mark Zuckerbergin mahdollisuuksia vuokrata ylimääräistä kapasiteettia ulkopuolisille asiakkaille.LinkedIn