Morgan Stanley varoittaa: tekoälyn suurin pullonkaula on nyt muisti, ei laskentateho

Tekoälyalan seuraava pullonkaula ei liity prosessointinopeuteen, vaan muistiin. Morgan Stanley ↘ 0.46% julkaisi tällä viikolla laajan raportin, jossa väitetään, että tekoälyn keskeinen rajoite on siirtymässä "laskentamuurista" "muistimuuriin". Tämä muutos tulee yrityksen mukaan muokkaamaan koko tekoälyinfrastruktuurin investointimaisemaa seuraavan viiden vuoden aikana.

Kasvava kuilu

Pankin analyysi, jota johti Morgan Stanleyn Euroopan ja Aasian teknologiatiimin johtaja Shawn Kim, esittää epätasapainon selkein termein. DDR5-yksikanavaisen kaistanleveyden odotetaan kasvavan 44,8 Gt/s tasosta vuonna 2024 vain 51,2 Gt/s tasoon vuonna 2026, mikä on noin 14 prosentin kasvu kahdessa vuodessa. Samalla aikavälillä maailmanlaajuisen tekoälyn päättelytokenien tuotannon ennustetaan hyppäävän noin 10 biljoonasta tokenista kuukaudessa 3 200 biljoonaan, mikä on yli 320-kertainen kasvu. Tuloksena on nopeasti kasvava kuilu prosessorien suorituskyvyn ja muistijärjestelmien tarjoaman kapasiteetin välillä.moomoo

Tämä epätasapaino näkyy jo kustannuksissa. Tallennukseen liittyvät komponentit muodostavat nyt jopa 73 % prosessoripalvelinten materiaalikustannuksista, ja DRAM-muistin gigatavuhinnat ovat nousseet korkeimmalle tasolleen lähes 30 vuoteen. TrendForcen mukaan perinteisten DRAM-sopimusten hinnat nousivat yli 90 % vuosineljänneksittäin vuoden 2026 ensimmäisellä neljänneksellä, ja Gartner arvioi DRAM-muistin vuotuisten hintojen nousevan tänä vuonna 125 %.sokatec+3

Uusi investointien rintama

Morgan Stanley ennustaa pilvitallennusmenojen nousevan 418 miljardiin dollariin vuoteen 2030 mennessä, ja muistin osuuden pilvipalveluntarjoajien pääomamenoista kasvavan 12 prosentista vuonna 2023 40 prosenttiin vuoteen 2027 mennessä. Uusien muistiteknologioiden, kuten suuren kaistanleveyden muistin (HBM), kokonaismarkkinapotentiaali voisi nousta 276 miljardiin dollariin vuoteen 2030 mennessä.macrostream+1

Yritys tunnisti kuusi innovaatioaluetta, joiden se odottaa vauhdittavan seuraavaa tekoälyinfrastruktuurin investointiaaltoa: edistyneet prosessisolmut, muistiarkkitehtuurin uudelleensuunnittelu, edistynyt paketointi, oheislaitteiden liitäntäpiirit kuten CXL, muistissa tapahtuva prosessointi ja uudet materiaalit. Kesäkuun podcastissa Kim totesi muistin hintojen nousseen yli kuusinkertaisiksi viimeisen vuoden aikana ja kuvaili tilannetta "siruinflaatioksi" – tilanteeksi, jossa muistipiirit lakkaavat halpenemasta ja niitä on vaikeampi löytää.moomoo+1

Vaikutukset datakeskusten ulkopuolella

Tarjontapula leviää jo kulutuselektroniikkaan. Morgan Stanley ennustaa, että PC-muistin kysyntä voi kohdata 15 prosentin vajeen vuonna 2027, mikä vastaa noin 58 miljoonaa yksikköä, kun taas älypuhelimissa voi olla 12 prosentin vaje, joka vaikuttaa noin 134 miljoonaan laitteeseen. Reuters raportoi kesäkuussa, että laitevalmistajat älypuhelimista PC-koneisiin joutuvat valitsemaan hintojen nostamisen ja pienempien marginaalien hyväksymisen välillä.reuters+1

Yrityksen suosimia sijoituskohteita ovat Micron ↘ 1.89%, Samsung, SK Hynix ja SanDisk Western Digital Corporation ↗ 0.93% sekä puolijohdelaitteiden valmistajat, kuten ASML ↘ 0.43%. Kuten Kim totesi: "GPU:t määrittävät, kuinka nopeasti tekoäly toimii, kun taas muisti määrittää, kuinka pitkälle tekoäly voi päästä."finance.yahoo+2