„Google“ kuria lustą, integruojantį „Gemini“ dirbtinį intelektą tiesiai į aparatinę įrangą

„Alphabet“ ↗ 0.81% kuria naują specializuotą serverio lustą, kuris „Gemini“ dirbtinio intelekto modelio architektūrą įdiegia tiesiai į aparatinę įrangą. Tai žingsnis, galintis užtikrinti didelį energijos vartojimo efektyvumą, bendrovei susiduriant su sparčiai augančia DI skaičiavimų paklausa, teigiama pirmadienį paskelbtoje „The Information“ ataskaitoje.

Naujas požiūris į DI išvadas

Šis lustas, kuriame „Gemini“ neuroninio tinklo svoriai yra „užšaldyti“ tiesiai į silicio plokštelę, o ne vykdomi kaip programinė įranga bendrosios paskirties procesoriuose, žymi atsitraukimą nuo „Google“ esamos „Tensor Processing Unit“ (TPU) strategijos. Šis metodas, kai fiksuotas DI modelis paverčiamas specializuota integrine schema, žada būti kelis kartus efektyvesnis energijos suvartojimo atžvilgiu vienam DI žetonui nei dabartiniai „Google“ lustai, o diegimas numatomas jau 2028 metais.facebook

DI modelių įdiegimo į silicio plokšteles koncepcija pramonėje tampa vis populiaresnė. Suomių startuolis „Taalas“ šių metų pradžioje pademonstravo šį metodą su savo HC1 lustu, kuriame „Meta“ „Llama“ modelis įdiegtas tiesiai į aparatinę įrangą. Bendrovė teigia, kad jis veikia dešimt kartų greičiau nei konkuruojančios platformos ir reikalauja tik 12–15 kilovatų vienai spintelei, palyginti su 120–600 kilovatų GPU spintelėms. Trūkumas: kai modelis „užšaldomas“ silicyje, jo neįmanoma atnaujinti negaminant naujų lustų.forbes

Pajėgumų trūkumas skatina skubą

Šis projektas vykdomas „Google Cloud“ susiduriant su dideliu infrastruktūros spaudimu. Per „Alphabet“ 2026 m. pirmojo ketvirčio rezultatų pristatymą vadovai atskleidė, kad debesijos padalinys, kurio ketvirčio pajamos pirmą kartą viršijo 20 mlrd. JAV dolerių, susiduria su pajėgumų apribojimais, o jo užsakymų portfelis padvigubėjo iki 462 mlrd. JAV dolerių. 2026 m. kovą „Google“ pranešė „Meta“, kad negali suteikti skaičiavimo pajėgumų, kurių „Meta“ prašė DI užduotims.marketscale+1

„Google“ reaguoja įvairiais frontais. Balandį bendrovė pristatė aštuntosios kartos TPU, padalytus į atskirus mokymo ir išvadų variantus, o „Broadcom“ ↗ 0.19% pasirašė ilgalaikę sutartį dėl būsimų „Google“ specializuotų DI lustų kūrimo ir tiekimo iki 2031 m. „Google“ taip pat pradėjo nuomoti TPU pajėgumus išoriniams klientams, įskaitant „OpenAI“.cnbc+3

Papildymas, o ne TPU pakaitalas

„Užšaldytas“ lustas sukurtas papildyti platesnę „Google“ TPU liniją, o ne ją pakeisti. Nors TPU išlieka programuojami ir gali vykdyti atnaujintus modelius, „užšaldytas“ lustas, optimizuotas stabiliam ir didelės paklausos modeliui, pavyzdžiui, „Gemini“, galėtų atlikti didžiąją dalį įprastų užklausų sunaudodamas tik dalį energijos, taip atlaisvindamas programuojamą aparatinę įrangą mokymui ir naujesnėms modelių iteracijoms.

„Alphabet“ akcijos pirmadienį po šių naujienų pabrango. Akcijų kaina kilo prieš artėjantį bendrovės ketvirčio ataskaitos pristatymą, skatinama optimizmo dėl DI infrastruktūros strategijos.marketbeat