Google kynnir nýja TPU-örgjörva til að keppa við Nvidia

Google er að bæta tveimur sérhæfðum útgáfum við TPU (tensor processing unit) vörulínu sína. Önnur er hönnuð fyrir örugga tölvuvinnslu og hin fyrir gervigreindarlíkön sem þurfa að vinna úr miklu magni upplýsinga við svörun. Þetta skref eykur áskorun Google gegn Nvidia ↘ 4.30% á markaði fyrir gervigreindarflögur, að því er Bloomberg greindi frá mánudaginn 9. nóvember. Google, dótturfélag Alphabet ↗ 2.82%, vill byggja á hröðum vexti sínum sem keppinautur Nvidia á markaði sem metinn er á hundruð milljarða dollara, og flögurnar eru ætlaðar iðnaði sem færir sig í átt að gervigreindarfulltrúum á sama tíma og tekist er á við nýjar öryggisáskoranir, segir Bloomberg.bloomberg.com

TPU 8tx og 8i Max

Nýju afbrigðin heita TPU 8tx og TPU 8i Max, samkvæmt fréttum Bloomberg sem Futu News miðlaði. 8tx er aðallega ætlað opinberum stofnunum og fyrirtækjum í eftirlitsskyldum geirum sem þurfa örugga og trúnaðarmiðaða tölvuvinnslu. Hún vinnur samhliða flögum frá Advanced Micro Devices ↗ 9.61% í samstarfi fyrirtækjanna tveggja. 8i Max er hönnuð fyrir gervigreindarforrit sem krefjast langra samhengisglugga, segir í skýrslunni.news.futunn.com

Í viðtali sagði Amin Vahdat, yfirmaður flögudeildar Google, að fjórar áttundu kynslóðar TPU vörurnar væru hver um sig fínstilltar fyrir mismunandi þarfir. Hann lýsti þessu sem hluta af langvarandi stefnu Google um að sérhæfðar flögur hafi mikla yfirburði, samkvæmt skýrslunni. Flögudeildin gaf áður út nýjan gervigreindarörgjörva á um það bil tveggja ára fresti.news.futunn.com

Hraðari vöruþróun

Nýju afbrigðin útvíkka þá nálgun sem Google kynnti á Cloud Next í apríl. Þar kynntu þeir TPU 8t fyrir þjálfun og TPU 8i fyrir ályktun, sem var í fyrsta sinn sem TPU kynslóð kom sem tvær aðskildar flögur. Google segir að TPU 8t superpod geti stækkað í 9.600 flögur og skilað 121 exaflops af reikniafli. TPU 8i er með 384 MB af SRAM á flögunni og 80% betri afköst við ályktun miðað við verð en fyrri kynslóð, samkvæmt Google Cloud.cloud.google.com+1

Öryggi hefur verið veikur hlekkur hjá TPU. Fulltrúi Google staðfesti á nýlegri vinnustofu að TPU styðji ekki enn örugga tölvuvinnslu á stigi hraðalsins, samkvæmt greiningu á Substack. Google Cloud hafði í staðinn reitt sig á AMD-undirstaða öruggar sýndarvélar og Nvidia GPU fyrir þá vinnu.cloud.google.com+1

Aukin samkeppni

Google hefur einnig gert TPU flögur sínar aðgengilegar utan eigin skýjaþjónustu. Í lok október tilkynntu þeir að TPU yrðu í boði í Oracle Cloud Infrastructure. Óháðar prófanir benda einnig til þess að flögurnar séu samkeppnishæfar. Rannsóknarfyrirtækið SemiAnalysis birti viðmiðunarpróf fyrir gervigreind 9. nóvember sem sýna að sjöundu kynslóðar Ironwood TPU frá Google jafnast á við eða sigrar GB300 kerfi Nvidia hvað varðar afköst á móti verði fyrir ýmis líkön. NVFP4 snið Nvidia leiddi enn í sumum FP8 samanburðum, þó SemiAnalysis benti á að það komi með einhverjum kostnaði fyrir nákvæmni.newsletter.semianalysis.com+1