Google lanserer sikre TPU-brikker for å utfordre Nvidia

Google legger til to spesialiserte versjoner i sin portefølje av tensor-prosessorenheter (TPU). Den ene er bygget for konfidensiell databehandling, mens den andre er rettet mot AI-modeller som krever tilgang til mer informasjon under spørringer. Dette trekket forsterker Googles utfordring mot Nvidia ↘ 4.30% i markedet for AI-brikker, rapporterte Bloomberg mandag 9. november. Alphabets ↗ 2.82% Google ønsker å bygge videre på sin raske vekst som en Nvidia-rival i et marked verdt hundrevis av milliarder dollar, og brikkene er rettet mot en industri som beveger seg mot AI-agenter samtidig som de håndterer nye sikkerhetsutfordringer, melder Bloomberg.bloomberg.com

TPU 8tx og 8i Max

De nye variantene heter TPU 8tx og TPU 8i Max, ifølge Bloombergs rapportering formidlet av Futu News. 8tx er hovedsakelig rettet mot offentlige etater og regulerte virksomheter som krever sikker, konfidensiell databehandling. Den fungerer sammen med brikker fra Advanced Micro Devices ↗ 9.61% gjennom et partnerskap mellom de to selskapene. 8i Max er designet for AI-applikasjoner som krever lange kontekstvinduer, heter det i rapporten.news.futunn.com

I et intervju uttalte Amin Vahdat, leder for Googles brikkevirksomhet, at de fire åttende generasjons TPU-produktene er finjustert for ulike behov. Han beskrev dette som en del av Googles langsiktige syn på at spesialiserte brikker gir store fordeler, ifølge rapporten. Brikkeenheten pleide tidligere å lansere en ny AI-prosessor omtrent hvert annet år.news.futunn.com

Raskere produktutvikling

De nye variantene utvider en delt tilnærming Google introduserte under Cloud Next i april. Der avduket de TPU 8t for trening og TPU 8i for inferens, første gang en TPU-generasjon ble lansert som to separate brikker. Google opplyser at en TPU 8t-superpod kan skaleres til 9 600 brikker og leverer 121 exaflops med regnekraft. TPU 8i har 384 MB SRAM på brikken og 80 % bedre inferensytelse per dollar enn forrige generasjon, ifølge Google Cloud.cloud.google.com+1

Sikkerhet har vært et svakt punkt for TPU-er. En representant for Google bekreftet på en nylig workshop at TPU-er ennå ikke støttet konfidensiell databehandling på akseleratornivå, ifølge en analyse på Substack. Google Cloud hadde i stedet lent seg på AMD-baserte konfidensielle virtuelle maskiner og Nvidia GPU-er for dette arbeidet.cloud.google.com+1

Økt konkurranse

Google har også gjort sine TPU-er tilgjengelige utenfor sin egen sky. I slutten av oktober kunngjorde de at TPU-er blir tilgjengelige på Oracle Cloud Infrastructure. Uavhengige tester antyder også at brikkene er konkurransedyktige. Analysefirmaet SemiAnalysis publiserte 9. november ytelsestester for agentbasert inferens som viser at Googles syvende generasjons Ironwood TPU matcher eller slår Nvidias GB300-systemer når det gjelder ytelse per dollar for flere modeller. Nvidias NVFP4-format ledet fortsatt i enkelte FP8-sammenligninger, selv om SemiAnalysis bemerket at dette medfører visse kostnader for nøyaktigheten.newsletter.semianalysis.com+1