Google lanserar säkra TPU-chip för att utmana Nvidia

Google lägger till två specialiserade versioner i sin serie av tensor-processorenheter (TPU). Den ena är byggd för konfidentiell databehandling och den andra för AI-modeller som behöver hämta in mer information vid frågor. Draget trappar upp Googles utmaning mot Nvidia ↘ 4.30% på marknaden för AI-chip, rapporterade Bloomberg på måndagen den 9 november. Alphabets ↗ 2.82% Google vill bygga vidare på sin snabba framväxt som en Nvidia-rival på en marknad värd hundratals miljarder dollar, och chipen riktar sig till en industri som rör sig mot AI-agenter samtidigt som de hanterar nya säkerhetsproblem, uppger Bloomberg.bloomberg.com

TPU 8tx och 8i Max

De nya varianterna heter TPU 8tx och TPU 8i Max, enligt Bloombergs rapportering som förmedlats av Futu News. 8tx är främst avsedd för myndigheter och reglerade företag som behöver säker, konfidentiell databehandling. Den fungerar tillsammans med chip från Advanced Micro Devices ↗ 9.61% genom ett partnerskap mellan de två företagen. 8i Max är utformad för AI-applikationer som kräver långa kontextfönster, enligt rapporten.news.futunn.com

I en intervju sade Amin Vahdat, som leder Googles chipverksamhet, att de fyra åttonde generationens TPU-produkterna är finjusterade för olika behov. Han beskrev detta som en del av Googles långsiktiga syn på att specialiserade chip ger stora fördelar, enligt rapporten. Chipenheten brukade tidigare släppa en ny AI-processor ungefär vartannat år.news.futunn.com

Snabbare produktutveckling

De nya varianterna utökar en delad strategi som Google introducerade under Cloud Next i april. Där presenterade de TPU 8t för träning och TPU 8i för inferens, första gången en TPU-generation lanserades som två separata chip. Google uppger att en TPU 8t-superpod skalar till 9 600 chip och levererar 121 exaflops beräkningskraft. TPU 8i har 384 MB SRAM på chippet och 80 % bättre inferensprestanda per dollar än föregående generation, enligt Google Cloud.cloud.google.com+1

Säkerhet har varit en svag punkt för TPU-enheter. En representant för Google bekräftade vid ett nyligen hållet seminarium att TPU-enheter ännu inte stödde konfidentiell databehandling på acceleratornivå, enligt en analys på Substack. Google Cloud hade istället förlitat sig på AMD-baserade konfidentiella virtuella maskiner och Nvidia GPU-er för det arbetet.cloud.google.com+1

Ökad konkurrens

Google har också gjort sina TPU-enheter tillgängliga utanför sitt eget moln. I slutet av oktober meddelade de att TPU-enheter kommer till Oracle Cloud Infrastructure. Oberoende tester tyder också på att chipen är konkurrenskraftiga. Analysfirman SemiAnalysis publicerade den 9 november prestandatester för agentbaserad inferens som visar att Googles sjunde generations Ironwood TPU matchar eller överträffar Nvidias GB300-system gällande prestanda per dollar för flera modeller. Nvidias NVFP4-format ledde fortfarande i vissa FP8-jämförelser, även om SemiAnalysis noterade att det sker på bekostnad av viss noggrannhet.newsletter.semianalysis.com+1