Google kontert Nvidia mit neuen, sicheren TPU-Chips

Google erweitert seine Reihe von Tensor Processing Units (TPU) um zwei spezialisierte Versionen. Die eine ist für vertrauliches Computing konzipiert, die andere für KI-Modelle, die bei der Beantwortung von Anfragen auf größere Datenmengen zugreifen müssen. Dieser Schritt verschärft Googles Herausforderung gegenüber Nvidia ↘ 4.30% auf dem Markt für KI-Chips, berichtete Bloomberg am Montag, den 9. November. Alphabets ↗ 2.82% Google möchte auf seinem schnellen Aufstieg als Nvidia-Rivale in einem Markt aufbauen, der Hunderte Milliarden Dollar wert ist. Die Chips zielen auf eine Industrie ab, die sich in Richtung KI-Agenten bewegt und gleichzeitig neue Sicherheitsprobleme bewältigen muss, so Bloomberg.bloomberg.com

TPU 8tx und 8i Max

Die neuen Varianten heißen TPU 8tx und TPU 8i Max, wie aus dem von Futu News weitergegebenen Bloomberg-Bericht hervorgeht. Die 8tx-Variante richtet sich vor allem an Regierungsbehörden und regulierte Unternehmen, die sicheres, vertrauliches Computing benötigen. Sie arbeitet im Rahmen einer Partnerschaft zwischen den beiden Unternehmen mit Chips von Advanced Micro Devices ↗ 9.61% zusammen. Die 8i Max ist für KI-Anwendungen konzipiert, die lange Kontextfenster erfordern, heißt es in dem Bericht.news.futunn.com

In einem Interview sagte Amin Vahdat, Leiter des Chip-Geschäfts bei Google, dass die vier TPU-Produkte der achten Generation jeweils auf unterschiedliche Bedürfnisse abgestimmt seien. Er beschrieb dies als Teil von Googles langjähriger Überzeugung, dass spezialisierte Chips große Vorteile bieten, so der Bericht. Die Chip-Abteilung brachte früher etwa alle zwei Jahre einen neuen KI-Prozessor auf den Markt.news.futunn.com

Schnellere Produktzyklen

Die neuen Varianten erweitern einen Ansatz, den Google im April auf der Cloud Next vorgestellt hat. Dort präsentierte das Unternehmen die TPU 8t für das Training und die TPU 8i für die Inferenz – das erste Mal, dass eine TPU-Generation als zwei separate Chips auf den Markt kam. Google gibt an, dass ein TPU 8t-Superpod auf 9.600 Chips skaliert und 121 Exaflops an Rechenleistung liefert. Die TPU 8i verfügt über 384 MB On-Chip-SRAM und bietet laut Google Cloud eine um 80 % bessere Inferenzleistung pro Dollar als die Vorgängergeneration.cloud.google.com+1

Sicherheit war bisher ein Schwachpunkt bei TPUs. Ein Google-Vertreter bestätigte auf einem kürzlich abgehaltenen Workshop, dass TPUs das vertrauliche Computing auf Beschleunigerebene noch nicht unterstützten, wie eine Substack-Analyse ergab. Google Cloud hatte sich stattdessen auf AMD-basierte vertrauliche virtuelle Maschinen und Nvidia-GPUs für diese Aufgaben verlassen.cloud.google.com+1

Verschärfter Wettbewerb

Google stellt seine TPUs nun auch außerhalb der eigenen Cloud zur Verfügung. Ende Oktober kündigte das Unternehmen an, TPUs in die Oracle Cloud Infrastructure zu bringen. Unabhängige Tests deuten ebenfalls darauf hin, dass die Chips wettbewerbsfähig sind. Die Forschungsfirma SemiAnalysis veröffentlichte am 9. November Benchmarks zur agentenbasierten Inferenz, die zeigen, dass Googles Ironwood TPU der siebten Generation bei mehreren Modellen die Leistung pro Dollar der GB300-Systeme von Nvidia erreicht oder übertrifft. Nvidias NVFP4-Format führte zwar bei einigen FP8-Vergleichen, doch SemiAnalysis merkte an, dass dies mit Einbußen bei der Genauigkeit verbunden ist.newsletter.semianalysis.com+1