Google lance des TPU sécurisés pour concurrencer Nvidia

Google ajoute deux versions spécialisées à sa gamme d'unités de traitement tensoriel (TPU). L'une est conçue pour le calcul confidentiel et l'autre pour les modèles d'IA nécessitant d'extraire davantage d'informations lors de la réponse aux requêtes. Cette initiative renforce le défi lancé par Google à Nvidia ↘ 4.30% sur le marché des puces d'IA, a rapporté Bloomberg le lundi 9 novembre. Google, filiale d'Alphabet ↗ 2.82%, souhaite poursuivre son ascension rapide en tant que rival de Nvidia sur un marché pesant des centaines de milliards de dollars, ces puces étant destinées à une industrie qui s'oriente vers les agents d'IA tout en faisant face à de nouveaux problèmes de sécurité, a précisé Bloomberg.bloomberg.com

TPU 8tx et 8i Max

Les nouvelles variantes sont baptisées TPU 8tx et TPU 8i Max, selon les informations de Bloomberg relayées par Futu News. Le 8tx est principalement destiné aux agences gouvernementales et aux entreprises réglementées ayant besoin d'un calcul sécurisé et confidentiel. Il fonctionne en tandem avec des puces d'Advanced Micro Devices ↗ 9.61% dans le cadre d'un partenariat entre les deux entreprises. Le 8i Max est conçu pour les applications d'IA nécessitant de longues fenêtres de contexte, indique le rapport.news.futunn.com

Dans une interview, Amin Vahdat, responsable de l'activité puces de Google, a déclaré que les quatre produits TPU de huitième génération sont chacun optimisés pour des besoins différents. Il a décrit cela comme faisant partie de la conviction de longue date de Google selon laquelle les puces spécialisées offrent des avantages considérables, selon le rapport. L'unité de puces avait l'habitude de sortir un nouveau processeur d'IA environ tous les deux ans.news.futunn.com

Un rythme de lancement accéléré

Les nouvelles variantes prolongent l'approche scindée introduite par Google lors de Cloud Next en avril. À cette occasion, l'entreprise avait dévoilé le TPU 8t pour l'entraînement et le TPU 8i pour l'inférence, marquant la première fois qu'une génération de TPU était proposée sous forme de deux puces distinctes. Google affirme qu'un superpod TPU 8t peut monter jusqu'à 9 600 puces et fournir 121 exaflops de puissance de calcul. Le TPU 8i dispose de 384 Mo de SRAM sur puce et offre une performance d'inférence par dollar supérieure de 80 % à celle de la génération précédente, selon Google Cloud.cloud.google.com+1

La sécurité a longtemps été un point faible des TPU. Un représentant de Google a confirmé lors d'un récent atelier que les TPU ne prenaient pas encore en charge le calcul confidentiel au niveau de l'accélérateur, selon une analyse Substack. Google Cloud s'appuyait jusqu'ici sur des machines virtuelles confidentielles basées sur AMD et sur des GPU Nvidia pour ce type de travail.cloud.google.com+1

Une concurrence qui s'élargit

Google rend également ses TPU disponibles en dehors de son propre cloud. Fin octobre, l'entreprise a annoncé l'intégration des TPU à Oracle Cloud Infrastructure. Des tests indépendants suggèrent également que ces puces sont compétitives. Le cabinet d'études SemiAnalysis a publié le 9 novembre des benchmarks d'inférence agentique montrant que le TPU Ironwood de septième génération de Google égale ou surpasse les systèmes GB300 de Nvidia en termes de performance par dollar pour plusieurs modèles. Le format NVFP4 de Nvidia reste en tête dans certaines comparaisons FP8, bien que SemiAnalysis note que cela se fait au détriment de la précision.newsletter.semianalysis.com+1