Google ne veut plus d’une seule puce IA qui fait tout : il lance deux nouveaux TPU spécialisés pour tenir tête à Nvidia

Google élargit sa famille de processeurs d’IA auto-conçus avec deux nouvelles variantes, l’une conçue pour l’informatique nécessitant la protection des données sensibles et l’autre pour les charges de travail exigeantes en mémoire. L’entreprise souhaite continuer à élargir son offre de puces dans un contexte où Nvidia a dominé toutes ces années. Et avec ces puces, il y a déjà quatre configurations de leurs TPU en une seule année, une étape importante pour l’entreprise.

Nouvelles. Les deux systèmes sont le TPU 8tx et le TPU 8i Max. Ils rejoignent le TPU 8t, conçu pour la formation, et le TPU 8i, conçu pour le raisonnement, que la société a présenté lors de Google Cloud Next en avril. Google affirme que le 8t offre des performances d’entraînement jusqu’à 2,7 fois supérieures et que le 8i offre un rapport prix/inférence jusqu’à 80 % supérieur à celui de la génération précédente.

Google n’a pas révélé les prix ni les dates de lancement exactes, bien que son gestionnaire de puces, Amin Vahdat, ait déclaré à Bloomberg que les nouvelles variantes seraient disponibles l’année prochaine.

Pourquoi c’est important. Comme l’a partagé Bloomberg, Google lance de nouveaux TPU une fois tous les deux ans. Cette fois, il existe quatre configurations dans la même génération, ce qui démontre l’intérêt de l’entreprise à obtenir une plus grande part du marché du matériel d’IA. Depuis quelques temps, c’est Nvidia qui vend et coupe le poisson. Mais les TPU de Google arrivent de plus en plus en force. Vahdat a souligné que la stratégie répond à la thèse selon laquelle « l’avenir tournera autour de la spécialisation ». Au lieu d’une seule puce pour tout, affirme-t-il, les versions personnalisées « ajoutent bien plus de valeur ».

L’option sûre. Le TPU 8tx est destiné aux gouvernements et aux industries réglementées qui souhaitent exécuter des modèles et des agents d’IA sur des données sensibles. Google explique que les données sont généralement cryptées lors du stockage et en transit, mais doivent être déverrouillées en mémoire pendant qu’un ordinateur les traite. La société affirme que le 8tx intègre la protection directement dans le matériel, gardant les données et les poids des modèles isolés même pendant l’utilisation.

Cette version utilise le même silicium que le TPU 8t et est associée à des processeurs AMD EPYC de 5e génération. De plus, Google affirme qu’il offre une latence jusqu’à deux fois inférieure à celle du 8t, avec une pénalité de performances presque nulle pour cette sécurité supplémentaire. La société garantit également que les clients peuvent affiner les modèles avec des données privées sans avoir besoin de les déplacer entre les clusters.

L’option mémoire. Le TPU 8i Max se concentre sur ce que Google appelle le « mur de mémoire », ce qui signifie que lorsque de nombreux agents d’IA travaillent sur une base de code entière ou sur des heures de vidéo, la bande passante mémoire devient le goulot d’étranglement. La réponse de Google est de mettre deux puces TPU 8i dans un seul boîtier. Par rapport au 8i standard, il prétend doubler la puissance de calcul, la mémoire SRAM intégrée et la bande passante mémoire. De même, il permet d’intégrer deux fois plus de silicium dans le même espace rack, ce qui permettrait aux centres de données d’avoir plus de puces et plus de puissance sur la même surface.

Vahdat a déclaré à Bloomberg que le système est conçu pour des applications à long terme, telles que la découverte de médicaments ou des problèmes mathématiques complexes, ainsi que pour la programmation.

Versions améliorées. Il ne s’agit pas vraiment de puces complètement nouvelles, puisque Vahdat lui-même a indiqué aux médias que les deux variantes sont des reconfigurations du silicium existant, adaptées aux demandes des clients. Une nouvelle puce nécessite des années de conception et de fabrication, tandis qu’un système construit autour de celle-ci (réseau, mémoire, packaging) peut être peaufiné en quelques mois. Google préfère profiter de cette approche pour suivre le rythme des logiciels d’IA.

Le marché des TPU Google. Selon Bloomberg Intelligence, les ventes de TPU, y compris le matériel et les logiciels associés, devraient dépasser 135 milliards de dollars d’ici 2028, contre 12 milliards de dollars estimés cette année. Les clients incluent Apple, Meta et Oracle, qui ont indiqué que leurs clients cloud pourront utiliser les TPU à partir de l’année prochaine. Anthropic a la possibilité d’acheter jusqu’à 150 milliards de dollars de TPU entre 2028 et 2031, selon un document réglementaire cité par Bloomberg, et le même média a rapporté qu’OpenAI envisageait également de les acquérir.

Les obstacles. Selon Bloomberg, se référant à la dernière présentation des résultats de Google, tous les TPU dont dispose l’entreprise sont déjà sous contrat avec un client. Les pénuries de mémoire et de capacité de fabrication persistent et Google serait en train d’élargir sa base de fournisseurs au-delà de Broadcom, notamment en concluant un accord avec Marvell.

La concurrence fait également son apparition, puisque Tenspresso, une startup fondée par deux anciens ingénieurs de TPU, se concentre sur l’inférence à long contexte, bien que Bloomberg rapporte que sa puce est dans au moins un an avant d’achever sa conception. OpenAI et Anthropic développent également des puces propriétaires avec des vétérans du TPU.

Image de couverture | Google

À Simseo | La Lituanie compte 2,9 millions d’habitants mais rivalise avec la Chine en fabriquant en série des lasers pour les puces d’IA