Le supercalculateur le plus puissant de NVIDIA est prêt. Il dispose de 4 608 GPU H100 et est une bête pour l’IA générative

Eos est l’un des superordinateurs les plus performants de la planète dans le domaine de l’intelligence artificielle (IA) générative. Il a été conçu et construit par NVIDIA vraisemblablement pour son propre usage, même si, selon toute vraisemblance, l’un de ses objectifs est d’agir comme machine de référence qui peut être cloné par NVIDIA pour d’autres entreprises qui ont besoin d’une infrastructure de calcul intensif spécialisée dans l’IA.

Les chiffres qui reflètent les performances de ce supercalculateur sont choquants. Ses 121,40 PFlop/s (Rmax) et 188,65 PFlop/s (Rpeak) le placent comme le neuvième supercalculateur le plus puissant au monde derrière des machines comme Frontier, Aurora, Eagle ou Fugaku. Curieusement, juste devant ce supercalculateur NVIDIA et en huitième position dans le classement TOP500 se trouve MareNostrum 5, le supercalculateur le plus puissant dont nous disposons en Espagne.

C’est la recette de ce qui est probablement le supercalculateur IA le plus puissant

Selon NVIDIA, Eos délivre une puissance de 18,4 exaflops dans les applications d’intelligence artificielle. C’est vraiment scandaleux. Il n’est pas facile de replacer ce chiffre dans son contexte, mais il peut nous aider à comprendre que cette machine ne rassemble rien de moins que 576 plates-formes DGX H100, et chacun d’eux intègre huit GPU H100, donc Eos dispose d’un total de 4 608 puces NVIDIA H100. Ce gigantesque GPU à microarchitecture Hopper est fabriqué par TSMC dans son nœud 4 nm et condense pas moins de 80 milliards de transistors.

Cependant, même si ce GPU NVIDIA est le véritable protagoniste de ce superordinateur, si l’on s’en tient à ses spécifications, il est important de ne pas oublier que dans cette machine, il fonctionne côte à côte avec 1 152 processeurs Intel Xeon Platinum 8480C. Chacun de ces processeurs à usage général possède 56 cœurs et contribue de manière décisive à la productivité spectaculaire qu’offre cette machine dans le domaine du calcul haute performance.

Quoi qu’il en soit, dans la recette utilisée par NVIDIA pour peaufiner ce supercalculateur, il y a encore deux ingrédients à ne pas négliger. La première d’entre elles est l’architecture DGX SuperPOD, une plateforme expressément conçue par la société dirigée par Jensen Huang pour simplifier le développement d’infrastructures pour les centres de données qui sont facilement évolutif. En théorie, il serait facile pour NVIDIA de développer un supercalculateur similaire à l’Eos mais composé d’un plus grand nombre de systèmes DGX H100.

Le dernier ingrédient de la recette qui a donné naissance à Eos sur lequel il convient de se concentrer est la technologie Mellanox Quantum-2 InfiniBand de NVIDIA. Il s’agit d’une architecture de communication réseau haute performance conçue pour optimiser le transfert de données entre les nœuds d’un réseau, et il ne fait aucun doute qu’elle est dans une certaine mesure responsable des performances de ce supercalculateur. NVIDIA n’a pas révélé combien a coûté la construction de l’Eos, mais nous pouvons avoir une idée approximative, bien que pas tout à fait exacte, si l’on garde à l’esprit que chaque système DGX H100 coûte entre 30 000 et 40 000 dollars selon la quantité achetée.

Plus d’informations | Nvidia

À Simseo | L’IA a fait monter en flèche les prévisions de ventes de NVIDIA. À tel point que TSMC ne fournira pas de puces