NVIDIA a trouvé un moyen de contenir la consommation des datacenters d’IA : un liquide plus chaud qu’un jacuzzi

Depuis des années, nous associons des centres de données efficaces à des chambres froides, des couloirs d’air glacial et des machines rugissantes pour garder les serveurs sous contrôle. L’essor de l’intelligence artificielle nous oblige à revoir cette image. La prochaine génération d’infrastructures doit non seulement accueillir des puces plus puissantes, mais elle doit également les faire fonctionner sans que la consommation d’énergie n’augmente au même rythme. Dans ce scénario, NVIDIA opte pour une solution contre-intuitive : utiliser un liquide de refroidissement à 45°C, une température supérieure à celle de nombreux spas.

La raison de ce changement est l’ampleur qu’atteint l’intelligence artificielle. Les centres de données doivent exécuter de plus en plus d’opérations et concentrer davantage de puissance de calcul dans moins d’espace, ce qui augmente à la fois la demande électrique et la quantité de chaleur que leurs systèmes doivent gérer. L’entreprise dirigée par Jensen Huang explique que l’efficacité énergétique ne consiste pas seulement à consommer moins d’énergie, mais également à effectuer davantage de travaux de calcul pour chaque kilowattheure utilisé. Cette métrique est devenue l’un des grands défis de l’infrastructure numérique.

La réponse technique vient de Rubin, la génération d’infrastructure d’IA qui, selon NVIDIA, est la première à atteindre un refroidissement 100 % liquide. Cela signifie que non seulement les accélérateurs ou les processeurs sont refroidis par liquide, mais également toutes les puces et composants réseau du système, dans une boucle fermée. Dans cette architecture, les ventilateurs disparaissent et l’air n’est plus l’élément qui assure la stabilité de la machine. La chaleur est captée beaucoup plus près de l’endroit où elle est générée : à la surface des composants eux-mêmes. Le liquide de refroidissement qui circule dans ce circuit est un mélange composé de 75 % d’eau et de 25 % de propylène glycol.

Ici apparaît la partie la plus curieuse de l’approche : un liquide plus chaud peut permettre de consommer moins d’énergie. La raison en est que, si le circuit fonctionne à 45°C, le système n’a pas besoin de refroidir autant le réfrigérant avant de le renvoyer au serveur. NVIDIA explique que de cette façon, la chaleur peut être transférée vers des circuits externes et dissipée avec des refroidisseurs secs, un type de grands radiateurs, réduisant ainsi la dépendance au refroidissement mécanique. Dans une installation à grande échelle, cette marge peut se traduire par moins d’électricité dédiée uniquement à l’évacuation de la chaleur du bâtiment.

L’efficacité ne se mesure pas uniquement en électricité. L’une des promesses les plus importantes du circuit fermé est de réduire la consommation d’eau utilisée pour maintenir l’installation opérationnelle, car le liquide n’est pas consommé à chaque cycle, mais retourne au système. Selon NVIDIA, les conceptions basées sur des réfrigérateurs secs peuvent ramener cette consommation à près de zéro dans des endroits appropriés, par rapport aux systèmes traditionnels dotés de tours de refroidissement qui peuvent nécessiter environ 9,8 millions de litres d’eau par mégawatt et par an. À cela s’ajoute un autre effet moins visible : sans ventilateurs ni couloirs d’air froid, le data center commence à être une machine physiquement différente.

Les conduites aériennes transportent le réfrigérant jusqu’aux serveurs, un des changements visibles lorsque l’air cesse d’être le protagoniste

Pour que ce modèle fonctionne, il ne suffit pas de changer le système de refroidissement du bâtiment : il faut également repenser le serveur à l’intérieur. L’entreprise explique que les précédents équipements liquides étaient hybrides, avec un GPU et un CPU refroidis par des plaques froides, mais avec d’autres composants toujours dépendants de l’air. Chez Rubin, son équipe d’ingénierie thermique a refait le chemin du liquide pour l’amener à davantage d’éléments de la carte avec une architecture plus propre, basée sur une entrée et une sortie uniques. Le résultat visible est des façades propres et scellées, où les serveurs refroidis par air sont généralement équipés de grilles et de racks capables de concentrer davantage de calculs dans moins d’espace.

La géographie fait toujours partie du calcul. Un circuit capable de fonctionner à 45°C augmente la marge d’évacuation de la chaleur vers l’extérieur, mais ne transforme pas tous les centres de données en installations identiques. NVIDIA reconnaît que le climat fait une différence : concevoir une usine dans une zone froide n’est pas la même chose que la concevoir à Phoenix, en Arizona, où les températures extérieures peuvent nécessiter l’activation de systèmes de refroidissement mécaniques. La promesse n’est donc pas de toujours éliminer cet équipement, mais de réduire considérablement le temps pendant lequel il est nécessaire.

Donc, si l’IA nécessite de plus en plus de calculs, l’industrie doit trouver des moyens de refroidir ses machines sans rendre le refroidissement encore plus problématique. NVIDIA propose de capter la chaleur là où elle naît, de la déplacer dans un circuit liquide et d’augmenter la température de travail pour réduire l’effort du système. La solution, du moins dans cette approche, n’est pas de chasser davantage le froid, mais d’arrêter de lutter contre la chaleur comme avant.

Images | Nvidia

À Simseo | Nous avons eu beaucoup de plaisir à regarder des combats de robots. Jusqu’à ce qu’on voie comment l’un décapite l’autre d’un coup de pied