C’est une station de travail bestiale pour l’IA avec un prix de départ de 46 000 euros

Si vous souhaitez travailler au développement de modèles d’intelligence artificielle, l’idéal aujourd’hui est de disposer de GPU professionnels NVIDIA. Aujourd’hui, une entreprise vient de faciliter les choses et a commencé à mettre en vente sa nouvelle station de travail pour ce domaine : une basée sur le spectaculaire GH200.

Un PC qui est bien plus qu’un PC. La société GPTshop.ai a créé un superordinateur au format PC et a réalisé ce qu’elle appelle « le PC de bureau ARM le plus puissant au monde ». Et c’est le cas, notamment grâce à la « superpuce » NVIDIA GH200 Grace Hopper.

Bien mieux que le H100 ou l’A100. Le GH200 coûte cinq fois moins cher que le H100 et trois fois moins cher que l’A100, consomme dix fois moins d’énergie que le H100 et cinq fois moins que l’A100, et ses performances sont plus ou moins celles de l’A100 et ne sont pas loin des H100. L’entreprise le compare à d’autres options (4 x AMD Mi300A, 8x RTX A6000) et dans tous les cas elle affirme que ce pari est bien supérieur. Une bonne affaire, allez. Du moins, comparé à ses prédécesseurs et à certaines de ses théories alternatives.

Format PC silencieux. Normalement les équipements dédiés à ces tâches sont des serveurs au format rack 19 pouces, fins mais très longs. Ce sont généralement des machines très bruyantes (90 dB) et peu transportables, mais chez GPTshop ils ont créé cette station de travail qui, grâce à son système de refroidissement, tourne autour de 25 dB, ce qui représente un niveau sonore appréciable mais pas du tout gênant par rapport au de ces serveurs.

Configuration matérielle bestiale. L’équipement est basé sur la superpuce NVIDIA GH200 Grace Hopper susmentionnée, qui se compose d’un processeur NVIDIA Grace à 72 cœurs et du GPU NVIDIA H100 Tensor Core. Nous disposons également de 480 Go de mémoire ECC LPDDR5X, de 96 Go de mémoire HBM3 (ou 144 Go de HBM3e), de deux alimentations de 2 000 ou 2 400 W et d’un bon nombre d’emplacements et de ports de connexion PCIe.

Performance exceptionnelle. Chez Phoronix, ils ont analysé les performances de leur processeur ARM et bien que dans certains tests il ait perdu contre les meilleures puces x86-64 d’Intel et d’AMD, c’est NVIDIA qui a remporté le plus de tests : 15 sur 23 contre Emeral Rapids et 13 sur 23. contre les chips Bergame et Gênes. Ils n’ont pas analysé le GPU, qui est le composant clé du traitement et du développement de l’IA. Dans GPTshop, ils indiquent que la puissance est de 989 TFLOPS FP32. Celui du RTX 4090 est de 82,58 TFLOPS.

Mais c’est très cher (ou peut-être pas tellement). Le problème avec cette station de travail est qu’elle commence à 45 900 euros – il existe une version avec refroidissement liquide et plus de mémoire pour 62 500 – un montant qui la tient certainement hors de beaucoup de nos poches. Pourtant, le prix n’est pas du tout fou étant donné que la carte graphique H100 à elle seule peut coûter environ 40 000 $. Pour un peu plus, nous aurons une machine avec un GPU encore meilleur et prête à commencer à travailler dès la minute zéro.

À Simseo | Opera se lance dans l’IA : sa nouvelle infrastructure en Islande est un cluster NVIDIA H100 pour l’intelligence artificielle