un superordinateur de bureau pour l'IA

un superordinateur de bureau pour l'IA

NVIDIA vient d'annoncer Project Digits, un « supercalculateur personnel d'IA » qui promet d'apporter toute la puissance de traitement des grands modèles de langage aux ordinateurs de bureau de chercheurs, d'étudiants et de développeurs. C’est l’un de ces moments qui semblent importants, dont nous nous souviendrons dans de nombreuses années lorsque nous parlerons d’IA.

L'appareil a la taille approximative d'un mac-mini et quelques spécifications impressionnantes :

  • Il peut exécuter des modèles comportant jusqu'à 200 milliards de paramètres (plus grands que GPT-3).
  • 128 Go de mémoire unifiée DDR5X basse consommation.
  • SSD de 4 To.
  • Wi-Fi, Bluetooth, USB.
  • Processeur Grace à 20 cœurs.
  • Super puce GB10.
  • GPU Blackwell capable d'atteindre 1 pétaflop de performances d'IA.

Et tout cela en étant alimenté par une prise standard. C'est quelque chose qui nécessitait auparavant des installations spécialisées.

Au-delà de l'éblouissement technique, nous allons avec son prix, qui commence à 3 000 $: Ce n’est pas exactement accessible à tout le monde, même si cela coûte beaucoup moins cher que de construire un centre de données.

Ce n’est pas non plus un appareil destiné à l’utilisateur intéressé par l’IA générative. Il s’agit plutôt d’un outil professionnel destiné à un marché bien précis.

Ce que NVIDIA vend réellement ici, c'est l'indépendance. La possibilité de développer et de tester des modèles d'IA localement, sans dépendre des services cloud ou des budgets de l'entreprise. Elle a donc une réelle valeur pour les startups et les chercheurs.

La proposition est une adaptation à cette époque de ce que les premiers PC ont fait dans les années 80 : ils n’ont pas remplacé les grands ordinateurs d’entreprise, mais ils ont mis la puissance informatique entre les mains directes des innovateurs de l’époque, même depuis leur domicile. Ou depuis leurs garages.

  • Il s'agit d'un changement similaire à celui proposé par Project Digits : mettre la puissance des grands modèles entre les mains d'aujourd'hui sans avoir besoin de cloud ou de dépenses d'infrastructure importantes.

Il faut également considérer le . Cette annonce intervient alors que NVIDIA est au sommet de la vague, alimenté par le pic de demande en capacité de calcul pour l'IA. Et avec les grandes entreprises technologiques qui accumulent des ressources à cet effet dans le cloud.

La course aux puces de 2 nm débutera en 2025. Et ce sera la plus féroce de toutes

Project Digits est potentiellement une soupape de sécurité: qui permettra à de petites équipes d’expérimenter l’IA sans dépendre des géants. « Seulement » un achat unique auprès de NVIDIA.

Le test du coton aura lieu en mai, lorsque Project Digits sera mis en vente et nous verrons ce qui se passera :

  • Si une vague d’innovation indépendante dans le domaine de l’IA commençait…
  • … ou s'il s'agit simplement d'un autre ordinateur vitaminé.

Peut-être que la façon dont son prix évolue (c’est-à-dire la rapidité avec laquelle il baisse) aidera dans un sens ou dans l’autre.

La démocratisation de la technologie n’est jamais parfaite. Pas immédiat. Au début des années 80, les PC coûtaient plus de 2 000 dollars (plus de 7 000 dollars aujourd'hui). Les premiers smartphones étaient un luxe. Même les premières consoles étaient un luxe avec cette Neo-Geo qui équivalait à une Rolls-Royce pour enfants.

Nous savons déjà ce qui s’est passé ensuite avec les ordinateurs, les smartphones et les consoles. Le projet Digits pourrait être le début de quelque chose de similaire dans le domaine de l’informatique IA. En mettant l'accent sur le « début ».

Pour l’instant, la promesse du supercalculateur IA de bureau est accompagnée d’un astérisque de 3 000 $. Nous sommes peut-être encore loin de la démocratisation de l’IA, mais c’est un grand pas en avant.

À Simseo | Les 20 ordinateurs personnels les plus importants de l'histoire de la technologie

Image en vedette | Nvidia