Sans cette technologie, NVIDIA ne gagnerait pas autant d’argent. Cela ne balayerait pas non plus le marché des GPU comme c’est le cas aujourd’hui.

La domination de NVIDIA sur l’industrie du matériel d’intelligence artificielle (IA) est inébranlable. Actuellement, la société dirigée par Jensen Huang représente près de 80 % du marché des puces IA, et bien qu’elle soit en concurrence avec AMD, Intel, Google ou Amazon, rien ne semble indiquer que votre position dominante sera modifiée à court ou moyen terme. Cependant, la recette de son succès ne réside pas uniquement dans ses GPU ; La technologie CUDA() joue également un rôle essentiel dans votre entreprise.

La plupart des projets d’intelligence artificielle en cours de développement sont mis en œuvre sur CUDA. Cette technologie rassemble le compilateur et les outils de développement utilisés par les programmeurs pour développer leurs logiciels pour les GPU NVIDIA, et la remplacer par une autre option dans les projets déjà en cours pose problème. Huawei, qui vise à conquérir une part importante de ce marché en Chine, possède CANN (), qui est son alternative à CUDA, mais pour le moment CUDA domine le marché.

CUDA est le résultat de l’une des idées les plus inspirées de NVIDIA

L’ensemble de l’industrie de l’IA veut mettre fin à CUDA. C’est du moins ce qu’a assuré Pat Gelsinger, l’ancien PDG d’Intel. En décembre 2023, ce dirigeant s’est mouillé et a expliqué quelle était la position officielle de son entreprise dans le contexte du secteur de l’IA. « L’ensemble du secteur est déterminé à éliminer CUDA du marché (…) Nous le considérons comme un petit fossé peu profond (…) », a défendu Gelsinger dans le cadre de l’événement « AI Everywhere » organisé à New York.

Pour connaître le contexte dans lequel CUDA est né et pourquoi il est devenu une technologie fondamentale dans le portefeuille NVIDIA, nous devons revenir en arrière et remonter à 2002. Comme nous le dit Tae Kim dans « The NVIDIA Way », Mark Harris, un ordinateur ingénieur de l’Université de Caroline du Nord (États-Unis), souhaitait trouver un moyen d’utiliser les ordinateurs pour simuler plus précisément les phénomènes naturels les plus complexes, comme par exemple la dynamique des fluides ou la thermodynamique des nuages ​​atmosphériques.

Harris s’est vite rendu compte que de plus en plus d’ingénieurs utilisaient les GPU des cartes graphiques comme la GeForce 3 de NVIDIA pour exécuter du code qui n’était pas destiné à générer des graphiques. Ce qui est intéressant, c’est qu’ils l’ont fait parce qu’ils avaient découvert que les simulations scientifiques s’exécutaient beaucoup plus efficacement sur un GPU que sur un CPU de l’époque. Ce comportement était dû au fait que l’architecture de la première privilégie le parallélisme et est capable d’effectuer des opérations avec des matrices très rapidement.

Les ingénieurs de NVIDIA ont également réalisé qu’un nouveau marché au-delà du jeu s’était ouvert devant eux et présentait un énorme potentiel. « Nous avions construit un moteur informatique ultra-puissant et ultra-flexible pour générer des graphiques, car les graphiques sont très exigeants. Et les chercheurs ont découvert toute cette puissance de calcul en virgule flottante et la possibilité de l’utiliser en cachant son code pour effectuer des simulations à l’intérieur d’algorithmes apparemment destinés à générer des graphiques », explique David Kirk, ingénieur NVIDIA.

CUDA a été la réponse de l’entreprise dirigée par Jensen Huang à ce scénario d’utilisation. Deux de ses architectes au sein de NVIDIA étaient Ian Buck et John Nickolls, et tous les ingénieurs impliqués dans son développement ont bénéficié du soutien de Huang dès le premier instant. Le cofondateur et PDG de l’entreprise était convaincu que CUDA avait la capacité d’étendre ses activités pour atteindre tous les recoins de l’industrie technologique. Ce nouveau logiciel, et non son nouveau matériel, transformerait NVIDIA. Et il avait raison. Le reste appartient à l’histoire.

Bibliographie | « La méthode NVIDIA », par Tae Kim

À Simseo | Nous pouvons oublier l’IA sans hallucinations pour l’instant. Le PDG de NVIDIA explique pourquoi