OpenAI a désormais sa puce d’inférence prête. Il s’appelle Jalapeño et il a réalisé quelque chose d’inattendu : surpasser Nvidia

OpenAI vient de faire sensation avec sa première puce d’inférence d’IA, qu’elle a baptisée du curieux nom de « Jalapeño ». Cette puce accélératrice d’IA vous permet d’exécuter des modèles déjà formés et de générer les réponses que nous recevons lorsque nous utilisons ChatGPT, l’API ou un agent. Les analystes de SemiAalysis ont déjà pu analyser ce composant et ont tiré une conclusion inconfortable pour Nvidia : dans plusieurs charges de test, Jalapeño surpasse les puces Nvidia Blackwell.

Jalapeño montre ses pouvoirs. OpenAI a conçu une puce spécialisée dans l’inférence de grands modèles de langage (LLM), sacrifiant une partie de la flexibilité d’un GPU en échange de l’optimisation de la tâche qui l’intéresse le plus : l’exécution de ces modèles. SemiAnalysis l’a testé avec des modèles ouverts tels que GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T et a trouvé des avantages dans deux mesures importantes : la latence et les performances par watt. Selon le modèle et la configuration, OpenAI parle d’une latence jusqu’à 3,6 fois inférieure et de performances par watt entre 1,5 et 1,9 fois supérieures à celles de Blackwell.

Et ce n’est pas encore entièrement optimisé. Les analystes de SemiAnalysis soulignent également comment Japapeño parvient à surpasser Blackwell en termes de performances par watt dans pratiquement tous les scénarios analysés sans même utiliser la technique Multi-Token Prediction (MTP), qui permet de générer plusieurs jetons de manière spéculative et qui était active dans les configurations rivales. Dès qu’elle inclura cette optimisation, la puce pourra améliorer encore plus ses performances, et en fait, en termes de coût total de possession (TCO), les analystes estiment que Jalapeño est même proche de Vera Rubin, la prochaine génération de puces IA de Nvidia.

Nvidia a toujours ses atouts. Il faut préciser que Jalapeño est créé pour une tâche très spécifique. Nvidia continue d’avoir un énorme avantage dans le domaine de la formation de modèles et, surtout, dans l’écosystème CUDA qu’elle construit depuis près de deux décennies. OpenAI aura encore besoin de beaucoup de GPU Nvidia pour entraîner ses modèles, et probablement aussi pour une partie de l’inférence.

Puces personnalisées. Néanmoins, chez OpenAI, ils connaissent mieux que quiconque les besoins de leurs modèles en matière d’utilisation, et cette connaissance leur permet de concevoir une puce spécifiquement destinée à exécuter ces charges de travail de manière optimale. Lorsque vous devez faire cela des milliards de fois, avoir une puce personnalisée peut être plus efficace que d’avoir un GPU conçu pour faire beaucoup de choses différentes.

Incitations. Former un modèle coûte une fortune, mais vous le faites une fois. Le servir (la partie inférence) coûte de l’argent à chaque fois que quelqu’un l’utilise. Cela est de plus en plus important avec les agents IA qui peuvent nécessiter de nombreuses requêtes pour accomplir une tâche. Jalapeño n’est pas destiné à être vendu à d’autres sociétés, du moins pour le moment. OpenAI souhaite l’utiliser dans sa propre infrastructure. La société dirigée par Sam Altman souhaite réduire le coût de chaque jeton tout en ne dépendant pas autant de Nvidia.

La bataille de l’inférence de l’IA. Google utilise ses TPU depuis des années, Amazon possède Titanium et Inferentia, et Microsoft, Meta et d’autres disposent également de puces IA spécialisées qui posent progressivement de plus en plus de concurrence à Nvidia. La société de Jensen Huang continue peut-être à dominer les puces d’entraînement, mais il est clair que dans le domaine de l’inférence la concurrence est serrée, même si ici, attention, Nvidia a un atout dans sa manche après le rachat de Groq.

À Simseo | L’Europe prend son indépendance technologique tellement au sérieux qu’elle vise l’objectif le plus ambitieux : NVIDIA