les 50 TOPS de votre NPU

AMD a fait ses débuts au salon Computex 2024 avec deux grands lancements. La première, celle d'un nouveau twist sur ses processeurs « traditionnels », qui se renouvellent avec quelques prometteurs AMD Ryzen 9000.

La seconde, encore plus marquante, celle du nouveau AMD Ryzen AI 300, qui représentent le premier grand pari d'AMD pour cette nouvelle ère de PC dotés d'intelligence artificielle. Et faites attention, car ici la firme monte au créneau et promet de renverser tous ses rivaux.

L'AMD Ryzen AI 300 se compose de trois composants principaux :

1. CPU. Avec l'architecture Zen 5, le processeur principal de ces processeurs comprendra jusqu'à 12 cœurs (4 Zen 5, 8 Zen 5C d'efficacité) et 24 threads, jusqu'à une fréquence d'horloge de 5,1 GHz et jusqu'à 36 Mo de cache. Il est vrai que dans cette section, la puissance n'est pas celle offerte par les meilleurs modèles de la série Ryzen 9000, plus destinés aux joueurs, mais il y aura quand même une marge de manœuvre largement suffisante pour la plupart des utilisateurs.
2. GPU. Avec l'architecture RDNA 3.5, la carte graphique intégrée peut être soit une Radeon 880M (12 CU), soit une Radeon 890M (16 CU), une évolution d'un composant qui vous permettra de profiter de jeux vidéo avec des performances plus que correctes même si nous ne le sommes pas. parler d'équipement de jeu en tant que tel.
3. NPU. Les véritables protagonistes de ces puces seront les unités de traitement neuronal dotées de l'architecture XDNA 2. Nous sommes confrontés à un énorme bond depuis la première génération de ces composants : si le XDNA atteignait 10 TOPS en performances, ces puces atteignent 50 TOPS.

Nous sommes donc confrontés à des propositions qui concurrenceront directement le Qualcomm Snapdragon

Préparé pour l’ère des PC Copilot+

Ces performances promises pour leurs NPU montrent clairement que ces puces sont spécialement préparées pour un nouveau lot de PC Copilot+ dans lesquels AMD offrira toute la puissance des nouvelles options d'intelligence artificielle de Windows 11.

Ainsi, il sera possible de profiter pleinement de fonctions telles que le Rappel, la traduction ou la génération de sous-titres en temps réel, ou encore les options créatives de Cocreator. Le saut par rapport aux première et deuxième générations de puces AMD avec NPU est notable et donne lieu à l'utilisation de nouvelles expériences d'IA, et surtout à celles exécutées directement localement, sans connexion au cloud.

AMD a souligné que la puissance de son NPU XDNA2 permet à la réponse dans le domaine des applications d'IA d'être bien supérieure à celle des puces précédentes. Lors de l'exécution de Llama 2 7B, par exemple, le temps nécessaire pour générer le premier jeton est cinq fois inférieur sur les nouveaux processeurs que sur l'AMD Ryzen 8940HS, qui disposait d'un NPU de première génération.

C'est aussi bien supérieur selon la firme à ce que peuvent proposer les processeurs Intel Core Ultra 9 185H, Meteor Lake dans d'autres domaines, mais qui ne sont pas axés sur l'IA. Quand Intel présentera son futur Lunar Lake, oui, la comparaison sera bien plus intéressante.

Chez AMD, ils ont également souligné que dans les applications d'IA, la précision est essentielle. Dans les opérations avec des entiers de 8 bits, les performances sont supérieures mais la précision est inférieure, tandis que dans les opérations à virgule flottante de 16 bits, la précision est beaucoup plus élevée mais les performances diminuent.

C'est précisément avec ces puces qu'AMD présente le premier NPU FP16 « Block », dans lequel un mélange des deux caractéristiques est obtenu. Étant donné que la plupart des applications d'IA utilisent des opérations 16 bts, AMD propose cette technologie qui rend inutile la quantification des modèles.

La quantification est une technique utilisée pour réduire la précision des valeurs numériques (poids et activations) dans un modèle d'IA. L'objectif principal de la quantification est de réduire les besoins en mémoire et en calcul du modèle, permettant une inférence et un déploiement plus rapides sur des appareils dotés de ressources un peu plus limitées, tels que nos PC, ordinateurs portables ou téléphones mobiles.

AMD se vante d'écraser ses rivaux en termes de performances. On verra l'efficacité

Les tests internes d'AMD soulignent que ses puces sont supérieures au Snapdragon de Qualcomm

Ils écrasent également l'Apple M3 : 9 % de performances en plus, 70 % de multitâches en plus et 98 % (presque le double) de performances en plus en rendu 3D. L'histoire se répète lorsqu'on les compare avec les Intel Core Ultra 185H : AMD se vante d'offrir jusqu'à 36 % de performances en plus aux joueurs qui choisissent ces puces.

Ces tests internes sont certes prometteurs, mais pour le moment il n'existe aucune donnée sur la consommation et l'efficacité énergétique de ces puces, une section dans laquelle Apple et Qualcomm sont susceptibles de dépasser AMD. Il faudra attendre d'avoir cet équipement pour confirmer ces deux tests internes et pour pouvoir parler de la consommation et de l'efficacité de chacun.

Nous commencerons à voir plus de 100 ordinateurs basés sur le Ryzen AI 300 à partir de juillet 2024. Acer, Dell, HP ou Lenovo font partie de ces protagonistes, mais aussi certains d'entre eux comme ASUS ou MSI présenteront leurs nouveautés au Computex basées sur ces puces prometteuses.

Ils rejoindront ainsi les nombreuses propositions basées sur le Snapdragon de Qualcomm

À Simseo | Qualcomm n'est que la première étape de Windows 11 avec Copilot+. Les puces Intel et AMD attendent à l'arrière-garde