pourquoi avons-nous besoin d'un NPU si l'IA peut fonctionner sur CPU ou GPU

Les unités de traitement neuronal, communément appelées NPU (), sont arrivées dans les SoC et les APU pour y rester. Pour rester définitivement. L’ère de l’intelligence artificielle (IA) a commencé, et précisément le NPU est une unité fonctionnelle expressément conçue pour gérer les algorithmes d’IA en général, et l’IA générative en particulier, de la manière la plus efficace possible.

Actuellement, Qualcomm, Intel, AMD, Apple, Samsung ou Huawei font partie des entreprises qui disposent de puces préparées pour faire face à une modalité de traitement connue sous le nom d'informatique hétérogène. Ces puces regroupent trois types différents d'unités de traitement : le CPU, dont la vocation est générale ; le GPU, qui est principalement responsable de gérer les processus nécessaires à la génération de graphiques ; et enfin le NPU, qui, comme nous l’avons vu, est spécialisé dans le traitement des processus d’IA.

L'informatique hétérogène cherche à maximiser les performances et l'efficacité

L'architecture hétérogène dans laquelle nous venons d'étudier répartit la responsabilité de l'exécution des processus entre trois types différents d'unités de traitement dans le but de maximiser les performances et l’efficacité énergétique. C’est finalement l’esprit de l’informatique hétérogène dans ce contexte. Cependant, il y a quelque chose de très important qu’il ne faut pas négliger : les processus d’IA peuvent être exécutés sur le CPU, le GPU ou le NPU. Dans n’importe lequel d’entre eux. Bien entendu, ce choix a des conséquences.

Le GPU est l’unité de traitement la mieux équipée pour la parallélisation massive car cette stratégie est la plus efficace pour aborder le processus de génération graphique. L’IA profite également clairement de cette approche, surtout si le GPU intègre également des unités spécifiques pour résoudre des opérations matricielles prenant en charge une parallélisation élevée. En pratique, cette unité de traitement est celle qui offre les performances les plus élevées lorsqu’il s’agit de processus d’IA, mais elle est aussi la moins efficace d’un point de vue énergétique.

Cette diapositive d'Intel résume bien le rôle du GPU, du NPU et du CPU dans le contexte de l'exécution des processus d'IA.

Comme nous venons de le voir, le CPU peut également exécuter des processus d'IA, même si comme l'usage général prévaut dans son architecture et non la parallélisation massive, ses performances sont généralement Ce sera inférieur à ce que nous donne le GPU en traitant le même algorithme d'IA. Et on peut supposer que cela consommera également moins. Enfin, le NPU est spécifiquement conçu pour gérer les processus d'IA de la manière la plus économe en énergie possible, même si ses performances lors de l'exécution de processus exigeants seront inférieures à celles du CPU et, surtout, à celles du CPU. le GPU.

Intel et AMD ont été plus lents à réagir que les autres concepteurs de SoC et d'APU, mais les deux sociétés disposent déjà de puces intégrant un NPU. Et à l’avenir, ils étendront cette stratégie à d’autres gammes de produits. Les processeurs Intel Core Ultra avec microarchitecture Meteor Lake intègrent un NPU, et les Ryzen 7040 et 8040 d'AMD intègrent un NPU avec une architecture XDNA, spécifiquement optimisée pour le traitement du signal et l'IA. Cette stratégie façonne le présent. Et bien sûr aussi pour l’avenir de l’informatique grand public et professionnelle. CPU, GPU et NPU sont condamnés à coexister et à se comprendre. Nous, les utilisateurs, gagnons.

À Simseo | Le leader de NVIDIA se mouille : il a fixé très précisément la date à laquelle l'intelligence artificielle générale sera prête

À Simseo | La Chine va devenir imbattable en matière d’intelligence artificielle. Ce n'est pas n'importe qui qui le dit, le PDG de Google le défend