Intel AI Everywhere

Intel accélère l’IA Everywhere avec le lancement de processeurs de cinquième génération

Lors de l’événement « AI Everywhere » du 14 décembre à New York, Intel a lancé un riche portefeuille de produits d’IA destinés à prendre en charge les solutions clients partout, dans les centres de données, le cloud, les réseaux et les PC, ainsi qu’en périphérie.

Parmi les annonces les plus marquantes :

  • La famille de processeurs mobiles Intel Core™ Ultra, la première basée sur la technologie de processus Intel 4 et la première à bénéficier du plus grand changement architectural depuis 40 ans, offre la meilleure efficacité énergétique parmi les produits Intel et donne le coup d’envoi à l’ère de l’IA PC.
  • La famille de processeurs Intel Xeon de 5e génération est conçue avec une accélération de l’IA dans chaque cœur, ce qui représente un bond en avant en matière d’IA et de performances globales, réduisant ainsi le coût total de possession (TCO).
  • Le PDG d’Intel, Pat Gelsinger, a lancé l’accélérateur d’IA Intel® Gaudi3, qui sera disponible l’année prochaine.

« L’innovation en matière d’IA devrait accroître l’impact de l’économie numérique pour représenter un tiers du PIB mondial.1», il a déclaré Pat Gelsinger. « Intel développe des technologies et des solutions qui permettront aux utilisateurs d’intégrer et de déployer de manière transparente l’IA dans leurs applications – dans le cloud et, de plus en plus, localement, à la périphérie, là où les données sont générées et consommées. »

Gelsinger a présenté la présence étendue d’Intel dans le domaine de l’IA, depuis les serveurs cloud et d’entreprise jusqu’aux clients de volume et aux environnements de périphérie largement répandus. Il a également réitéré qu’Intel suivait le rythme de la livraison de cinq nouveaux nœuds technologiques de processus en quatre ans.

« La mission d’Intel est d’amener l’IA partout avec des plates-formes exceptionnellement bien conçues, des solutions sécurisées et une prise en charge des écosystèmes ouverts. Notre portefeuille d’IA est encore renforcé avec l’annonce d’aujourd’hui d’Intel Core Ultra, inaugurant l’ère de l’IA sur PC et de l’IA Xeon accélérée de cinquième génération pour l’entreprise. » Gelsinger a ajouté.

L'IA Intel partout

Index des sujets :

Intel Core Ultra alimente les PC IA et une nouvelle gamme d’applications

Intel Core Ultra représente le plus grand changement architectural d’Intel depuis 40 ans avec une puce qui offre des performances exceptionnelles dans tous les domaines : puissance de traitement du processeur, graphiques, efficacité énergétique, autonomie de la batterie et nouvelles fonctionnalités majeures d’IA. AI PC représente la plus grande transformation de l’expérience PC depuis 20 ans, lorsque Intel Centrino a libéré les ordinateurs portables des câbles réseau permettant une connexion Wi-Fi partout.

Intel Core Ultra est doté du premier accélérateur d’IA sur puce d’Intel, l’unité de traitement neuronal (NPU), pour permettre un nouveau niveau d’accélération de l’IA économe en énergie avec une efficacité 2,5 fois supérieure à celle de la génération précédente.2. Son GPU de classe mondiale et son processeur leader du secteur contribuent tous deux à accélérer les solutions d’IA.

L'IA Intel partout

Tout aussi important, Intel travaille en étroite collaboration avec plus de 100 éditeurs de logiciels qui apporteront sur le marché des PC plusieurs centaines d’applications améliorées par l’IA : ce sont des applications hautement créatives, productives et amusantes qui changeront l’expérience d’utilisation des PC. Pour les clients grand public et professionnels, cela signifie qu’un ensemble plus large et plus étendu d’applications prises en charge par l’IA fonctionnera mieux sur Intel Core Ultra que sur les plates-formes concurrentes. Par exemple, les créateurs de contenu travaillant dans Adobe Premier Pro bénéficieront de performances 40 % supérieures à celles de la concurrence.3.

Les PC IA basés sur Intel Core Ultra sont disponibles chez certains détaillants aux États-Unis cette période des fêtes. Au cours de l’année prochaine, Intel Core Ultra apportera l’IA à plus de 230 ordinateurs portables et PC dans le monde. Les PC IA représenteront 80 % du marché d’ici 20284 et ils introduiront de nouveaux outils dans notre façon de travailler, d’apprendre et de créer.

Les processeurs Xeon alimentent l’IA dans les centres de données, le cloud, les réseaux et à la périphérie

La famille de processeurs Intel Xeon de cinquième génération, également présentée aujourd’hui, représente un bond en avant significatif en termes de performances et d’efficacité.5: une augmentation moyenne des performances de 21%6 avec la même puissance thermique, il permet une augmentation de 36% des performances par watt7. Les utilisateurs qui suivent un cycle de mise à niveau typique de cinq ans et qui effectuent une mise à niveau à partir de générations encore plus anciennes pourront réduire leur coût total de possession jusqu’à 77 %.8.

Xeon est le seul processeur de centre de données grand public doté d’une accélération de l’IA intégrée, offrant jusqu’à 42 % d’inférence et de réglage précis, même sur des modèles comportant jusqu’à 20 milliards de paramètres.9. Il s’agit également du seul processeur doté d’un ensemble cohérent et en constante amélioration de tests d’inférence et de formation MLPerf.

L'IA Intel partout

Les accélérateurs d’IA intégrés de Xeon, ainsi que les logiciels optimisés et les capacités de télémétrie améliorées, permettent un déploiement plus gérable et plus efficace des charges de travail réseau et périphériques pour les fournisseurs de services de télécommunications, les réseaux de diffusion de contenu et les secteurs verticaux de l’industrie, notamment la vente au détail, la santé et la fabrication.

Lors de l’événement du 14 décembre, IBM a annoncé que, lors des testsdix, Les processeurs Intel Xeon de 5e génération ont atteint un débit de requêtes jusqu’à 2,7 fois plus élevé sur la plateforme watsonx.data par rapport aux processeurs Xeon de la génération précédente. Google Cloud, qui expédiera des processeurs Xeon de cinquième génération l’année prochaine, indique que Palo Alto Networks a vu les performances de ses modèles d’apprentissage profond de détection des menaces doubler grâce à l’accélération intégrée au Xeon de quatrième génération via Google Cloud. Le studio de jeux indépendant Gallium Studios s’est tourné vers la plate-forme d’IA de Numenta fonctionnant sur des processeurs Xeon pour améliorer les performances d’inférence de 6,5 fois par rapport à une instance cloud basée sur GPU, réduisant ainsi les coûts et la latence de Proxi.11son jeu vidéo basé sur l’IA.

De telles performances ouvrent de nouvelles possibilités pour le traitement du langage naturel et les applications avancées d’intelligence artificielle, non seulement dans les centres de données et le cloud, mais aussi dans les réseaux et les applications de pointe du monde entier.

Intel AI partout : Solutions d’accélération de l’IA

Les Core Ultra et les Xeons de cinquième génération trouveront des applications inattendues. Par exemple dans un restaurant qui non seulement affiche le menu, mais guide le client en fonction de son budget et de ses besoins alimentaires ; un plan de production qui capture les problèmes de qualité et de sécurité à la source ; une échographie qui voit ce que les yeux humains ne pourraient pas voir ; un réseau électrique qui gère l’approvisionnement en énergie avec une grande précision.

Ces cas d’utilisation de l’informatique de pointe représentent le segment informatique qui connaît la croissance la plus rapide, avec un marché mondial attendu de 445 milliards de dollars d’ici la fin de la décennie, au sein duquel l’intelligence artificielle constitue la charge de travail à croissance plus rapide. Sur ce marché, les appareils périphériques et clients généreront 1,4 fois plus de demande d’inférence que les centres de données.12.

Dans de nombreux cas, les clients utiliseront une combinaison de solutions d’IA adaptées à leur entreprise. Zoompar exemple, exécute des charges de travail d’IA sur des systèmes clients basés sur Intel Core et des solutions cloud basées sur Intel Xeon au sein de sa plate-forme de communication et de collaboration. tout en un pour offrir la meilleure expérience utilisateur et les meilleurs coûts. Zoom utilise l’intelligence artificielle non seulement pour filtrer le bruit de fond des aboiements du chien du voisin ou flouter l’arrière-plan des appels, mais aussi pour générer des procès-verbaux de réunion et les envoyer par e-mail.

Pour rendre les technologies matérielles d’IA aussi accessibles et faciles à utiliser que possible, Intel conçoit des optimisations dans les frameworks d’IA utilisés par les développeurs (tels que PyTorch et TensorFlow) et propose des bibliothèques de base (via oneAPI) pour rendre le logiciel portable et hautement performant dans tous les domaines. différents types de matériel.

Les outils de développement avancés, notamment oneAPI open source d’Intel et la boîte à outils OpenVINO, vous aident à tirer parti de l’accélération matérielle pour les charges de travail et les solutions d’IA et à créer, optimiser et déployer rapidement des modèles d’IA sur un large éventail de cibles d’inférence.

Intel AI partout – aperçu : accélérateur Intel Gaudi3

À la fin de l’événement, Gelsinger a également fait le point sur Intel Gaudi3, présentant pour la première fois une plaquette d’accélérateur d’IA de nouvelle génération pour l’apprentissage en profondeur et les modèles d’IA générative à grande échelle, disponible l’année prochaine. Intel a connu une expansion rapide de son pipeline Gaudi grâce à des avantages croissants en termes de performances combinés à des prix très compétitifs. Face à la demande croissante de solutions d’IA générative, Intel espère conquérir une part plus importante du marché des accélérateurs en 2024 grâce à sa suite d’accélérateurs d’IA basés sur Gaudi.

Note

1 https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-enomic-potential-of-generative-ai-the-next-productivity-frontier

2 Mesuré par Perf/Watt sur le benchmark UL Procyon AI lors de l’exécution d’un modèle int8 sur un NPU Intel Core Ultra 7 165H par rapport au GPU Intel Core i7-1370P. Consultez www.intel.com/PerformanceIndex pour connaître les charges de travail et les configurations. Les résultats peuvent varier.

3 Mesuré par le benchmark PugetBenchPremier Pro Standard (v24.1). Score global sur Intel Core Ultra 7 155H contre AMD Ryzen 7 7840U. Consultez www.intel.com/PerformanceIndex pour connaître les charges de travail et les configurations. Les résultats peuvent varier.

4 Source : Groupe de conseil de Boston

5 Augmentation des performances moyennes mesurée par la vitesse moyenne géographique du processeur SPEC, STREAM Triad et LINPACK par rapport au processeur Intel Xeon de 4e génération. Voir G1 sur www.intel.com/processorclaims : processeurs Intel Xeon de 5e génération. Les résultats peuvent varier.

6 Augmentation des performances moyennes mesurée par la vitesse moyenne géographique du processeur SPEC, STREAM Triad et LINPACK par rapport au processeur Intel Xeon de 4e génération. Voir G1 sur www.intel.com/processorclaims : processeurs Intel Xeon de 5e génération. Les résultats peuvent varier.

7 Voir (T13) sur www.intel.com/processorclaims : Processeurs évolutifs Intel Xeon de 5e génération. Les résultats peuvent varier.

8 Voir (T7) sur www.intel.com/processorclaims : Processeurs évolutifs Intel Xeon de 5e génération. Les résultats peuvent varier.

9 Basé sur la modélisation interne Intel de décembre 2023. Voir A1, A2, A16 sur www.intel.com/processorclaims : Processeurs Intel Xeon de 5e génération. Les résultats peuvent varier.

dixVoir (Q7) sur www.intel.com/processorclaims : Processeurs évolutifs Intel Xeon de 5e génération. Les résultats peuvent varier.

11GPU NVIDIA Tesla M60 : testé par Gallium au 17/11/2023. 1 nœud, 1 GPU sur AWS g3s.xlarge, 4 vCPU, 30,5 Go de mémoire, 8 Go de mémoire GPU, Ubuntu 22.04 Kernel 5.17, Gallium Custom Word2vec, longueur de séquence 64, taille de lot 64. Intel® Xeon® Scalable de quatrième génération : testé par Gallio depuis le 28/11/2023. 1 nœud, 2x Intel® 64.

12 Enquête sur l’intelligence artificielle et l’apprentissage automatique, 22.2, Evans Data Corp, 2023.