Une machine bayésienne basée sur des memristors

Une machine bayésienne basée sur des memristors

Une image de microscopie optique de la machine bayésienne complète. Crédit : Damien Querlioz (CNRS/Univ. Paris-Saclay)

Au cours des dernières décennies, les performances des modèles d’apprentissage automatique sur diverses tâches du monde réel se sont considérablement améliorées. Cependant, la formation et la mise en œuvre de la plupart de ces modèles nécessitent encore de grandes quantités d’énergie et de puissance de calcul.

Les ingénieurs du monde entier ont donc essayé de développer des solutions matérielles alternatives capables d’exécuter plus efficacement des modèles d’intelligence artificielle, car cela pourrait favoriser leur utilisation généralisée et accroître leur durabilité. Certaines de ces solutions sont basées sur des memristors, des dispositifs de mémoire capables de stocker des informations sans consommer d’énergie.

Des chercheurs de l’Université Paris-Saclay-CNRS, de l’Université Grenoble-Alpes-CEA-LETI, de HawAI.tech, de Sorbonne Université et d’Aix-Marseille Université-CNRS ont récemment créé une machine dite bayésienne (c’est-à-dire une approche d’IA qui effectue des calculs basé sur le théorème de Bayes), en utilisant des memristors. Leur système proposé, présenté dans un article publié dans Électronique naturelles’est avérée nettement plus économe en énergie que les solutions matérielles actuellement utilisées.

« L’intelligence artificielle fait aujourd’hui des progrès majeurs mais fait face à un défi : sa consommation énergétique considérable », a déclaré Damien Querlioz, l’un des chercheurs qui a mené l’étude, à TechXplore. « Il est maintenant bien compris que cette consommation vient de la séparation, dans les ordinateurs, entre les fonctions de calcul et de mémoire. Comme l’intelligence artificielle utilise beaucoup de données, elle nécessite beaucoup de mémoire, ce qui est coûteux à accéder en termes d’énergie. les cerveaux sont beaucoup plus économes en énergie car les fonctions de mémoire sont intégrées au plus près des fonctions de calcul, et nous avons voulu reproduire cette stratégie. »

Les memristors sont essentiellement des composants électriques basés sur des nanodispositifs qui limitent ou régulent le flux de courant électrique dans un circuit, tout en enregistrant la quantité d’énergie qui y est passée au préalable. Comme ils effectuent à la fois des calculs et du stockage d’informations, ces appareils peuvent mieux reproduire les stratégies de traitement de l’information du cerveau humain.

Une machine bayésienne basée sur des memristors

Une image de microscopie optique agrandie de la machine bayésienne sur l’un de ses 16 réseaux de memristors. Crédit : Damien Querlioz (CNRS/Univ. Paris-Saclay)

« Jusqu’à récemment, les memristors étaient une technologie émergente, et nous ne pouvions pas réaliser de systèmes complets avec eux », a expliqué Querlioz. « Maintenant, notre équipe a construit une » machine bayésienne « , une petite intelligence artificielle avec des memristors. Le prototype comprend 2 048 memristors en oxyde d’hafnium et 30 080 transistors en silicium (MOSFET). »

La machine bayésienne créée par Querlioz et ses collègues intègre des memristors avec la technologie conventionnelle métal-oxyde-semi-conducteur complémentaire (CMOS). Les chercheurs ont créé un prototype de la machine et évalué ses performances sur une tâche de reconnaissance gestuelle. Remarquablement, ils ont découvert qu’il pouvait reconnaître des gestes humains spécifiques en utilisant des milliers de fois moins d’énergie qu’une solution matérielle traditionnelle basée sur un microcontrôleur.

« La plupart des recherches sur l’apprentissage automatique basé sur les memristors visent à mettre en œuvre l’apprentissage en profondeur », a déclaré Querlioz. « Il s’agit bien sûr d’un objectif extrêmement important, car l’apprentissage en profondeur connaît un tel succès aujourd’hui. Cependant, l’apprentissage en profondeur a certaines limites : ses résultats ne sont pas explicables et il ne fonctionne pas bien lorsque peu de données sont disponibles. Ici, nous avons choisi pour mettre en œuvre le raisonnement bayésien, une approche alternative de l’IA qui ne fonctionne pas bien dans les applications de Big Data où l’apprentissage en profondeur fonctionne si bien, mais excelle dans les petites situations de données et fournit des résultats entièrement explicables. »

À l’avenir, la machine bayésienne basée sur les memristors créée par cette équipe de chercheurs pourrait contribuer à augmenter l’efficacité énergétique des modèles d’IA, tout en inspirant potentiellement le développement d’autres solutions similaires. Il pourrait être particulièrement utile pour les applications critiques pour la sécurité, telles que les capteurs médicaux ou les circuits pour surveiller la sécurité des installations industrielles. Hawai.tech, une start-up qui a contribué au développement de l’algorithme bayésien de l’équipe, utilise désormais la machine pour créer ces capteurs.

« Nous avons conçu une version considérablement agrandie de la machine bayésienne, qui est actuellement en cours de fabrication, et nous avons également appliqué les principes de la machine à d’autres approches d’apprentissage automatique », a ajouté Querlioz. « Alors que nous augmentons la complexité de nos conceptions, nous commençons à atteindre les limites de ce qui est possible pour un groupe universitaire. Nous travaillons donc simultanément sur de nouvelles technologies, les prochains memristors. »