Roman Memristors pour surmonter «l’oubli catastrophique» de l’IA

Les soi-disant «memristors» consomment extrêmement peu de puissance et se comportent de la même manière que les cellules cérébrales. Des chercheurs de Jülich, dirigés par Ilia Valov, ont maintenant introduit de nouvelles composantes memristives qui offrent des avantages significatifs par rapport aux versions précédentes: ils sont plus robustes, une fonction dans une gamme de tension plus large et peuvent fonctionner dans des modes analogiques et numériques. Ces propriétés pourraient aider à résoudre le problème de «l’oubli catastrophique», où les réseaux de neurones artificiels oublient brusquement les informations précédemment apprises.

Le problème de l’oubli catastrophique se produit lorsque des réseaux de neurones profonds sont formés pour une nouvelle tâche. En effet, une nouvelle optimisation écrase simplement une précédente. Le cerveau n’a pas ce problème car il peut apparemment ajuster le degré de changement synaptique; Quelque chose que les experts appellent la «métaplasticité».

Ils soupçonnent que ce n’est qu’à travers ces différents degrés de plasticité que notre cerveau peut apprendre en permanence de nouvelles tâches sans oublier le contenu ancien. Le nouveau Memristor accomplit quelque chose de similaire.

« Ses propriétés uniques permettent d’utiliser différents modes de commutation pour contrôler la modulation du Memristor de telle manière que les informations stockées ne soient pas perdues », explique Ilia Valov de l’Institut Peter Grünberg (PGI-7) à Forschungszentrum Jülich.

Candidats idéaux pour les appareils neuro-inspirés

Les puces informatiques modernes évoluent rapidement. Leur développement pourrait recevoir un nouveau coup de pouce de la part de Memristors – un terme dérivé de la mémoire et de la résistance. Ces composants sont essentiellement des résistances avec la mémoire: leurs changements de résistance électrique en fonction de la tension appliquée, et contrairement aux éléments de commutation conventionnels, leur valeur de résistance reste même après la désactivation de la tension. En effet

« Les éléments memristifs sont considérés comme des candidats idéaux pour des composants informatiques capables de neuro-inspirés, modélisés sur le cerveau », explique Valov.

Malgré des progrès et des efforts considérables, la commercialisation des composants progresse plus lentement que prévu. Cela est dû en particulier à un taux de défaillance souvent élevé en production et à la courte durée de vie des produits. De plus, ils sont sensibles à la génération de chaleur ou aux influences mécaniques, ce qui peut entraîner des dysfonctionnements fréquents pendant le fonctionnement.

« La recherche fondamentale est donc essentielle pour mieux contrôler les processus à l’échelle nanométrique », explique Valov, qui travaille dans ce domaine de Memristors depuis de nombreuses années. « Nous avons besoin de nouveaux matériaux et de mécanismes de commutation pour réduire la complexité des systèmes et augmenter la plage de fonctionnalités. »

C’est précisément à cet égard que le chimiste et le scientifique des matériaux, ainsi que les collègues allemands et chinois, ont maintenant pu signaler un succès important: « Nous avons découvert un mécanisme mémoire électrochimique fondamentalement nouveau qui est chimiquement et électriquement plus stable », explique Valov. Le développement a maintenant été publié dans la revue Communications de la nature.

Un nouveau mécanisme pour les memristors

« Jusqu’à présent, deux mécanismes principaux ont été identifiés pour le fonctionnement des soi-disant memristors bipolaires: ECM et VCM », explique Valov. ECM signifie Metallisation électrochimique et VCM pour le mécanisme de changement de valence.

Les memristors de l’ECM forment un filament métallique entre les deux électrodes – un minuscule « pont conducteur » qui modifie la résistance électrique et se dissout à nouveau lorsque la tension est inversée. Le paramètre critique ici est la barrière d’énergie (résistance) de la réaction électrochimique. Cette conception permet des tensions de commutation faibles et des temps de commutation rapides, mais les états générés sont variables et de courte durée.

Les memristors VCM, en revanche, ne changent pas la résistance à travers le mouvement des ions métalliques mais plutôt par le mouvement des ions oxygène à l’interface entre l’électrode et l’électrolyte – en modifiant la barrière dite Schottky. Ce processus est relativement stable mais nécessite des tensions de commutation élevées.

Chaque type de Memristor a ses propres avantages et inconvénients. « Nous avons donc envisagé de concevoir un memristor qui combine les avantages des deux types », explique Valov. Parmi les experts, cela était auparavant considéré comme impossible.

« Notre nouveau Memristor est basé sur un principe complètement différent: il utilise un filament fait d’oxydes métalliques plutôt que d’un Purement métallique comme ECM », explique Valov. Ce filament est formé par le mouvement des ions d’oxygène et de tantale et est très stable – il ne se dissout jamais complètement. « Vous pouvez le considérer comme un filament qui existe toujours dans une certaine mesure et n’est que modifié chimiquement », explique Valov.

Le nouveau mécanisme de commutation est donc très robuste. Les scientifiques l’appellent également un mécanisme de modification de la conductivité du filament (FCM). Les composants basés sur ce mécanisme présentent plusieurs avantages – ils sont chimiquement et électriquement plus stables, plus résistants aux températures élevées, ont une fenêtre de tension plus large et nécessitent des tensions inférieures à produire. En conséquence, moins de composants s’épuisent pendant le processus de fabrication, le taux de rejet est plus faible et leur durée de vie est plus longue.

Solution de perspective pour l’oubli catastrophique

Les différents états d’oxydation permettent à la Memristor d’être opérée en mode binaire et / ou analogique. Bien que les signaux binaires soient numériques et ne peuvent produire que deux états, les signaux analogiques sont continus et peuvent prendre toute valeur intermédiaire. Cette combinaison de comportement analogique et numérique est particulièrement intéressante pour les puces neuromorphes car elle peut aider à surmonter le problème de l’oubli catastrophique.

Les chercheurs ont déjà mis en œuvre la nouvelle composante memristive dans un modèle d’un réseau neuronal artificiel dans une simulation. Dans plusieurs ensembles de données d’image, le système a atteint un niveau élevé de précision dans la reconnaissance des modèles.

À l’avenir, l’équipe veut rechercher d’autres matériaux pour Memristors qui pourraient fonctionner encore mieux et plus stable que la version présentée ici. « Nos résultats feront progresser le développement de l’électronique pour les applications de« calcul en mémoire »», explique Valov.