Un algorithme d’apprentissage inspiré du cerveau réalise la métaplasticité dans les réseaux neuronaux artificiels et à pointe

L’oubli catastrophique, un problème inné avec les algorithmes d’apprentissage par rétropropagation, est un problème difficile dans la recherche sur les réseaux neuronaux artificiels et à pointe (ANN et SNN).

Le cerveau a quelque peu résolu ce problème grâce à la plasticité multi-échelle. Sous la régulation globale par des voies spécifiques, les neuromodulateurs sont dispersés pour cibler les régions du cerveau, où la plasticité synaptique et neuronale est modulée localement par les neuromodulateurs. Plus précisément, les neuromodulateurs modifient la capacité et les propriétés de la plasticité neuronale et synaptique. Cette modification est connue sous le nom de métaplasticité.

Des chercheurs dirigés par le professeur Xu Bo de l’Institut d’automatisation de l’Académie chinoise des sciences et leurs collaborateurs ont proposé une nouvelle méthode d’apprentissage inspirée du cerveau (NACA) basée sur la plasticité dépendante de la modulation neuronale, qui peut aider à atténuer l’oubli catastrophique dans ANN et SNN. . L’étude a été publiée dans Avancées scientifiques le 25 août.

Cette méthode est basée sur la structure de la voie complexe de modulation neuronale dans le cerveau et s’appuie sur un modèle mathématique de la voie de modulation neuronale sous la forme d’un codage matriciel attendu. Après avoir reçu le signal de stimulus, des signaux de surveillance dopaminergiques de différentes forces sont générés, ce qui affecte davantage la plasticité synaptique et neuronale locale.

NACA prend en charge l’utilisation de méthodes d’apprentissage de flux pur et direct pour former à la fois les ANN et les SNN. Grâce à la prise en charge globale de la diffusion de dopamine, il se synchronise avec le signal d’entrée et propage même les informations avant le signal d’entrée. Couplé à un ajustement sélectif de la plasticité dépendante du timing des pointes, le NACA présente des avantages significatifs en termes de convergence rapide et d’atténuation des oublis catastrophiques.

Dans deux tâches typiques de reconnaissance d’images et de formes vocales, l’équipe de recherche a évalué la précision et le coût de calcul de l’algorithme NACA. Lors de tests utilisant les ensembles de données standard de classification d’images (MNIST) et de reconnaissance vocale (TIDigits), NACA a obtenu une précision de classification plus élevée (environ 1,92 %) et une consommation d’énergie d’apprentissage inférieure (environ 98 %).

De plus, l’équipe de recherche s’est concentrée sur le test de la capacité d’apprentissage continu du NACA sur l’apprentissage continu en classe et a étendu la modulation neuronale à la gamme de plasticité neuronale.

Dans les cinq principales tâches d’apprentissage continu de différentes catégories (y compris les nombres manuscrits continus MNIST, les lettres manuscrites continues de l’alphabet, les symboles mathématiques manuscrits MathGreek continus, les images naturelles Cifar-10 continues et les gestes dynamiques DvsGesture continus), NACA a montré une consommation d’énergie inférieure à celle de la rétropropagation. et des algorithmes de consolidation de poids élastiques et pourraient grandement atténuer les problèmes d’oubli catastrophiques.

« NACA est un algorithme d’optimisation global biologiquement plausible qui utilise la plasticité macroscopique pour « moduler » davantage la plasticité locale, qui peut être considérée comme une méthode de « plasticité de la plasticité » avec une cohérence fonctionnelle intuitive avec « apprendre à apprendre » et « méta-apprentissage ».  » a déclaré le professeur Xu.