L'IA imite les calculs du néocortex avec une approche « le gagnant remporte tout »

Au cours de la dernière décennie, les informaticiens ont développé des techniques informatiques de plus en plus avancées, capables d’accomplir des tâches du monde réel avec une précision comparable à celle des humains. Même si bon nombre de ces modèles d’intelligence artificielle (IA) ont obtenu des résultats remarquables, ils ne reproduisent souvent pas avec précision les calculs effectués par le cerveau humain.

Des chercheurs de Tibbling Technologies, du Broad Institute de la Harvard Medical School, de l'Université nationale australienne et d'autres instituts ont récemment tenté d'utiliser l'IA pour imiter un type spécifique de calcul effectué par des circuits dans le néocortex, connu sous le nom de calculs « gagnant-gagnant ».

Leur article, publié sur le bioRxiv serveur de préimpression, rapporte l'émulation réussie de ce calcul et montre que son ajout aux modèles basés sur des transformateurs pourrait améliorer considérablement leurs performances sur les tâches de classification d'images.

« Notre récent article a été inspiré par les incroyables capacités informatiques du cerveau des mammifères, en particulier du néocortex », a déclaré Asim Iqbal, premier auteur de l'article, à Tech Xplore.

« Notre objectif principal était de s'inspirer de la façon dont le cerveau traite l'information et d'appliquer ces principes pour améliorer les systèmes d'intelligence artificielle. Plus précisément, nous nous sommes concentrés sur un calcul appelé « le gagnant remporte tout » qui semble être une opération fondamentale dans les circuits corticaux. « 

Le « gagnant remporte tout » est un mécanisme biologique qui se produit lorsqu'un ou quelques neurones au sein d'un ensemble (c'est-à-dire celui ou ceux ayant le niveau d'activation le plus élevé) influencent le résultat d'un calcul. Les neurones les plus actifs suppriment essentiellement l’activité des autres neurones, devenant ainsi les seules cellules contribuant à une décision ou à un calcul spécifique.

Iqbal et ses collègues ont tenté d'imiter de manière réaliste ce calcul biologique à l'aide de matériel neuromorphique, puis de l'utiliser pour améliorer les performances de modèles d'apprentissage automatique bien établis. Pour ce faire, ils ont utilisé la puce matérielle neuromorphique TrueNorth d'IBM, spécialement conçue pour imiter l'organisation du cerveau.

« Notre modèle de réseau biophysique vise à capturer les caractéristiques clés des circuits néocorticaux, en se concentrant sur les interactions entre les neurones excitateurs et quatre principaux types de neurones inhibiteurs », a expliqué Iqbal.

« Le modèle intègre les propriétés mesurées expérimentalement de ces neurones et de leurs connexions dans le cortex visuel. Sa principale caractéristique est la capacité de mettre en œuvre des calculs » doux au vainqueur, où les entrées les plus fortes sont amplifiées tandis que les plus faibles sont supprimées.

En effectuant ces calculs inspirés du cerveau, l'approche de l'équipe peut améliorer les signaux importants, tout en filtrant le bruit. Le principal avantage de leur système NeuroAI est qu’il introduit une nouvelle approche biologiquement fondée et pourtant efficace sur le plan informatique du traitement des informations visuelles, qui pourrait contribuer à améliorer les performances des modèles d’IA.

« L'une de nos réalisations les plus intéressantes a été la mise en œuvre réussie de nos calculs inspirés du cerveau sur la puce neuromorphique TrueNorth d'IBM », a déclaré Iqbal.

« Cela démontre que nous pouvons traduire les principes des neurosciences en matériel réel. Nous avons également été ravis de constater des améliorations significatives des performances des Vision Transformers et d'autres modèles d'apprentissage profond lorsque nous avons incorporé notre traitement inspiré du gagnant-gagnant. Par exemple, les modèles sont devenus bien meilleurs pour généraliser à de nouveaux types de données sur lesquelles ils n'avaient pas été formés : un défi majeur en IA. »

Iqbal et ses collègues ont combiné le soft gagnant en prenant tous les calculs effectués en utilisant leur approche avec un modèle basé sur un transformateur de vision. Ils ont constaté que leur approche améliorait considérablement les performances du modèle lors d'une tâche de classification numérique pour des données totalement « invisibles » grâce à un apprentissage sans tir.

À l’avenir, leur approche informatique inspirée du cerveau pourrait être appliquée à d’autres systèmes d’IA pour un large éventail d’applications, notamment la vision par ordinateur, l’analyse d’images médicales et les véhicules autonomes. Parallèlement, les chercheurs envisagent d’étudier comment les mêmes principes inspirés du cerveau qui sous-tendent leur approche pourraient être exploités pour s’attaquer à des tâches cognitives plus complexes.

« Nous sommes particulièrement intéressés par la mise en œuvre de la mémoire de travail et des processus décisionnels en utilisant notre approche », a ajouté Iqbal.

« Nous prévoyons également d'étudier comment intégrer des mécanismes d'apprentissage inspirés par le cerveau, ce qui pourrait conduire à des systèmes d'IA capables d'apprendre et de s'adapter plus efficacement. De plus, nous souhaitons tester notre approche sur d'autres plates-formes matérielles neuromorphiques émergentes pour mieux relier le fossé entre les neurosciences et l'IA.