Des ensembles de neurones multiplexés permettent des réseaux de neurones optiques plus petits

Cherchant à améliorer le caractère pratique des réseaux de neurones optiques utilisant le multiplexage par répartition en longueur d'onde, une équipe de recherche a développé une structure appelée ensembles de neurones multiplexés et un algorithme d'entraînement à la rétropropagation correspondant.

Grâce à ceux-ci, ils ont pu réduire la taille du réseau et ainsi améliorer l’efficacité énergétique d’un facteur 10 tout en atteignant des performances comparables à celles d’un réseau neuronal optique traditionnel entraîné avec un algorithme traditionnel. Leur recherche a été publiée le 20 février 2024 dans Informatique intelligente.

Les réseaux de neurones optiques sont beaucoup plus économes en énergie que les réseaux de neurones artificiels conventionnels, qui nécessitent d’énormes quantités de puissance de calcul et consomment donc de grandes quantités d’énergie. Cependant, la diaphonie entre les canaux diminue les performances des systèmes optiques qui utilisent le multiplexage par répartition en longueur d'onde pour la parallélisation.

Le multiplexage par répartition en longueur d'onde est une méthode permettant de transmettre simultanément plus d'informations via la même connexion en utilisant des signaux de différentes longueurs d'onde. Ces différentes longueurs d'onde sont des canaux de signal différents.

Auparavant, des combinaisons de canaux étaient utilisées pour effectuer une multiplication vectorielle-matrice pour les réseaux de neurones optiques. Dans cette recherche, des ensembles de neurones multiplexés sont utilisés pour compresser les fonctions de sommation et d’activation non linéaire appartenant à plusieurs neurones.

Les fonctions de l'ensemble de neurones sont codées sur différents canaux de signal et peuvent ainsi être mises en œuvre par un dispositif optique non linéaire avec des entrées de plusieurs longueurs d'onde, et un réseau de plusieurs couches peut être construit à l'aide d'une série de ces dispositifs optiques.

Malheureusement, les signaux des canaux adjacents interfèrent toujours les uns avec les autres, ce qui entraîne des signaux bruyants. Pour réduire cette diaphonie intercanal et le potentiel d'erreurs de calcul qui en résulte, un nouvel algorithme d'entraînement à la rétropropagation qui prend en compte la diaphonie a été conçu.

Les performances ont été évaluées pour l'architecture d'ensembles de neurones multiplexés avec le nouvel algorithme de rétropropagation utilisant des tâches de classification avec des chiffres manuscrits et des images de mode. Il a été constaté que la nouvelle méthode présente un plus grand avantage en termes de performances lorsque le nombre de multiplexages augmente.

De même, l’analyse théorique de la consommation d’énergie a montré qu’une mise en œuvre d’un ensemble de neurones multiplexés d’un réseau présente un plus grand avantage en termes d’efficacité lorsque la quantité de multiplexage augmente.

Les chercheurs ont mis en œuvre leur méthode en utilisant des amplificateurs optiques à semi-conducteurs, qui sont des dispositifs commercialement matures, mais leurs travaux sont « démontrés à un niveau très abstrait » et sont donc pertinents pour d'autres dispositifs photoniques présentant des caractéristiques similaires, ainsi que pour le traitement du signal optique assisté par l'IA. avec diaphonie intercanal.