Des scientifiques découvrent des vulnérabilités d’inspiration quantique dans les réseaux de neurones

Dans une étude récente fusionnant les domaines de la physique quantique et de l’informatique, le Dr Jun-Jie Zhang et le professeur Deyu Meng ont exploré les vulnérabilités des réseaux neuronaux à travers le prisme du principe d’incertitude en physique.

Leurs travaux, publiés dans le Revue scientifique nationaleétablit un parallèle entre la susceptibilité des réseaux neuronaux aux attaques ciblées et les limites imposées par le principe d'incertitude, une théorie bien établie en physique quantique qui met en évidence les défis de mesurer simultanément certaines paires de propriétés.

L'analyse quantique des vulnérabilités des réseaux neuronaux par les chercheurs suggère que les attaques adverses exploitent le compromis entre la précision des caractéristiques d'entrée et leurs gradients calculés.

« Lorsque l'on considère l'architecture des réseaux neuronaux profonds, qui impliquent une fonction de perte pour l'apprentissage, nous pouvons toujours définir une variable conjuguée pour les entrées en déterminant le gradient de la fonction de perte par rapport à ces entrées », explique le Dr Zhang, dont l'expertise réside dans la physique mathématique.

Cette recherche espère susciter une réévaluation de la robustesse supposée des réseaux de neurones et encourager une compréhension plus approfondie de leurs limites. En soumettant un modèle de réseau neuronal à des attaques contradictoires, le Dr Zhang et le professeur Meng ont observé un compromis entre la précision du modèle et sa résilience.

Leurs résultats indiquent que les réseaux neuronaux, semblables mathématiquement aux systèmes quantiques, ont du mal à résoudre simultanément avec précision les deux variables conjuguées – le gradient de la fonction de perte et la caractéristique d’entrée –, ce qui laisse entrevoir une vulnérabilité intrinsèque. Cette connaissance est cruciale pour le développement de nouvelles mesures de protection contre les menaces sophistiquées.

« L'importance de cette recherche est considérable », note le professeur Meng, expert en apprentissage automatique et auteur correspondant de l'article.

« Alors que les réseaux neuronaux jouent un rôle de plus en plus critique dans les systèmes essentiels, il devient impératif de comprendre et de renforcer leur sécurité. Cette recherche interdisciplinaire offre une nouvelle perspective pour démystifier ces systèmes complexes de « boîte noire », pouvant potentiellement éclairer la conception d'une IA plus sûre et plus interprétable. des modèles. »