Utiliser l’informatique quantique pour protéger l’IA des attaques

L’apprentissage automatique est un domaine de l’intelligence artificielle (IA) où les modèles informatiques deviennent des experts dans diverses tâches en consommant de grandes quantités de données. C’est au lieu qu’un humain programme explicitement ce niveau d’expertise.

Par exemple, les IA d’échecs modernes n’ont pas besoin d’être enseignées aux stratégies d’échecs par des grands maîtres humains, mais peuvent les « apprendre » indépendamment en jouant à des millions de parties contre des copies d’elles-mêmes.

Ceci est inestimable dans les situations où il est impossible, voire impossible, d’écrire des instructions explicites. Comment définissez-vous une fonction mathématique qui peut vous dire si une image contient un chat ou un chien ?

Les enfants humains n’apprennent jamais une telle fonction, mais voient plutôt de nombreux exemples de chats et de chiens, puis finissent par développer une compréhension de leurs différences.

L’apprentissage automatique consiste à reproduire ce processus dans les ordinateurs.

Mais malgré leurs incroyables succès et leur déploiement de plus en plus répandu, les frameworks basés sur l’apprentissage automatique restent très sensibles aux attaques adverses, c’est-à-dire à la falsification malveillante de leurs données, ce qui les fait échouer de manière surprenante.

Par exemple, les modèles de classification d’images (qui analysent les photos pour identifier et reconnaître une grande variété de critères) peuvent souvent être trompés par l’ajout de modifications bien conçues (appelées perturbations) à leurs images d’entrée qui sont si petites qu’elles sont imperceptibles l’oeil humain. Et cela peut être exploité.

La vulnérabilité continue à des attaques comme celles-ci soulève également de sérieuses questions quant à la sécurité du déploiement de réseaux neuronaux d’apprentissage automatique dans des situations potentiellement mortelles. Cela inclut des applications telles que les voitures autonomes, où le système pourrait être confondu avec la conduite à travers une intersection par un graffiti inoffensif sur un panneau d’arrêt.

À un moment crucial où le développement et le déploiement de l’IA évoluent rapidement, notre équipe de recherche étudie les moyens d’utiliser l’informatique quantique pour protéger l’IA de ces vulnérabilités,

Apprentissage automatique et informatique quantique

Les progrès récents de l’informatique quantique ont suscité beaucoup d’enthousiasme quant à la perspective d’améliorer l’apprentissage automatique avec des ordinateurs quantiques. Divers algorithmes de « machine learning quantique » ont déjà été proposés, y compris des généralisations quantiques des méthodes classiques classiques.

La généralisation fait référence à la capacité d’un modèle d’apprentissage à s’adapter correctement à de nouvelles données inédites.

On pense que les modèles d’apprentissage automatique quantique peuvent apprendre certains types de données beaucoup plus rapidement que n’importe quel modèle conçu pour les ordinateurs actuels ou « classiques ».

Les ordinateurs ordinaires fonctionnent avec des bits de données qui peuvent être « zéro » ou « un » – un système classique à deux niveaux.

Les ordinateurs quantiques fonctionnent avec des « qubits », des états de systèmes quantiques à deux niveaux, qui présentent d’étranges propriétés supplémentaires qui peuvent être exploitées afin de résoudre certains problèmes plus efficacement que leurs homologues classiques

Ce qui est moins clair, cependant, c’est l’ampleur de ces accélérations et l’utilité de l’apprentissage automatique quantique dans la pratique.

En effet, bien que les ordinateurs quantiques soient censés apprendre efficacement une classe de modèles plus large que leurs homologues classiques, rien ne garantit que ces nouveaux modèles seront utiles pour la plupart des tâches d’apprentissage automatique qui intéressent réellement les gens. Ceux-ci peuvent inclure des problèmes de classification médicale ou des systèmes d’IA générative.

Ces défis ont motivé notre équipe à réfléchir aux autres avantages que l’informatique quantique pourrait apporter aux tâches d’apprentissage automatique, autres que les objectifs habituels d’amélioration de l’efficacité ou de la précision.

Protéger l’IA des attaques

Dans notre dernier ouvrage, publié dans Recherche d’examen physiquenous suggérons que les modèles d’apprentissage automatique quantique pourraient être mieux défendus contre les attaques contradictoires générées par les ordinateurs classiques.

Les attaques contradictoires fonctionnent en identifiant et en exploitant les fonctionnalités utilisées par un modèle d’apprentissage automatique.

Mais les fonctionnalités utilisées par les modèles génériques d’apprentissage automatique quantique sont inaccessibles aux ordinateurs classiques, et donc invisibles pour un adversaire armé uniquement de ressources informatiques classiques.

Ces idées pourraient également être utilisées pour détecter la présence d’attaques adverses, en utilisant simultanément des réseaux classiques et quantiques.

Dans des conditions normales, les deux réseaux devraient faire les mêmes prédictions, mais en présence d’une attaque, leurs sorties divergeront.

Bien que cela soit encourageant, l’apprentissage automatique quantique continue de faire face à des défis importants. Le principal d’entre eux est l’énorme écart de capacité qui sépare le matériel informatique classique et quantique.

Les ordinateurs quantiques d’aujourd’hui restent fortement limités par leur taille et leurs taux d’erreur élevés, qui les empêchent d’effectuer de longs calculs.

Des défis d’ingénierie formidables subsistent, mais s’ils peuvent être surmontés, les capacités uniques des ordinateurs quantiques à grande échelle offriront sans aucun doute des avantages surprenants dans un large éventail de domaines.