Les chercheurs créent des techniques de vérification pour accroître la sécurité de l’IA et du traitement des images
Une équipe de chercheurs de l'Institut IMDEA Software, de l'Université Carlos III de Madrid et de NEC Laboratories Europe a introduit un nouveau cadre qui promet d'améliorer l'efficacité et le caractère pratique de l'informatique vérifiable.
La recherche, détaillée dans l'article « Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing » et présentée lors de la dernière conférence de l'ACM (Association for Computing Machinery) sur la sécurité des ordinateurs et des communications, aborde les défis d'évolutivité et de modularité auxquels sont confrontés à la fois la preuve générale. des systèmes et solutions adaptés à des applications spécifiques en intelligence artificielle et en traitement d’images.
Le calcul vérifiable comprend une famille de techniques cryptographiques qui fournissent une garantie infalsifiable qu'un tiers, tel qu'une entreprise ou un serveur cloud, a effectué un traitement correct des données d'un utilisateur. Prouver qu'une image ou une vidéo a été retouchée, qu'une prédiction faite par l'intelligence artificielle provient d'un modèle audité ou que seules les données fournies par le client ont été utilisées dans une décision de solvabilité sont quelques exemples de ce que permettent ces techniques. De plus, le calcul vérifiable est compatible avec la confidentialité des données, de sorte que, par exemple, les algorithmes utilisés par le serveur dans le calcul restent confidentiels.
Le calcul vérifiable fournit l’intégrité, l’équité et la confidentialité, propriétés essentielles dans les applications qui externalisent les tâches de traitement des données. Parmi les solutions possibles, il existe des systèmes de preuve généraux, tels que ceux utilisés dans certaines blockchains, qui présentent des problèmes d'évolutivité lorsqu'il s'agit de calculs avec de grandes quantités de données. En revanche, les solutions conçues spécifiquement pour ces applications sont plus efficaces, mais souvent incompatibles entre elles, ce qui rend difficile leur mise à l'échelle ou leur intégration dans des chaînes de traitement de données plus larges.
L'étude
Les chercheurs ont introduit un nouveau cadre visant à combler cette lacune en combinant les avantages en termes de performances des solutions personnalisées avec la polyvalence des systèmes de test à usage général. À la base se trouve une approche modulaire du calcul vérifiable des opérations séquentielles, basée sur une nouvelle primitive cryptographique connue sous le nom de VE (Verifiable Evaluation Scheme).
Les chercheurs démontrent l’application pratique de leur cadre en intelligence artificielle en proposant un nouvel VE adapté aux opérations de convolution, capable de gérer plusieurs canaux d’entrée et de sortie interconnectés.
« Notre protocole peut être facilement intégré à une chaîne de traitement de données pour permettre une vérification complète, par exemple, des prédictions faites par les réseaux de neurones convolutifs (CNN), qui constituent la base de la plupart des modèles d'intelligence artificielle », explique David Balbás, Ph.D. étudiant à IMDEA Software et chercheur de cette étude.
En outre, l'article présente également de nouveaux VE pour le traitement d'images, qui permettent une vérification efficace de l'édition ou des retouches, y compris des opérations telles que le recadrage, le flou, le redimensionnement et d'autres opérations plus complexes.
L'équipe a produit un prototype d'application de ses systèmes de test qui constitue une amélioration significative par rapport aux techniques existantes. « Notre benchmark montre que nos preuves sont cinq fois plus rapides à générer et dix fois plus rapides à vérifier que les meilleures solutions existantes jusqu'à présent, en plus d'introduire des innovations théoriques dans les algorithmes », explique Damien Robissout, programmeur de recherche à l'Institut IMDEA Software et également co-auteur de l'étude.
Ces résultats améliorent non seulement l’efficacité et l’évolutivité des systèmes de preuve cryptographique, mais ouvrent également de nouvelles possibilités pour garantir l’intégrité, l’équité et la confidentialité des tâches de traitement de données dans diverses applications d’intelligence artificielle et de traitement d’images.
« Aujourd'hui, cette approche est essentielle dans le domaine d'application que nous envisageons, car une avancée technologique n'est pas telle si elle ne mérite pas la confiance des utilisateurs finaux », déclare une autre auteure de l'étude, Maribel González Vasco, professeur d'excellence en le Département de Mathématiques de l'UC3M.
L'application générée dans l'étude est open source et sa nature modulaire ouvre la voie à son extension et à son intégration dans divers outils au sein d'une chaîne de traitement de données. Les chercheurs ouvrent ainsi la voie à un déploiement polyvalent et robuste du calcul vérifiable dans des applications aussi diverses que l’éthique financière, la protection des données personnelles ou la réglementation de l’intelligence artificielle, entre autres.
