Apprendre à oublier : une arme dans l’arsenal contre l’IA nuisible

Un modèle théorique pour l’évaluation de la fiabilité des systèmes d’apprentissage automatique

Pour un système d’apprentissage automatique comprenant plusieurs modèles d’apprentissage automatique et données d’entrée, des chercheurs de l’Université de Tsukuba ont développé un modèle théorique pour évaluer l’effet de la diversité des modèles d’apprentissage automatique et des données d’entrée utilisées dans un système d’apprentissage automatique sur la fiabilité de sa sortie.

Le modèle développé peut être utilisé pour explorer les configurations appropriées du système d’apprentissage automatique. L’étude est publiée dans Transactions IEEE sur des sujets émergents en informatique.

Les systèmes d’apprentissage automatique pour la conduite autonome, l’imagerie médicale diagnostique et d’autres applications nécessitent des résultats fiables et sûrs. L’une de ces conceptions de système est le système d’apprentissage automatique version N. Dans ce système, plusieurs modèles d’apprentissage automatique et données d’entrée sont combinés pour empêcher les erreurs d’inférence dans les modèles d’apprentissage automatique d’affecter directement le résultat final du système.

Cependant, bien qu’il soit connu empiriquement que la diversité des modèles d’apprentissage automatique et des données d’entrée affectent la fiabilité des résultats, aucun modèle théorique pour expliquer cela n’a encore été développé.

Dans cette étude, les chercheurs ont introduit les mesures de diversité pour les modèles d’apprentissage automatique et les données d’entrée en ce qui concerne les erreurs d’inférence des modèles d’apprentissage automatique et ont construit un modèle théorique pour évaluer la fiabilité de la sortie du système d’apprentissage automatique.

Les résultats ont montré qu’une méthode de configuration qui utilise la diversité des modèles d’apprentissage automatique et des données d’entrée est la méthode la plus stable pour améliorer la fiabilité d’un système d’apprentissage automatique dans des situations généralement supposées.

Les frais généraux et les coûts liés à l’exécution de plusieurs processus d’inférence constituent d’autres défis dans la conception pratique de systèmes. Les chercheurs continueront d’étudier et de développer des méthodes permettant d’atteindre une fiabilité élevée dans les systèmes d’apprentissage automatique version N tout en réduisant les coûts, la consommation d’énergie et les frais généraux, tant du point de vue théorique qu’expérimental.