Mesure améliorée de la confiance de l’IA pour les véhicules autonomes
Une nouvelle étude de l'Université Bar-Ilan aborde une question fondamentale dans le domaine de l'intelligence artificielle (IA) : les architectures d'apprentissage profond peuvent-elles atteindre une confiance largement supérieure à la moyenne pour une partie importante des entrées tout en maintenant une confiance globale moyenne ?
Les résultats de l’étude fournissent un « oui » catégorique à cette question, marquant un pas en avant significatif dans la capacité de l’IA à discerner et à répondre à différents niveaux de confiance dans les tâches de classification. En tirant parti des connaissances sur les niveaux de confiance des architectures profondes, l’équipe de recherche a ouvert de nouvelles voies pour des applications réelles, allant des véhicules autonomes aux soins de santé.
L'étude a été publiée dans Physica A : Mécanique statistique et ses applications par une équipe de chercheurs dirigée par le professeur Ido Kanter du département de physique de l'université Bar-Ilan et du centre de recherche multidisciplinaire sur le cerveau de Gonda (Goldschmied).
Ella Koresh, étudiante de premier cycle et collaboratrice de la recherche, souligne les implications pratiques du travail. « Comprendre les niveaux de confiance des systèmes d'IA nous permet de développer des applications qui privilégient la sécurité et la fiabilité », explique-t-elle.
« Par exemple, dans le contexte des véhicules autonomes, lorsque la confiance dans l'identification d'un panneau routier est exceptionnellement élevée, le système peut prendre des décisions de manière autonome. Cependant, dans les scénarios où les niveaux de confiance sont plus faibles, le système invite à une intervention humaine, garantissant ainsi une intervention prudente et informée. prise de décision. »
L’amélioration des niveaux de confiance des systèmes d’IA a de profondes implications dans divers domaines, de l’écriture et de la classification d’images basées sur l’IA aux processus décisionnels critiques dans les soins de santé et les véhicules autonomes. En permettant aux systèmes d’IA de prendre des décisions plus nuancées et plus fiables face à l’incertitude, cette recherche établit une nouvelle norme en matière de performances et de sécurité de l’IA.
