Une étude identifie les faiblesses de l’IA
ChatGPT et d’autres solutions basées sur l’apprentissage automatique sont en plein essor. Mais même les algorithmes les plus performants ont leurs limites. Des chercheurs de l’Université de Copenhague ont prouvé mathématiquement qu’en dehors de problèmes simples, il n’est pas possible de créer des algorithmes d’IA qui soient toujours stables. L’étude, publiée sur le arXiv serveur de préimpression, peut conduire à des lignes directrices sur la façon de mieux tester les algorithmes et nous rappelle que les machines n’ont pas d’intelligence humaine après tout.
Les machines interprètent les images médicales avec plus de précision que les médecins, traduisent les langues étrangères et pourraient bientôt être capables de conduire des voitures avec plus de sécurité que les humains. Cependant, même les meilleurs algorithmes présentent des faiblesses. Une équipe de recherche du Département d’informatique de l’Université de Copenhague tente de les révéler.
Prenons l’exemple d’un véhicule automatisé lisant un panneau routier. Si quelqu’un a apposé un autocollant sur le panneau, cela ne distraira pas le conducteur humain. Mais une machine peut facilement être retardée parce que le signe est désormais différent de ceux sur lesquels elle a été formée.
« Nous aimerions que les algorithmes soient stables dans le sens où si l’entrée est légèrement modifiée, la sortie restera presque la même. La vraie vie implique toutes sortes de bruits que les humains ont l’habitude d’ignorer, tandis que les machines peuvent être confuses », explique le professeur. Amir Yehudayoff, à la tête du groupe.
Un langage pour discuter des faiblesses
« Je voudrais souligner que nous n’avons pas travaillé directement sur les applications de voitures automatisées. Cela semble néanmoins être un problème trop complexe pour que les algorithmes soient toujours stables », déclare Yehudayoff, ajoutant que cela n’implique pas nécessairement de conséquences majeures en termes de développement. de voitures automatisées. « Si l’algorithme ne se trompe que dans quelques circonstances très rares, cela pourrait très bien être acceptable. Mais s’il le fait dans un grand nombre de circonstances, c’est une mauvaise nouvelle. »
L’article scientifique ne peut pas être appliqué par l’industrie pour identifier les bugs dans ses algorithmes. Ce n’était pas l’intention, explique le professeur. « Nous développons un langage pour discuter des faiblesses des algorithmes d’apprentissage automatique. Cela pourrait conduire à l’élaboration de lignes directrices décrivant comment les algorithmes doivent être testés. Et à long terme, cela pourrait à nouveau conduire au développement d’algorithmes meilleurs et plus stables. »
De l’intuition aux mathématiques
Une application possible pourrait consister à tester des algorithmes pour la protection de la vie privée numérique.
« Certaines entreprises pourraient prétendre avoir développé une solution absolument sécurisée pour la protection de la vie privée. Premièrement, notre méthodologie pourrait aider à établir que la solution ne peut pas être absolument sécurisée. Deuxièmement, elle sera capable d’identifier les points faibles », explique Yehudayoff.
Mais avant tout, l’article scientifique contribue à la théorie. Le contenu mathématique est particulièrement révolutionnaire, ajoute-t-il :
« Nous comprenons intuitivement qu’un algorithme stable devrait fonctionner presque aussi bien qu’avant lorsqu’il est exposé à une petite quantité de bruit d’entrée. Tout comme le panneau de signalisation avec un autocollant dessus. Mais en tant qu’informaticiens théoriques, nous avons besoin d’une définition ferme. Nous devons être capable de décrire le problème dans le langage mathématique. Quelle quantité exacte de bruit l’algorithme doit-il être capable de supporter, et à quel point la sortie doit-elle être proche de la sortie d’origine si nous voulons accepter que l’algorithme soit stable ? C’est ce que nous ont suggéré une réponse à cette question. »
Il est important de garder les limites à l’esprit
L’article scientifique a suscité un grand intérêt de la part de collègues du monde de l’informatique théorique, mais pas de la part de l’industrie technologique. Pas encore, du moins.
« Il faut toujours s’attendre à un certain délai entre un nouveau développement théorique et l’intérêt des personnes travaillant dans les applications », explique Yehudayoff. « Et certains développements théoriques resteront à jamais inaperçus. »
Cependant, il ne voit pas que cela se produise dans ce cas :
« L’apprentissage automatique continue de progresser rapidement et il est important de garder à l’esprit que même les solutions qui fonctionnent très bien dans le monde réel ont encore des limites. Les machines peuvent parfois sembler capables de penser, mais après tout, elles ne possèdent pas d’intelligence humaine. C’est important de garder cela à l’esprit. »
