Méfiez-vous de la détection des tromperies basée sur l'IA, prévient la communauté scientifique

L’intelligence artificielle pourrait bientôt aider à identifier les mensonges et les tromperies. Cependant, une équipe de recherche des universités de Marburg et de Würzburg met en garde contre une utilisation prématurée.

Oh, si seulement c'était aussi simple qu'avec Pinocchio. Il était simple de voir quand il mentait : son nez s'allongeait un peu plus à chaque fois. En réalité, il est beaucoup plus difficile de reconnaître les mensonges et il est tout à fait compréhensible que les scientifiques tentent depuis longtemps de développer des méthodes valables de détection des tromperies.

Aujourd’hui, de nombreux espoirs sont placés dans l’intelligence artificielle (IA) pour atteindre cet objectif, par exemple en tentant d’identifier les voyageurs ayant des intentions criminelles aux frontières de l’UE avec la Hongrie, la Grèce et la Lituanie.

Un outil précieux pour la recherche fondamentale

Des chercheurs des universités de Marbourg et de Wurtzbourg mettent désormais en garde contre une utilisation prématurée de l’IA pour détecter des mensonges. Selon eux, la technologie constitue un outil potentiellement précieux pour la recherche fondamentale afin de mieux comprendre les mécanismes psychologiques qui sont à l’origine de la tromperie. Cependant, ils sont plus que sceptiques quant à son application dans des contextes réels.

Kristina Suchotzki et Matthias Gamer sont responsables de l'étude, qui a été publiée dans la revue Tendances des sciences cognitives. Kristina Suchotzki est professeur à l'Université de Marburg ; ses recherches portent sur les mensonges et comment les détecter. Matthias Gamer est professeur à l'Université de Würzburg. L'un de ses principaux domaines de recherche est le diagnostic de crédibilité.

Trois problèmes centraux pour une utilisation appliquée

Suchotzki et Gamer identifient dans leur publication trois problèmes principaux dans la recherche actuelle sur la détection de tromperie basée sur l'IA : un manque d'explicabilité et de transparence des algorithmes testés, le risque de résultats biaisés et des déficits dans les fondements théoriques. La raison en est claire : « Malheureusement, les approches actuelles se sont concentrées principalement sur les aspects techniques au détriment d'une base méthodologique et théorique solide », écrivent-ils.

Dans leur article, ils expliquent que de nombreux algorithmes d’IA souffrent d’un « manque d’explicabilité et de transparence ». On ne sait souvent pas clairement comment l’algorithme parvient à son résultat. Avec certaines applications d’IA, à un moment donné, même les développeurs ne peuvent plus comprendre clairement comment un jugement est porté. Cela rend impossible une évaluation critique des décisions et une discussion sur les raisons des classifications incorrectes.

Un autre problème qu'ils décrivent est l'apparition de « biais » dans le processus de prise de décision. L’espoir initial était que les machines seraient capables de surmonter les préjugés humains tels que les stéréotypes ou les préjugés. En réalité, cependant, cette hypothèse échoue souvent en raison d’une sélection incorrecte des variables que les humains introduisent dans le modèle, ainsi que de la petite taille et du manque de représentativité des données utilisées. Sans parler du fait que les données utilisées pour créer de tels systèmes sont souvent déjà biaisées.

Le troisième problème est de nature fondamentale : « L'utilisation de l'intelligence artificielle dans la détection des mensonges repose sur l'hypothèse qu'il est possible d'identifier un indice valable ou une combinaison d'indices uniques pour la tromperie », explique Suchotzki. Cependant, même des décennies de recherche n’ont pas permis d’identifier des indices aussi uniques. Il n’existe également aucune théorie permettant de prédire de manière convaincante leur existence.

Forte susceptibilité aux erreurs lors des dépistages de masse

Cependant, Suchotzki et Gamer ne veulent pas déconseiller de travailler sur la détection des tromperies basée sur l'IA. En fin de compte, la question empirique est de savoir si cette technologie a le potentiel de fournir des résultats suffisamment valables. Cependant, selon eux, plusieurs conditions doivent être remplies avant même d’envisager une utilisation dans la vie réelle.

« Nous recommandons fortement aux décideurs de vérifier soigneusement si les normes de qualité de base ont été respectées lors du développement des algorithmes », déclarent-ils. Les conditions préalables comprennent des expériences contrôlées en laboratoire, des ensembles de données vastes et diversifiés sans biais systématiques et la validation des algorithmes et de leur précision sur un ensemble de données vaste et indépendant.

L’objectif doit être d’éviter les faux positifs inutiles, c’est-à-dire les cas dans lesquels l’algorithme croit à tort avoir détecté un mensonge. Il existe une grande différence entre l’utilisation de l’IA comme outil de contrôle de masse, par exemple dans les aéroports, et son utilisation pour des incidents spécifiques, comme l’interrogatoire d’un suspect dans une affaire pénale.

« Les demandes de dépistage de masse impliquent souvent des évaluations très non structurées et non contrôlées. Cela augmente considérablement le nombre de résultats faussement positifs », explique Gamer.

Avertissement aux politiques

Enfin, les deux chercheurs conseillent que la détection de tromperie basée sur l’IA ne soit utilisée que dans des situations hautement structurées et contrôlées. Même s’il n’existe pas d’indicateurs clairs de mensonges, il peut être possible de minimiser le nombre d’explications alternatives dans de telles situations. Cela augmente la probabilité que des différences de comportement ou de contenu des déclarations puissent être attribuées à une tentative de tromperie.

Suchotzki et Gamer complètent leurs recommandations par un avertissement adressé aux hommes politiques : « L'histoire nous enseigne ce qui se passe si nous ne respectons pas des normes de recherche strictes avant que les méthodes de détection de la tromperie ne soient introduites dans la vie réelle. »

L’exemple du polygraphe montre très clairement combien il est difficile de se débarrasser de telles méthodes, même si s’accumulent ensuite des preuves de faible validité et de discrimination systématique à l’encontre de suspects innocents.