Quand l’IA fait des erreurs, on continue de faire confiance : une étude révèle qu’on ne sait plus dire « je ne sais pas »

Je constate qu’il nous est de plus en plus difficile de dire « je ne sais pas ». C’est peut-être l’un des actes les plus honnêtes qu’une personne puisse poser et, d’un autre côté, avec l’arrivée de l’IA et avec toutes les informations dont nous disposons, il semble que nous perdions cette habitude dans les conversations.

Une étude a voulu mettre sur la table quelques données sur le sujet. Et la conclusion à laquelle est parvenu un groupe de chercheurs de différentes universités de Paris, Rome et Milan, en réunissant 3 100 participants, a été que le fait d’avoir accès à une IA, même si elle donne de mauvaises réponses, pousse les gens à cesser de reconnaître les limites de leurs propres connaissances.

Je sais tout. Reconnaître que nous ne savons pas quelque chose est plus utile que nous ne le pensons, car c’est une compétence mentale qui nous empêche d’agir guidés par de fausses croyances. Les auteurs de l’étude appellent cela « la suspension du jugement », c’est-à-dire la capacité de s’arrêter avant de répondre lorsque l’on est incertain.

Alors que les assistants IA se faufilent dans de plus en plus d’aspects de nos vies, la recherche, signée par Chiara Marcoccia (École Normale Supérieure de Paris), Walter Quattrociocchi (Université Sapienza de Rome) et Valerio Capraro (Université de Milan-Bicocca), a voulu vérifier si la simple présence de ces chatbots modifie le moment où nous décidons que nous en savons déjà assez pour répondre.

L’expérience. Pour isoler cet effet, l’équipe a délibérément conçu des questions qu’il était presque impossible pour une IA de résoudre correctement, avec des détails visuels très spécifiques provenant de films, tels que la couleur du kit dans « Je veux être comme Beckham » ou le véhicule qu’un personnage conduit dans « Comme le chat et la souris ». Il s’agit de données si spécifiques qu’elles apparaissent à peine sur Internet, de sorte que le modèle utilisé dans l’expérience (étape 3.5 Flash) échouait presque toujours.

Les participants pouvaient demander à l’IA s’ils le souhaitaient, mais ils avaient aussi toujours la possibilité de laisser la question vide ou d’admettre qu’ils ne connaissaient pas la réponse.

Chiffres. Dans le groupe qui n’avait accès à aucun assistant, 44 % des participants ont admis ne pas connaître la réponse le cas échéant. Parmi ceux qui pouvaient demander de l’aide à l’IA, ce pourcentage a chuté à 3 %, selon l’étude. Par ailleurs, la proportion de bonnes réponses a également diminué, passant de 27 % à 9 %. Autrement dit, les gens ont répondu à plus de questions, mais ils ont eu beaucoup moins de bonnes réponses.

Le plus frappant est que, malgré davantage d’erreurs, les participants se sont sentis plus confiants, puisque selon l’étude, leur confiance dans les réponses est passée de 30% à 76%, soit presque le double.

Et s’il y avait de l’argent en jeu ? Les chercheurs soupçonnaient que payer pour bien faire les choses (et pénaliser pour avoir mal fait) pourrait résoudre le problème. Cela a effectivement aidé, mais très peu, car grâce aux incitations financières, la volonté d’admettre qu’ils ne connaissaient pas la réponse est passée de 3 % à 8 %, et les bonnes réponses sont passées de 9 % à 16 %. Il est intéressant de noter que les auteurs eux-mêmes s’attendaient à ce que l’effet de l’IA soit affaibli par l’argent, mais leurs données ne l’ont pas confirmé. Et l’incitation à faire confiance à la machine s’est avérée pratiquement indépendante de l’incitation économique.

Frontières. Capraro, co-auteur de l’étude, a expliqué à The Register que les gens « sont devenus bien pires » dans leurs performances, avec une précision d’un tiers seulement par rapport au groupe sans IA, mais ont fini par être « deux fois plus confiants » dans leurs propres réponses. Pour le chercheur, cette capacité à dire « je ne sais pas » représente ni plus ni moins « la reconnaissance des limites de notre propre savoir ».

D’autre part, Capraro s’est montré particulièrement préoccupé par l’effet que ce phénomène peut avoir sur les enfants. Comme il l’a déclaré aux médias, les adultes « avaient déjà développé un esprit critique » avant l’arrivée massive de ces outils, mais les enfants qui grandissent en utilisant l’IA dès le début « courent le risque de ne jamais développer cette capacité fondamentale de remettre en question une réponse ».

Image de couverture | Solen Feyissa et Dylan Gillis

À Simseo | Meta prévient : « Cela fait 20 ans que nous construisons des infrastructures pour les humains, nous avons peut-être 20 mois pour les reconstruire pour les agents »