Une étude explore pourquoi les machines inspirées par l'homme peuvent être perçues comme étranges

Les algorithmes et les robots d’intelligence artificielle (IA) sont de plus en plus avancés et présentent des capacités qui ressemblent vaguement à celles des humains. Les similitudes croissantes entre les IA et les humains pourraient à terme amener les utilisateurs à attribuer des sentiments, des expériences, des pensées et des sensations humaines à ces systèmes, que certaines personnes perçoivent comme étranges et étranges.

Karl F. MacDorman, doyen associé aux affaires académiques et professeur agrégé à la Luddy School of Informatics, Computing, and Engineering dans l'Indiana, a mené des recherches approfondies visant à mieux comprendre ce qui pourrait rendre certains robots et systèmes d'IA déconcertants.

Son article le plus récent, publié dans Les ordinateurs dans le comportement humain : les humains artificiels, passe en revue des études antérieures et rapporte les résultats d'une expérience testant une théorie récente connue sous le nom de « perception mentale », qui propose que les gens ressentent de l'étrangeté lorsqu'ils sont exposés à des robots qui ressemblent beaucoup aux humains parce qu'ils attribuent un esprit à ces robots.

« Pour de nombreux Occidentaux, l'idée d'une machine dotée d'une expérience consciente est troublante », a déclaré MacDorman à Tech Xplore. « Cet inconfort s'étend également aux objets inanimés. En examinant l'article de Gray et Wegner publié dans Cognition en 2012, j'ai considéré que ce sujet méritait d'être étudié, car son urgence s'est accrue avec l'essor rapide des IA, telles que ChatGPT et d'autres grands modèles de langage (LLM).

Les LLM sont des modèles sophistiqués de traitement du langage naturel (NLP) qui peuvent apprendre à répondre aux requêtes des utilisateurs d'une manière qui reflète de manière frappante la façon dont les humains communiquent. Bien que leurs réponses soient basées sur de grandes quantités de données sur lesquelles ils ont été préalablement formés, le langage qu'ils utilisent et leur capacité à générer du contenu spécifique à une requête pourraient les rendre plus faciles à confondre avec des êtres sensibles.

En 2012, deux chercheurs de l'Université Harvard et de l'Université de Caroline du Nord ont mené des expériences explorant ce que l'on appelle la « vallée étrange ». Ce terme est utilisé pour décrire la nature déconcertante des robots dotés de qualités humaines.

Lorsqu'il a lu pour la première fois cet article de 2012, MacDorman était sceptique quant à savoir si la « perception mentale » était à l'origine de cette étrange vallée. Cela l’a inspiré à mener de nouvelles études explorant son existence et la mesure dans laquelle les robots ayant des caractéristiques humaines sont considérés comme étranges.

« Bien que d'autres chercheurs reproduisent les découvertes de Gray et Wegner, leur confiance dans la même méthode expérimentale et dans des hypothèses erronées revient simplement aux hypothèses initiales », a expliqué MacDorman.

« Essentiellement, ils assument les conclusions qu'ils cherchent à établir. La vallée étrange est la relation entre la façon dont une entité artificielle apparaît comme humaine et nos sentiments d'affinité et d'étrangeté pour elle. Donc, à moins que la cause de ces sentiments ne soit notre perception de l'entité à travers nos cinq sens, l'expérience ne porte pas sur l'étrange vallée.

Le premier objectif de l'article récent de MacDorman était d'identifier les éventuelles lacunes des expériences passées de « perception mentale ». Plus précisément, son hypothèse était que ces expériences déconnectent la manipulation des conditions expérimentales de l’apparition d’un système d’IA.

« La manipulation dans les expériences de » perception mentale « est simplement une description de la capacité de l'entité à ressentir et à ressentir », a déclaré MacDorman. « Quelle meilleure façon de montrer cette déconnexion qu'en ré-analysant les expériences précédentes ? En faisant cela, j'ai découvert que les machines décrites comme capables de ressentir et de ressentir étaient beaucoup moins inquiétantes lorsqu'elles étaient physiquement présentes ou représentées dans des vidéos ou dans la réalité virtuelle que lorsqu'elles étaient physiquement présentes ou représentées dans des vidéos ou dans la réalité virtuelle. ils étaient absents. »

En plus d'effectuer une analyse de méta-régression des résultats antérieurs, MacDorman a également conçu une nouvelle expérience qui pourrait être utilisée pour tester la théorie de la perception mentale. Cette expérience consiste à convaincre un groupe de participants qui ne pensent pas que les machines pourraient être sensibles qu'elles peuvent en fait l'être, ou vice versa, en leur demandant de lire des textes et d'écrire des essais sur le sujet.

« Cette expérience nous permet de comparer à quel point les mêmes robots sont étranges lorsqu'ils sont vus par un groupe de personnes qui leur attribuent plus de sensibilité et un groupe qui leur attribue moins de sensibilité », a déclaré MacDorman. « Si Gray et Wegner (2012) avaient raison, le groupe qui attribue le plus de sensibilité devrait également trouver les robots plus étranges, mais les résultats montrent le contraire. »

Dans l’ensemble, les résultats de la méta-analyse et de l’expérience menée par MacDorman suggèrent que les études antérieures étayant la théorie de la perception mentale pourraient être erronées. En fait, le chercheur a rassemblé des résultats opposés, suggérant que les individus qui attribuent une sensibilité aux robots ne les trouvent pas nécessairement plus étranges en raison de leur ressemblance humaine.

« L'étrange vallée est un domaine de recherche jonché de théories prétendant expliquer le phénomène », a déclaré MacDorman. « Il existe des dizaines de théories de ce type, et je dois admettre que je suis l'un des principaux coupables. Ce que je vois souvent, ce sont des chercheurs qui avancent une théorie particulière, et l'un des problèmes de la recherche en général est que les résultats positifs ont plus de chances d'être obtenus. » publiés que des résultats négatifs.

« Ce que j'ai rarement observé, à quelques exceptions près, c'est une tentative de falsifier des théories ou des hypothèses ou du moins de comparer leur pouvoir explicatif. »

Les travaux récents de MacDorman sont parmi les premiers à examiner de manière critique la perception de l'esprit et les expériences visant à tester cette théorie. Ses découvertes suggèrent que plutôt que d’être liée à la perception mentale, l’étrange vallée est enracinée dans des processus perceptuels automatiques et pilotés par des stimuli.

« L'article montre que la cause principale de cette étrange vallée ne réside pas dans l'attribution d'une expérience consciente aux machines », a déclaré MacDorman. « Cela montre également que la théorie de la perception mentale va au-delà des robots humanoïdes et peut être appliquée à l'IA désincarnée comme ChatGPT. Il s'agit d'un résultat positif de l'analyse de méta-régression sur les 10 expériences trouvées dans la littérature. »

Cette étude récente a rassemblé de nouvelles informations intéressantes sur ce que l’on appelle la vallée de l’étrangeté et le lien entre les perceptions de l’esprit et la façon dont un robot est perçu comme étrange. Ces informations contribuent à comprendre la façon dont les humains perçoivent les robots et pourraient éclairer le développement de futurs systèmes d’IA.

« Bien que les attributions d'esprit ne soient pas la cause principale de cette étrange vallée, elles font partie de l'histoire », a ajouté MacDorman. « Ils peuvent être pertinents dans certains contextes et situations, mais je ne pense pas qu'attribuer un esprit à une machine qui a l'air humaine soit effrayant. Au lieu de cela, percevoir un esprit dans une machine qui a déjà l'air effrayant la rend encore plus effrayante. Cependant, percevoir un esprit dans une machine qui est sortie de l'étrange vallée et qui ressemble presque à un humain, la rend moins effrayante.

« Déterminer s'il existe un fort soutien en faveur de cette spéculation est un domaine de recherche future, qui impliquerait l'utilisation de stimuli plus variés et plus nombreux. »