Une expérience a permis à deux assistants virtuels de partager leurs cerveaux et leurs tâches. Leurs récompenses racontaient une autre histoire

L’IA a généralement une voix de femme. Du premier Siri à l’actuelle Alexa, en passant par le GPS : les assistants virtuels ont traditionnellement adopté par défaut les voix féminines. Ce n’est pas une coïncidence, il y a des raisons psychologiques à cela. Pour comprendre ces dynamiques, un groupe de chercheurs suisses a analysé l’influence du genre d’un agent virtuel.

Les biais. L’industrie technologique a donné la priorité aux voix féminines jusqu’à ce qu’elles deviennent pratiquement la norme. Cette décision est confortée par des biais cognitifs hérités d’une société sexiste : des études comportementales confortent l’association entre la voix féminine et les fonctions d’assistance, d’accueil ou de service client.

Nous avons tendance à attribuer la gentillesse, l’empathie et la capacité de nous calmer à une IA que nous percevons comme féminine. Ainsi, la voix par défaut de ces outils est généralement celle d’une femme : on a l’impression qu’il est plus facile de communiquer avec eux de cette façon. Et c’est l’inverse qui se produit chez les hommes et les femmes : les biais cognitifs pointent vers une plus grande autorité et une plus grande fermeté.

L’épreuve. Une équipe de chercheurs de plusieurs universités européennes, dont l’Université de Limerick et l’Université de Zurich, a testé ces biais dans une expérience sur des tâches professionnelles intitulée « D’apparence humaine et masculine ? Comment la conception des assistants IA influence la confiance et les récompenses financières dans le travail en réalité virtuelle. Pour ce faire, ils ont équipé 189 participants de lunettes de réalité virtuelle.

L’étude a testé quatre assistants différents : un chatbot textuel, un robot de bureau et deux agents ressemblant à des humains nommés Johan et Johanna. Chaque participant a interagi avec trois d’entre eux : le chatbot, le robot et l’un des deux avatars humains. Ils ont tous utilisé le même modèle, GPT-4 d’OpenAI.

Même travail, récompense différente. A la fin des tests, les participants devaient évaluer la contribution de chaque IA aux travaux et leur attribuer une récompense financière. Ils pouvaient lui donner jusqu’à quatre francs suisses et garder l’argent restant. Les résultats, résumés, étaient les suivants :

• Les sujets de l’étude ont évalué les contributions de l’IA féminine et masculine au travail de la même manière, sans différences statistiquement significatives.
• Au moment du paiement, Johanna, l’IA à l’apparence et à la voix de femme, a reçu 10% d’argent en moins que Johan, l’assistant qualifié d’homme.
• La différence de récompense a été observée dans les deux groupes d’étude, même si elle était plus prononcée chez les participants masculins.

Les chercheurs ont découvert une autre contradiction : lors des entretiens, de nombreux participants ont affirmé que le sexe d’un assistant ne leur importait pas, qu’ils préféraient même une IA sans genre. Cependant, leurs décisions économiques reflétaient des différences.

Les assistants de type humain généraient plus de confiance et recevaient de plus grandes récompenses que le robot, même si de nombreux participants ont déclaré préférer une IA qui ne ressemble pas à une personne. Tous les outils d’IA utilisaient le même modèle OpenAI.

Les préjugés sont également formés. Le manque de diversité dans l’industrie technologique intensifie les différences entre les sexes. Selon les données de l’UNESCO, les femmes n’occupent que 20 % des postes techniques et représentent 12 % des chercheurs en intelligence artificielle. Les modèles de langage finissent par reproduire ces dynamiques lors de leur formation.

Un rapport de l’UNESCO montre que les grands modèles linguistiques reproduisent les stéréotypes de genre, tant dans la génération de textes que d’images. D’autres recherches sur la génération vidéo ont également identifié des stéréotypes entre certaines professions et le sexe de leurs travailleurs.

L’IA hérite de nos préjugés. L’expérience nous laisse avec une leçon inconfortable : on fait d’autant plus confiance à l’IA qu’elle paraît humaine, mais on finit aussi par lui transférer les préjugés que l’on applique aux gens. Johan et Johanna partageaient la technologie et les mêmes tâches. Cependant, les participants ne les ont pas traités de la même manière. Même si l’étude ne permet pas d’attribuer la différence uniquement au sexe, elle montre que l’apparence d’une IA peut influencer la façon dont nous valorisons son travail.

Par | jeuxvideo.com

Image de couverture | Généré et adapté par l’IA

À Simseo | Les meilleures intelligences artificielles pour étudiants : des outils gratuits et ce que chacun fait