Alexa, les assistants vocaux devraient-ils avoir un sexe ?

Des études montrent depuis longtemps que les hommes sont plus susceptibles d’interrompre, en particulier lorsqu’ils parlent avec des femmes. De nouvelles recherches menées par les ingénieurs de Johns Hopkins révèlent que ce comportement s’étend également aux assistants vocaux basés sur l’IA comme Alexa et Siri, les hommes les interrompant presque deux fois plus souvent que les femmes. Les résultats sont publiés dans Actes de l’ACM sur l’interaction homme-machine.

Ces résultats soulèvent des inquiétudes quant à la façon dont la conception des assistants vocaux, notamment l’utilisation de traits stéréotypés « féminins » comme le comportement d’excuse et la chaleur, peut renforcer les préjugés sexistes, conduisant les chercheurs à plaider en faveur de la conception d’outils vocaux plus neutres en termes de genre.

« Les assistants vocaux conversationnels sont fréquemment féminisés en raison de leur intonation amicale, de leurs noms genrés et de leur comportement soumis. À mesure qu’ils deviennent de plus en plus omniprésents dans nos vies, la façon dont nous interagissons avec eux – et les préjugés qui peuvent inconsciemment affecter ces interactions – peuvent façonner non seulement les humains. -les relations technologiques, mais aussi les dynamiques sociales du monde réel entre les personnes », explique Amama Mahmood, directrice de l’étude et doctorante de cinquième année. étudiant au département d’informatique de la Whiting School.

Mahmood et son conseiller Chien-Ming Huang, professeur adjoint d’informatique et directeur du laboratoire d’informatique intuitive, ont présenté leurs conclusions sur le genre et la perception des assistants vocaux lors de la 27e conférence de l’ACM sur le travail coopératif assisté par ordinateur et l’informatique sociale, qui s’est tenue l’automne dernier. à San José, au Costa Rica.

Dans l’étude en personne de Mahmood et Huang, 40 participants (19 hommes et 21 femmes) ont utilisé une simulation d’assistant vocal pour effectuer une tâche d’achat en ligne. À leur insu, l’assistant était préprogrammé pour commettre des erreurs spécifiques, permettant ainsi aux chercheurs d’observer les réactions des participants.

Les participants ont interagi avec trois types de voix – féminine, masculine et neutre – et l’assistant vocal a répondu à ses erreurs en proposant de simples excuses ou une compensation monétaire.

« Nous avons examiné la façon dont les utilisateurs percevaient ces agents, en nous concentrant sur des attributs tels que la chaleur perçue, la compétence et la satisfaction des utilisateurs concernant la récupération des erreurs », explique Mahmood. « Nous avons également analysé le comportement des utilisateurs, en observant leurs réactions, les interruptions de l’assistant vocal et si leur sexe jouait un rôle dans leur réponse. »

Les chercheurs ont observé des stéréotypes clairs dans la façon dont les utilisateurs percevaient et interagissaient avec les assistants vocaux IA. Par exemple, les utilisateurs associaient une plus grande compétence aux assistants à voix féminine, reflétant probablement des préjugés sous-jacents liant certaines compétences de « soutien » aux rôles traditionnellement féminins.

Le sexe des utilisateurs a également influencé leur comportement : les utilisateurs masculins interrompaient l’assistant vocal plus souvent lors d’erreurs et répondaient plus socialement (souriant et hochant la tête) à l’assistante féminine qu’à l’assistante masculine, suggérant une préférence pour le soutien vocal féminin.

Cependant, travailler avec un assistant vocal non sexiste qui s’excusait pour ses erreurs réduisait les interactions et les interruptions impolies, même si cette voix était perçue comme moins chaleureuse et plus « robotique » que ses homologues genrées.

« Cela montre que la conception d’agents virtuels dotés de caractéristiques neutres et de stratégies d’atténuation des erreurs soigneusement choisies, telles que des excuses, a le potentiel de favoriser des interactions plus respectueuses et plus efficaces », explique Mahmood.

Mahmood et Huang envisagent d’explorer la conception d’assistants vocaux capables de détecter les comportements biaisés et de s’ajuster en temps réel pour les réduire, favorisant ainsi des interactions plus équitables. Ils visent également à inclure davantage d’individus non binaires dans leurs recherches, car ce groupe était sous-représenté dans leur groupe d’étude initial.

« Une conception réfléchie, en particulier dans la façon dont ces agents représentent le genre, est essentielle pour garantir un soutien efficace aux utilisateurs sans promouvoir de stéréotypes néfastes. En fin de compte, lutter contre ces préjugés dans le domaine de l’assistance vocale et de l’IA nous aidera à créer un environnement numérique et social plus équitable. « , dit Mahmood.