Vers une informatique affective qui fonctionne pour tous

La diversité et l’inclusion sont des aspects essentiels du développement responsable des technologies d’intelligence artificielle (IA), y compris l’informatique affective. L’informatique affective, qui se concentre sur la reconnaissance, l’interprétation et la réponse aux émotions humaines, peut révolutionner divers domaines, tels que les soins de santé, l’éducation et l’interaction homme-machine. Cependant, capturer des états subjectifs par des moyens techniques est un défi et des erreurs peuvent survenir, comme en témoignent les détecteurs de mensonge qui ne fonctionnent pas correctement ou les systèmes de classification de genre qui trompent les utilisateurs.

Si elles sont utilisées pour des processus décisionnels ultérieurs, de telles déductions pourraient avoir des conséquences désastreuses pour les personnes, dont les impacts peuvent varier en fonction du contexte de la demande, par exemple en signalant des personnes innocentes comme des criminels potentiels lors du contrôle des frontières ou en affectant de manière préjudiciable des groupes vulnérables en matière de santé mentale. soins de santé.

Dans cette optique, Tessa Verhoef du Creative Intelligence Lab de l’Université de Leiden et Eduard Fosch-Villaronga de eLaw—Center for Law and Digital Technologies ont écrit un article publié sur le arXiv serveur de prépublication soulignant que les systèmes formés sur les ensembles de données actuellement disponibles et utilisés le plus largement pourraient ne pas fonctionner aussi bien pour tout le monde et auront probablement des préjugés raciaux, des préjugés contre les utilisateurs ayant des problèmes de santé (mentale) et des préjugés liés à l’âge, car ils proviennent d’échantillons limités qui ne le font pas. ne représentent pas pleinement la diversité sociétale.

Verhoef et Fosch-Villaronga ont présenté l’article intitulé « Vers une informatique affective qui fonctionne pour tout le monde » lors de la conférence Affective Computing + Intelligent Interaction (ACII ’23) qui s’est tenue au Media Lab du Massachusetts Institute of Technology (MIT) du 10 au 13 septembre. . La conférence annuelle de l’Association pour l’avancement de l’informatique affective (AAAC) est le premier forum international de recherche sur les interactions et les systèmes humains-machines affectifs et multimodaux.

Dans leur article, ils soutiennent que l’absence d’éléments de diversité, d’équité et d’inclusion dans les ensembles de données informatiques affectives affecte directement la précision et l’équité des algorithmes de reconnaissance des émotions dans différents groupes.

Les chercheurs ont mené une revue de la littérature révélant comment les systèmes informatiques affectifs peuvent fonctionner différemment pour différents groupes en raison, par exemple, de problèmes de santé mentale ayant un impact sur les expressions faciales et la parole ou de changements liés à l’âge dans l’apparence du visage et la santé. Pour ce faire, ils ont analysé les ensembles de données informatiques affectives existants et ont mis en évidence un manque déconcertant de diversité dans les ensembles de données informatiques affectifs actuels concernant la race, le sexe/genre, l’âge et la représentation de la santé (mentale).

En soulignant la nécessité de stratégies d’échantillonnage plus inclusives et d’une documentation standardisée des facteurs démographiques dans les ensembles de données, les chercheurs formulent des recommandations et appellent à une plus grande attention à l’inclusivité et à la prise en compte des conséquences sociétales dans la recherche sur l’informatique affective afin de promouvoir des résultats éthiques et précis dans ce domaine émergent.