Les hypothèses cachées dans la capture de mouvement peuvent avoir de graves conséquences
Lorsque les concepteurs utilisent des représentations inexactes du corps humain, l’utilisation de l’intelligence artificielle dans certaines applications pourrait ne pas être aussi sûre pour ceux qui ne correspondent pas à ce type de corps, selon une nouvelle étude publiée sur le site Internet. arXiv serveur de préimpression.
Ces hypothèses erronées définissent ce qui est considéré comme la norme pour le corps humain et ont fait leur chemin dans l’IA grâce à la capture de mouvement, a déclaré la co-auteure de l’étude Abigail Jacobs, professeure adjointe à l’École d’information de l’UM et au Centre pour l’étude des systèmes complexes.
L’étude montre comment l’IA joue un rôle important dans la conception, le développement et la mise en œuvre de systèmes de capture de mouvement, qui déduisent le mouvement des personnes, des animaux et des objets dans l’espace.
À l’aide de capteurs et/ou de caméras, ces systèmes collectent des données qui peuvent ensuite être modélisées sur ordinateur pour créer des « squelettes numériques » pouvant servir à animer des jeux vidéo, diagnostiquer des problèmes de santé ou simuler l’ergonomie du lieu de travail.
« Ces systèmes sont utilisés dans des applications allant de la conception d’étages de fabrication sûrs à la réalité augmentée et aux véhicules autonomes », a déclaré Jacobs. « Ils dépendent d’hypothèses stylisées et erronées sur, par exemple, quels corps humains sont « standards » ou « représentatifs ». »
Dans la même étude, Jacobs et ses collègues se sont également penchés sur des pratiques historiques remontant aux années 1930, révélant une tendance inquiétante : une dépendance excessive à l’égard d’hommes adultes en bonne santé pour représenter des corps et des mouvements « typiques ». D’autres lignes de base qui font toujours partie des systèmes modernes et les plus avancés s’appuient sur les corps d’hommes décédés, où le mouvement simulé de cadavres gelés remplace le mouvement réel. Cela conduit à des représentations et des hypothèses déformées, selon les chercheurs.
Au fil du temps, ces hypothèses sont intégrées dans les logiciels modernes, ce qui peut nuire à la façon dont les systèmes de capture de mouvement représentent les corps. Ceci est analogue à la façon dont la photographie couleur a été développée pour capturer uniquement les tons chair clairs, ce qui nuit à la manière dont les appareils photo modernes représentent les corps à la peau plus foncée.
« Considérez la pratique historique des mannequins de crash tests basés sur des corps masculins normatifs, conduisant à des taux de blessures plus élevés chez les femmes et les enfants », a déclaré Jacobs. « Compte tenu de la gamme d’applications des systèmes de capture de mouvement, il est potentiellement dangereux de supposer que les corps bougent et ressemblent, par exemple, à de jeunes hommes sportifs ou à des cadavres gelés. »
L’étude présente un cadre analytique qui peut être appliqué à d’autres technologies en prêtant attention à la manière dont les hypothèses sont intégrées au matériel et à l’IA, à la manière dont les corps sont représentés dans les systèmes d’IA et à la manière dont les hypothèses cachées, souvent anciennes et sans fondement, façonnent le présent. technologies, a déclaré Jacobs.
