Lutter contre les préjugés liés à la couleur de la peau dans la reconnaissance faciale

Avouons-le. Les systèmes de reconnaissance faciale basés sur l’IA sont partout. Il est utilisé pour déverrouiller nos téléphones, permettre l’accès aux immeubles de bureaux et nous contrôler par mesure de sécurité dans les aéroports.

Dans nos plus grandes villes, les caméras de sécurité peuvent suivre chaque pas que nous faisons pour les blocages. Les grands magasins installent des caméras sur nous pour s’assurer que nous ne repartons pas avec les marchandises.

La reconnaissance faciale est également utilisée pour notre sécurité : les hôpitaux et les maisons de retraite s’appuient sur la reconnaissance faciale pour garantir une identification correcte des patients susceptibles de souffrir de démence ou qui sont blessés ou en détresse. Il est utilisé pour surveiller les signes vitaux, fournissant des données critiques sur la couleur et la température du visage. Et cela permet de garantir que les médicaments sont distribués aux bonnes personnes.

Parallèlement à la sécurité accrue qu’offre la reconnaissance faciale, s’ajoutent des préoccupations en matière d’éthique et de confidentialité. L’American Civil Liberties Union et l’Electronic Frontier Foundation ont exprimé ouvertement leurs inquiétudes quant aux violations potentielles de l’éthique provoquées par la surveillance.

Un autre sujet de préoccupation est la partialité. Dans une étude historique publiée en 2018, trois principaux systèmes de classification selon le sexe et la race présentaient des biais importants.

L’informaticien Joy Buolamwini a découvert que si les taux d’erreur d’identification pour les hommes à la peau plus claire n’étaient jamais supérieurs à 1 %, les taux d’erreur pour les personnes à la peau plus foncée atteignaient 20 %.

En décomposant davantage les statistiques, les femmes à la peau plus foncée s’en sortent le moins bien, avec des taux de reconnaissance 34 % inférieurs à ceux des hommes à la peau plus claire.

Ce biais peut avoir de graves implications dans les programmes d’application de la loi, de soins de santé et de conduite autonome, pour n’en citer que quelques-uns.

Dans ce contexte, des chercheurs de Sony ont préparé un rapport qui sera présenté lors de la Conférence internationale sur la vision par ordinateur prévue début octobre à Paris.

Ils proposent un nouveau système de classification de la couleur de la peau qui améliore l’échelle standard de Fitzpatrick, vieille de plusieurs décennies.

Dans un blog de Sony, William Thong, chercheur en éthique de l’IA, a écrit : « L’échelle de Fitzpatrick, un outil précieux bien que brutal, offre une vue unidimensionnelle du teint de la peau, allant du clair au foncé. Cependant, à mesure que nous approfondissons le monde complexe de l’être humain,  » La peau et sa représentation dans les modèles d’IA, nous réalisons que cette approche unidimensionnelle peut ne pas capturer le spectre complet des complexités de la couleur de la peau.  »

Les tons de peau varient autrement que par le clair et le foncé, a déclaré Thong. Il a noté que la peau asiatique, par exemple, devient plus jaune à mesure que le sujet vieillit, tandis que la peau caucasienne devient plus rouge et devient plus foncée.

Pour répondre à ces caractéristiques, l’équipe de Thong, qui comprenait la chercheuse Sony Alice Xiang et Przemyslaw Joniak de l’Université de Tokyo, a développé un système de classification intégrant une échelle multidimensionnelle de couleur de peau qui inclut l’élément teintes.

Les auteurs ont déclaré qu’en cherchant à lutter contre les biais dans les bases de données d’images, ils se sont particulièrement inspirés pour leur étude de deux choses : une exposition de photos et l’industrie cosmétique.

Lors d’une conférence TED en 2016, l’artiste Angelica Dass a affiché une affiche montrant une large gamme de couleurs de peau humaine du monde entier. Elles ont été comparées aux couleurs photographiques Pantone.

« L’une des choses qui m’a particulièrement marqué est le fait que Dass a mentionné que ‘personne n’est noir’ et ‘absolument personne n’est blanc’ et que des origines ethniques très différentes finissent parfois avec exactement la même couleur Pantone », a déclaré Thong.

L’autre inspiration était l’industrie cosmétique. Thong a déclaré que l’industrie s’efforçait depuis des années de corriger son incapacité à proposer des couleurs de maquillage représentant toute la diversité des tons de peau humaine.

L’absence d’une gamme complète de couleurs « est problématique car elle efface les préjugés contre les Asiatiques de l’Est, les Asiatiques du Sud, les Hispaniques, les individus du Moyen-Orient et d’autres qui pourraient ne pas s’intégrer parfaitement dans le spectre clair-obscur », a déclaré Thong, ajoutant qu’AI Les chercheurs n’étaient peut-être pas au courant de ce biais car « très peu d’entre eux ont eu l’expérience de choisir un maquillage ou d’adapter une teinte de fond de teint à leur couleur de peau ».

Le document de recherche, « Au-delà du teint : une mesure multidimensionnelle de la couleur apparente de la peau », apparaît sur le serveur de préimpression. arXiv.