Le revers de la médaille de la sécurité est une attaque contre la vie privée : la réglementation de la technologie de reconnaissance faciale

Si vous avez acheté un téléphone au cours des dernières années, il y a de fortes chances que vous ne saisissiez presque plus votre mot de passe : votre visage déverrouille non seulement votre téléphone, mais aussi vos réseaux sociaux, votre portail Duke MyChart et même votre application bancaire.

Bien qu’extrêmement pratique, la vulgarisation de la technologie de reconnaissance faciale (FRT) n’est pas sans risques. Au cours des dernières années, Cynthia Rudin, professeur d'informatique Earl D. McLean, Jr., a fait partie d'un comité des académies nationales des sciences, de l'ingénierie et de la médecine parrainé par le DHS et le FBI et axé sur les FRT.

Ce comité était composé de scientifiques et d'acteurs de diverses spécialités, chargés de recueillir des informations sur les capacités actuelles des FRT et de discuter des possibilités futures, des implications sociétales et de la nécessité d'une réglementation et d'une gouvernance plus strictes. Leurs recommandations ont été compilées dans un rapport d’étude de consensus publié plus tôt cette année.

Nous avons discuté avec Rudin, qui est également professeur de génie électrique et informatique, de sciences statistiques, de biostatistique et de bioinformatique, pour en savoir plus sur certaines des recommandations clés du consensus.

Cette interview a été éditée pour plus de clarté et de longueur.

Quelles sont les questions éthiques les plus critiques associées aux technologies de reconnaissance faciale ?

La confidentialité (c'est-à-dire la surveillance) est la question la plus critique. Pas seulement de notre gouvernement, mais aussi des acteurs privés et d’autres gouvernements. Certains pays ont des caméras partout et surveillent tout le monde. Les préjugés raciaux et autres constituent également un problème, non seulement en ce qui concerne la technologie elle-même, mais également en raison de la manière dont elle est utilisée.

Parfois, on a l’impression que l’on parle davantage des dangers de la reconnaissance faciale que de ses avantages. Quelles sont les utilisations bonnes et éthiques de cette technologie ?

FRT est incroyablement utile pour assurer la sécurité de nos frontières et permettre aux gens de passer plus rapidement le contrôle des passeports. Il peut aider à identifier rapidement les individus à haut risque, par exemple en garantissant que de mauvais acteurs n'entrent pas dans un concert ou dans un autre lieu bondé, et il est utilisé pour identifier des pistes sur les scènes de crime. Il y a eu de nombreux cas dans lesquels la FRT a joué un rôle déterminant dans la résolution de crimes qui n’auraient peut-être pas été résolus sans elle. C'est également très utile pour protéger l'accès à votre téléphone.

Quelles ont été certaines des principales recommandations du consensus ?

La première recommandation est que le gouvernement prenne rapidement des mesures pour atténuer les dommages potentiels liés au FRT. Il existe des recommandations évidentes, telles que le National Institute of Standards and Technology (NIST) poursuive sa plateforme d'évaluation FRT, ce qui garantira que nous soyons informés de choses telles que les préjugés raciaux dans les algorithmes et que des normes de performance soient également établies. quant à la qualité des images qui peuvent même être utilisées avec FRT (les gens mettent parfois des images de mauvaise qualité dans les systèmes FRT, ce qu'ils ne devraient pas faire).

Nous avons également recommandé une formation des agents chargés de l'application des lois utilisant cette technologie, des limites à la surveillance policière et une surveillance communautaire du FRT.

Il y a beaucoup de recommandations, je ne peux donc pas toutes les énumérer ici, mais celle dont je suis le plus fier est la recommandation 4, dont j'ai insisté sur l'importance : « Une nouvelle législation devrait être envisagée pour aborder l'équité, la confidentialité, et les préoccupations en matière de libertés civiles soulevées par la technologie de reconnaissance faciale, afin de limiter les atteintes aux droits individuels par les acteurs privés et publics et de se protéger contre son utilisation abusive.

Cela limiterait la collecte et l’utilisation de grandes bases de données de visages, sauf à des fins très spécifiques. Je pense que c’est extrêmement important et j’espère que le gouvernement agira bientôt. Je ne vois aucune raison pour laquelle quelqu'un devrait pouvoir utiliser le FRT sur vous si ce n'est pas pour des raisons de sécurité spécifiques. Aucun annonceur, aucun fraudeur, personne ne souhaitant limiter l'accès à un lieu public ou semi-public comme un magasin ou une salle de concert, personne ne voulant paralyser votre droit légal de manifester, ou votre capacité à accéder aux soins de santé ou à vous rendre dans un institution religieuse – aucun d’entre eux ne devrait avoir accès au FRT.

Bien que le comité soit généralement d'accord sur la nécessité générale d'une réglementation plus poussée et d'une interdiction occasionnelle des FRT, il n'est pas parvenu à une recommandation unanime sur certaines technologies spécifiques. Pouvez-vous donner un exemple d'utilisation de la reconnaissance faciale pour lequel le comité n'est pas parvenu à un consensus unanime ?

Nous ne savions pas exactement comment une personne ou une entité serait certifiée pour utiliser le FRT et d'où proviendrait le matériel de formation. Heureusement, nous avons inclus une recommandation stipulant que les législateurs devraient envisager la certification, mais nous ne savions tout simplement pas qui la délivrerait. Personnellement, je pense qu'une nouvelle entité (ou plusieurs) doit être créée pour mettre en place un processus de certification.

Il y a une priorité à cela : vous ne pouvez pas simplement ouvrir un restaurant ; vous devez être certifié en sécurité alimentaire. Cela devrait être la même chose avec FRT, car cela a un impact sur la sécurité de beaucoup de gens si vous vous trompez, en particulier si vous ne protégez pas la base de données des pirates (ou des personnes qui pourraient simplement vouloir la vendre).

Pouvez-vous donner un exemple d’utilisation que le comité a convenu de rendre illégale ?

Il est devenu clair que pouvoir sortir son téléphone et identifier la personne qui marche dans la rue parce que l’on est curieux de savoir qui elle est n’est pas une utilisation anodine du FRT. Nous avons donc convenu que la surveillance générale devrait être illégale. Nous avons également convenu que le FRT ne devrait pas être utilisé comme seul motif d'arrestation : il s'agit simplement d'une piste et davantage de preuves sont nécessaires.

L'une des recommandations du comité était de garantir que lorsque des FRT sont utilisés, il y a toujours « un humain dans le circuit », et vous avez fortement plaidé pour que l'IA ne soit pas traitée comme une boîte noire. Quels sont les défis liés à l’intégration d’un être humain dans l’équation ?

Les systèmes automatisés font des erreurs, et s’il n’y a aucun recours lorsqu’une décision est prise, ce n’est pas bon. Cependant, comme vous le mentionnez, travailler avec des humains peut aussi s’avérer difficile. Ils ont un biais d’automatisation (excès de confiance), où ils croient tout ce que dit la machine. Ils doivent être formés à l’utilisation de la technologie. Ils sont également plus lents que les machines et commettent également des erreurs.

Quel message souhaiteriez-vous que les gens retiennent de ce consensus ?

Le FRT est à la fois une technologie très importante et utile dont nous ne pourrons plus nous passer à l'avenir, et elle est également incroyablement dangereuse. Nous en avons besoin pour notre sécurité. C’est la clé pour arrêter et dissuader les criminels. Cependant, si nous ne faisons rien face à cette technologie en termes de gouvernance, nous pouvons dire adieu à notre vie privée telle que nous la connaissons aujourd'hui.

Si les caméras sont bon marché et que le FRT est bon marché, il sera trop tentant et trop facile pour quiconque (notre police, acteurs privés, autres gouvernements) de placer des caméras partout dans nos communautés. Imaginez embaucher un détective privé – à moindre coût – qui enregistre les mouvements de chacun dans une ville entière, y compris la vôtre.

Voulons-nous que cela existe ? Imaginez un gouvernement étranger ayant des caméras partout à New York. Cela existe probablement déjà. Imaginez que quiconque entre dans une synagogue ou une mosquée soit filmé à son entrée et que son nom soit affiché sur Internet. Voulons-nous cela ? Que diriez-vous que quelqu’un se fasse avorter légalement et que sa photo soit renvoyée dans son pays d’origine où l’avortement est illégal ?

Imaginez ce qui arriverait au programme de protection des témoins si nous permettions à la reconnaissance faciale de proliférer : c'est du pain grillé. Il faut donc s’en emparer avant qu’il ne prolifère. C'est à cela que servent les réglementations gouvernementales.