Les entreprises exploitent nos données biométriques. Le public a besoin de garanties en matière de sécurité
Imaginez-vous marcher dans une gare animée. Vous êtes pressé, vous vous frayez un chemin à travers la foule, sans vous rendre compte que les caméras ne se contentent pas de vous observer, mais vous reconnaissent également.
De nos jours, nos données biométriques sont précieuses pour les entreprises à des fins de sécurité, pour améliorer l’expérience client ou pour améliorer leur propre efficacité.
La biométrie, c'est l'identification de traits physiques ou comportementaux uniques qui font partie de notre quotidien. Parmi ces derniers, la reconnaissance faciale est la plus courante.
La technologie de reconnaissance faciale est issue d'une branche de l'IA appelée vision par ordinateur et s'apparente à la capacité de donner la vue aux ordinateurs. Cette technologie analyse des images ou des vidéos provenant d'appareils tels que des caméras de vidéosurveillance et identifie des visages.
Le système identifie et cartographie généralement 68 points spécifiques appelés repères faciaux. Ceux-ci créent une empreinte digitale numérique de votre visage, permettant au système de vous reconnaître en temps réel.
Les repères du visage comprennent les coins des yeux, le bout du nez et les bords des lèvres. Ils permettent de créer une représentation mathématique du visage sans stocker l'image entière, améliorant ainsi à la fois la confidentialité et l'efficacité.
Des supermarchés aux parkings en passant par les gares, les caméras de vidéosurveillance sont partout, accomplissant silencieusement leur travail. Mais quel est exactement leur rôle aujourd'hui ?
Les entreprises peuvent justifier la collecte de données biométriques, mais le pouvoir s’accompagne de responsabilités et l’utilisation de la reconnaissance faciale soulève d’importantes préoccupations en matière de transparence, d’éthique et de confidentialité.
Lorsque même l’utilisation de la reconnaissance faciale par la police peut être considérée comme contraire à l’éthique, la justification commerciale devient alors moins convaincante, d’autant plus que l’on sait peu de choses sur la manière dont les entreprises stockent, gèrent et utilisent les données.
La capture et le stockage de données biométriques sans consentement pourraient violer nos droits, notamment la protection contre la surveillance et la conservation d’images personnelles.
Équilibrer la sécurité, l’efficacité et le droit à la vie privée est un choix éthique complexe pour une entreprise.
En tant que consommateurs, nous sommes souvent réticents à partager nos informations personnelles. Pourtant, la reconnaissance faciale présente des risques plus graves, comme les deepfakes et autres menaces d'usurpation d'identité.
Prenons par exemple la récente révélation selon laquelle Network Rail surveille secrètement des milliers de passagers à l'aide du logiciel d'intelligence artificielle d'Amazon. Cette surveillance met en lumière un problème crucial : la nécessité de transparence et de réglementations strictes, même lorsqu'une entreprise nous surveille dans le but d'améliorer ses services. Un porte-parole de Network Rail a déclaré : « Lorsque nous déployons des technologies, nous travaillons avec la police et les services de sécurité pour nous assurer que nous prenons des mesures proportionnées, et nous respectons toujours la législation en vigueur concernant l'utilisation des technologies de surveillance. »
L’un des principaux défis est la question du consentement. Comment le public peut-il donner son consentement éclairé s’il est constamment surveillé par des caméras et s’il ignore qui stocke et utilise ses données biométriques ?
Ce problème fondamental souligne la difficulté de résoudre les problèmes de confidentialité. Les entreprises sont confrontées à la tâche ardue d’obtenir un consentement clair et éclairé de personnes qui ne savent peut-être même pas qu’elles sont observées.
Sans pratiques transparentes et mécanismes de consentement explicites, il est presque impossible de garantir que le public est réellement informé et accepte l’utilisation de ses données biométriques.
Pensez à votre sécurité numérique. Si votre mot de passe est volé, vous pouvez le changer. Si votre carte de crédit est compromise, vous pouvez l'annuler. Mais votre visage ? C'est permanent. Les données biométriques sont extrêmement sensibles, car elles ne peuvent pas être modifiées une fois compromises. C'est donc un enjeu de taille en matière de sécurité.
Si une base de données est piratée, les pirates informatiques pourraient utiliser ces données à des fins de vol d’identité, de fraude ou même de harcèlement.
Un autre problème est celui des biais algorithmiques et de la discrimination. Si les données sont utilisées pour la prise de décision, comment les entreprises peuvent-elles garantir que des données diverses et suffisantes sont incluses pour entraîner l’algorithme ?
Les entreprises peuvent utiliser des données biométriques à des fins d’authentification, de marketing personnalisé, de surveillance des employés et de contrôle d’accès. Il existe un risque important de biais liés au genre et à la race si l’algorithme est principalement formé à partir de données provenant d’un groupe homogène, comme les hommes blancs.
Les entreprises doivent également veiller à ce que les préjugés numériques ne soient pas perpétués, faute de quoi elles risquent d’entraîner des inégalités sociales.
Législation et sensibilisation
La reconnaissance faciale se généralisant, il devient urgent de mettre en place une législation solide. Les lois doivent exiger un consentement explicite avant de recueillir les données biométriques d'une personne. Elles doivent également établir des normes strictes sur la manière dont ces données sont stockées et sécurisées afin d'éviter toute violation.
Il est tout aussi crucial que le public soit davantage sensibilisé à ce problème. Alors que les gens sont de plus en plus conscients de la protection des données, la reconnaissance faciale passe souvent inaperçue. Elle est invisible dans notre vie quotidienne et beaucoup ne se rendent pas compte des risques et des enjeux éthiques. Il est essentiel d'éduquer le public.
L’intégration des principes d’une IA responsable dans le déploiement de la technologie de reconnaissance faciale serait un bon point de départ. L’IA responsable met l’accent sur l’équité, la responsabilité, la transparence et l’éthique. Cela signifie que les systèmes d’IA, y compris la reconnaissance faciale, doivent être conçus et utilisés de manière à respecter les droits de l’homme, la vie privée et la dignité.
Toutefois, les entreprises ne donneront peut-être pas nécessairement la priorité à ces principes si elles ne sont pas tenues responsables par les organismes de réglementation ou le public.
La transparence est la pierre angulaire d’une IA responsable. Si les organisations qui utilisent la reconnaissance faciale restent secrètes quant à leurs pratiques, nous ne pouvons pas leur confier nos données biométriques.
Les entreprises qui ne disposent que de vos informations personnelles peuvent être très puissantes en termes de marketing manipulateur. Il suffit d'un « j'aime » pour que des campagnes sur mesure vous ciblent très précisément.
Mais aujourd’hui, des partis politiques comme le PTI au Pakistan ont adopté la technologie de vision artificielle pour permettre au leader Imran Khan de faire campagne malgré une peine de prison.
La capture et l’analyse de données visuelles sont particulièrement critiques par rapport aux données non visuelles, car elles fournissent des informations plus riches, plus intimes et plus immédiates sur le comportement et l’identité humains.
C'est pourquoi son utilisation croissante par les entreprises suscite de nombreuses inquiétudes en matière de confidentialité et de consentement. Tant que le public ne sera pas conscient de la mesure dans laquelle ses données visuelles sont capturées et utilisées, ses informations seront vulnérables à une utilisation abusive ou à une exploitation.
