Bientôt, vous n’aurez plus besoin de vous souvenir du nom de quelqu’un. Les lunettes de Meta le feront pour vous
Nous avons récemment appris que les Ray-Ban Metas continuent d’enregistrer lorsque vous les enlevez et qu’il y a des entrepreneurs au Kenya qui surveillent tout ce qui se passe. Ils sont également utilisés pour des choses aussi louches que d’enregistrer des femmes sans leur consentement. Dans un contexte déjà délicat avec la question de la vie privée, Meta a décidé que c’était une bonne idée d’ajouter une fonction encore plus controversée : la reconnaissance faciale.
La découverte. Wired a analysé le code de Meta AI, fourni avec les lunettes, et a découvert le code d’un système de reconnaissance faciale qui n’a pas encore été officiellement publié. L’entreprise avait précédemment déclaré qu’elle « réfléchissait » à la manière de mettre en œuvre cette technologie, mais la découverte montre que le déploiement du code a commencé en janvier dernier. Meta a discrètement inclus tous les éléments nécessaires pour le rendre opérationnel, afin de pouvoir le lancer à tout moment.
Comment ça marche. La fonction est appelée en interne « NameTag », bien que son nom commercial soit « Connections ». Il combine trois modèles d’IA : l’un détecte le visage grâce à la caméra, un autre le scanne et le troisième le convertit en données biométriques. Ils sont ensuite comparés à une base de données sur le téléphone de l’utilisateur et, s’il détecte une personne, il envoie une notification. Autrement dit, si une personne figurant dans cette base de données vous approche, elle vous dira qui elle est.
Qu’est-ce que cela signifie? Le scénario idéal du point de vue de la confidentialité serait que vous ne puissiez l’utiliser qu’avec les contacts qui ont accepté, mais le code indique qu’ils peuvent aller plus loin. Ce qui est intéressant, c’est ce qui arrive aux visages qui ne sont pas reconnus. L’application ne les supprime pas, mais les stocke plutôt dans un dossier appelé « en attente ». Et il y a quelque chose d’encore plus frappant : la base de données que vous avez sur votre mobile est conçue pour pouvoir recevoir des mises à jour Meta, c’est-à-dire qu’ils peuvent la modifier à distance.
Il est possible qu’il ait été utilisé pour un « mode d’assistance », par exemple pour les utilisateurs aveugles, dans lequel Meta pourrait inclure des paquets de visages de personnes ayant accepté d’être incluses. Mais cela ouvre aussi la porte à la création d’une base de données de visages, avec les risques que cela comporte.
Critiques et risques. Cooper Quintin, chercheur en sécurité consulté par Wired, critique le fait que Meta ait « créé la possibilité de transformer ses clients en une machine de surveillance distribuée ». De plus, en avril dernier, plus de 70 organisations et groupes de défense ont exigé que Meta abandonne le projet, arguant qu’un système comme celui-ci, intégré dans un portable aussi discret, pourrait normaliser l’identification silencieuse des étrangers et présente un risque pour des groupes particulièrement vulnérables tels que les immigrants ou les personnes LGBTQ+.
Meta a un passé. Ce n’est pas la première fois que Meta rencontre des problèmes avec les fonctions de reconnaissance faciale. En 2010, ils ont intégré le marquage de photos à Facebook, collectant ainsi les données de plus d’un milliard d’utilisateurs. En 2019, l’entreprise a dû payer une amende de plus de 5 milliards de dollars pour violation de la vie privée et en 2021, elle a fermé le système et supprimé toutes les données faciales. Cependant, Joseph Jerome, un ancien employé de Meta Reality Labs, a déclaré à Wired qu’en interne, cela n’était pas considéré comme une décision finale et que « il y avait toujours cette tension de savoir, eh bien, quand allons-nous à nouveau déployer la reconnaissance faciale ? »
La réponse de Meta. Un porte-parole de l’entreprise a insisté sur le fait qu’aucune fonction de reconnaissance faciale n’a été lancée dans ses lunettes et que sa présence dans le code indique simplement qu’ils « l’explorent ». En outre, il ajoute que s’ils le lancent enfin, ils le feront « en toute transparence » et insiste sur le fait que « nous ne construisons pas une base de données centrale sur les visages ». Il faudra attendre le lancement.
Images | Simseo avec les Gémeaux
À Simseo | Anduril et Meta ont une nouvelle et inquiétante obsession : transformer les lunettes intelligentes en instruments de guerre
