Découvrir qui sont vos amis

Un homme aux cheveux gris traverse le hall d’un bureau avec une tasse de café, les yeux fixés sur l’entrée.

Il semble ignorer qu’il est suivi par un réseau de caméras qui peuvent détecter non seulement où il a été, mais aussi qui a été avec lui.

La technologie de surveillance a longtemps été en mesure de vous identifier. Maintenant, avec l’aide de l’intelligence artificielle, il essaie de découvrir qui sont vos amis.

En quelques clics, ce logiciel de « co-apparition » ou d' »analyse de corrélation » permet de retrouver toute personne apparue sur les trames de surveillance à quelques minutes de l’homme aux cheveux gris au cours du dernier mois, de dépouiller ceux qui auraient pu se trouver à proximité de lui une fois ou deux, et se concentrer sur un homme qui est apparu 14 fois. Le logiciel peut marquer instantanément les interactions potentielles entre les deux hommes, désormais considérés comme des associés probables, sur un calendrier consultable.

Vintra, la société basée à San Jose qui a présenté la technologie dans une présentation vidéo de l’industrie l’année dernière, vend la fonctionnalité de co-apparition dans le cadre d’une gamme d’outils d’analyse vidéo. L’entreprise se vante sur son site Web de ses relations avec les 49ers de San Francisco et un service de police de Floride. L’Internal Revenue Service et d’autres services de police à travers le pays ont payé les services de Vintra, selon une base de données des contrats du gouvernement.

Bien que la technologie de co-apparition soit déjà utilisée par des régimes autoritaires comme celui de la Chine, Vintra semble être la première entreprise à la commercialiser en Occident, selon des spécialistes du secteur.

Mais l’entreprise est l’une des nombreuses à tester de nouvelles applications d’IA et de surveillance avec peu d’examen public et peu de garanties formelles contre les atteintes à la vie privée. En janvier, par exemple, des responsables de l’État de New York ont ​​critiqué la société propriétaire du Madison Square Garden pour avoir utilisé la technologie de reconnaissance faciale pour interdire aux employés des cabinets d’avocats qui ont poursuivi la société d’assister à des événements dans l’arène.

Les experts de l’industrie et les chiens de garde disent que si l’outil de co-apparition n’est pas utilisé maintenant – et un analyste a exprimé la certitude qu’il l’est – il deviendra probablement plus fiable et plus largement disponible à mesure que les capacités d’intelligence artificielle progresseront.

Aucune des entités qui font affaire avec Vintra qui ont été contactées par le Times n’a reconnu avoir utilisé la fonction de co-apparition dans le progiciel de Vintra. Mais certains ne l’ont pas explicitement exclu.

Le gouvernement chinois, qui a été le plus agressif dans l’utilisation de la surveillance et de l’IA pour contrôler sa population, utilise des recherches de co-apparition pour repérer les manifestants et les dissidents en fusionnant la vidéo avec un vaste réseau de bases de données, ce que Vintra et ses clients ne pourraient pas faire , a déclaré Conor Healy, directeur de la recherche gouvernementale pour l’IPVM, le groupe de recherche sur la surveillance qui a accueilli la présentation de Vintra l’année dernière. La technologie de Vintra pourrait être utilisée pour créer « une version plus basique » des capacités du gouvernement chinois, a-t-il déclaré.

Certains gouvernements d’État et locaux aux États-Unis restreignent l’utilisation de la reconnaissance faciale, en particulier dans les services de police, mais aucune loi fédérale ne s’applique. Selon Clare Garvie, spécialiste des technologies de surveillance chez l’Assn. des avocats de la défense pénale.

Peu d’États ont des restrictions sur la façon dont les entités privées utilisent la reconnaissance faciale.

Le département de police de Los Angeles a mis fin à un programme de police prédictive, connu sous le nom de PredPol, en 2020 au milieu des critiques selon lesquelles il n’arrêtait pas le crime et conduisait à un renforcement de la police des quartiers noirs et latinos. Le programme a utilisé l’IA pour analyser de vastes quantités de données, y compris les affiliations présumées à des gangs, dans le but de prédire en temps réel où les crimes contre les biens pourraient se produire.

En l’absence de lois nationales, de nombreux services de police et entreprises privées doivent peser seuls l’équilibre entre sécurité et confidentialité.

« C’est l’avenir orwellien qui prend vie », a déclaré le sénateur Edward J. Markey, un démocrate du Massachusetts. « Un état de surveillance profondément alarmant où vous êtes suivi, marqué et catégorisé pour être utilisé par des entités des secteurs public et privé, dont vous n’avez aucune connaissance. »

Markey prévoit de réintroduire un projet de loi dans les semaines à venir qui mettrait fin à l’utilisation de la reconnaissance faciale et des technologies biométriques par les forces de l’ordre fédérales et obligerait les gouvernements locaux et étatiques à les interdire comme condition pour obtenir des subventions fédérales.

Pour l’instant, certains ministères disent ne pas avoir à faire de choix par souci de fiabilité. Mais à mesure que la technologie progresse, ils le feront.

Les dirigeants de Vintra n’ont pas renvoyé plusieurs appels et e-mails du Times.

Mais le directeur général de la société, Brent Boekestein, s’est exprimé longuement sur les utilisations potentielles de la technologie lors de la présentation vidéo avec IPVM.

« Vous pouvez monter ici et créer une cible, basée sur ce type, puis voir avec qui ce type traîne », a déclaré Boekestein. « Vous pouvez vraiment commencer à construire un réseau. »

Il a ajouté que « 96 % du temps, il n’y a aucun événement qui intéresse la sécurité, mais il y a toujours des informations que le système génère ».

Quatre agences qui partagent la station de transport en commun de San Jose utilisée dans la présentation de Vintra ont nié que leurs caméras aient été utilisées pour réaliser la vidéo de l’entreprise.

Deux sociétés répertoriées sur le site Web de Vintra, les 49ers et Moderna, la société pharmaceutique qui a produit l’un des vaccins COVID-19 les plus utilisés, n’ont pas répondu aux e-mails.

Plusieurs services de police ont reconnu avoir travaillé avec Vintra, mais aucun n’a dit explicitement qu’il avait effectué une recherche de co-comparution.

Brian Jackson, chef adjoint de la police à Lincoln, Neb., a déclaré que son département utilise le logiciel Vintra pour gagner du temps en analysant des heures de vidéo en recherchant rapidement des modèles tels que des voitures bleues et d’autres objets qui correspondent aux descriptions utilisées pour résoudre des crimes spécifiques. Mais les caméras auxquelles son service est relié – y compris les caméras Ring et celles utilisées par les entreprises – ne sont pas assez bonnes pour faire correspondre les visages, a-t-il déclaré.

« Il y a des limites. Ce n’est pas une technologie magique », a-t-il déclaré. « Cela nécessite des entrées précises pour de bons résultats. »

Jarod Kasner, chef adjoint à Kent, Washington, a déclaré que son département utilise le logiciel Vintra. Il a dit qu’il n’était pas au courant de la fonction de co-apparition et qu’il devrait se demander si c’était légal dans son état, l’un des rares qui restreignent l’utilisation de la reconnaissance faciale.

« Nous sommes toujours à la recherche d’une technologie qui peut nous aider car c’est un multiplicateur de force » pour un département aux prises avec des problèmes de personnel, a-t-il déclaré. Mais « nous voulons juste nous assurer que nous sommes dans les limites pour nous assurer que nous le faisons correctement et de manière professionnelle. »

Le bureau du shérif du comté de Lee en Floride a déclaré qu’il n’utilisait le logiciel Vintra que sur les suspects et non « pour suivre les personnes ou les véhicules qui ne sont soupçonnés d’aucune activité criminelle ».

Le département de police de Sacramento a déclaré dans un e-mail qu’il utilisait le logiciel Vintra « avec parcimonie, voire pas du tout », mais n’a pas précisé s’il avait déjà utilisé la fonction de co-apparition.

« Nous sommes en train de revoir notre contrat Vintra et de déterminer si nous devons continuer à utiliser son service », a déclaré le département dans un communiqué, qui a également déclaré qu’il ne pouvait pas indiquer de cas dans lesquels le logiciel a aidé à résoudre des crimes.

L’IRS a déclaré dans un communiqué qu’il utilisait le logiciel Vintra « pour examiner plus efficacement de longues séquences vidéo à la recherche de preuves lors de la conduite d’enquêtes criminelles ». Les responsables ne diraient pas si l’IRS a utilisé l’outil de co-comparution ou où il avait posté des caméras, seulement qu’il a suivi « les protocoles et procédures établis de l’agence ».

Jay Stanley, un avocat de l’American Civil Liberties Union qui a d’abord souligné la présentation vidéo de Vintra l’année dernière dans un article de blog, a déclaré qu’il n’était pas surpris que certaines entreprises et certains départements soient méfiants quant à son utilisation. D’après son expérience, les services de police déploient souvent de nouvelles technologies « sans dire, et encore moins demander, la permission des surveillants démocratiques comme les conseils municipaux ».

Le logiciel pourrait être utilisé de manière abusive pour surveiller les associations personnelles et politiques, y compris avec des partenaires intimes potentiels, des militants syndicaux, des groupes anti-police ou des rivaux partisans, a averti Stanley.

Danielle VanZandt, qui analyse Vintra pour la société d’études de marché Frost & Sullivan, a déclaré que la technologie était déjà utilisée. Parce qu’elle a examiné des documents confidentiels de Vintra et d’autres sociétés, elle est soumise à des accords de non-divulgation qui lui interdisent de discuter de sociétés individuelles et de gouvernements susceptibles d’utiliser le logiciel.

Les détaillants, qui recueillent déjà de vastes données sur les personnes qui entrent dans leurs magasins, testent également le logiciel pour déterminer « que peut-il me dire d’autre ? dit VanZandt.

Cela pourrait inclure l’identification des membres de la famille des meilleurs clients d’une banque pour s’assurer qu’ils sont bien traités, une utilisation qui soulève la possibilité que ceux qui n’ont pas de richesse ou de liens familiaux reçoivent moins d’attention.

« Ces problèmes de biais sont énormes dans l’industrie » et sont activement traités par le biais de normes et de tests, a déclaré VanZandt.

Tout le monde ne pense pas que cette technologie sera largement adoptée. Les forces de l’ordre et les agents de sécurité des entreprises découvrent souvent qu’ils peuvent utiliser des technologies moins invasives pour obtenir des informations similaires, a déclaré Florian Matusek de Genetec, une société d’analyse vidéo qui travaille avec Vintra. Cela inclut la numérisation des systèmes d’entrée de billets et des données de téléphone portable qui ont des caractéristiques uniques mais ne sont pas liées aux individus.

« Il y a une grande différence entre, comme les fiches produits et les vidéos de démonstration, et les choses réellement déployées sur le terrain », a déclaré Matusek. « Les utilisateurs trouvent souvent que d’autres technologies peuvent tout aussi bien résoudre leur problème sans passer par toutes les étapes de l’installation de caméras ou de la réglementation en matière de confidentialité. »

Matusek a déclaré qu’il ne connaissait aucun client de Genetec qui utilisait la co-comparution, ce que sa société ne fournit pas. Mais il ne pouvait pas l’exclure.

Distribué par Tribune Content Agency, LLC.