L'autorité australienne de régulation de la vie privée a abandonné ses poursuites contre la société de reconnaissance faciale « troublante

Le bureau du Commissaire australien à l’information a annoncé cette semaine qu’il ne prendrait aucune autre mesure contre la société de reconnaissance faciale Clearview AI. Il s’agit d’une victoire importante pour l’une des entreprises technologiques les plus controversées au monde.

En 2021, l'autorité australienne de régulation de la vie privée a jugé que Clearview AI avait enfreint les lois sur la protection de la vie privée en récupérant des millions de photographies sur des sites de réseaux sociaux tels que Facebook et en les utilisant pour entraîner son outil de reconnaissance faciale. Elle a ordonné à l'entreprise de cesser de collecter des images et de supprimer celles qu'elle possédait déjà.

Cependant, rien ne prouve que Clearview AI ait suivi cet ordre. Et plus tôt cette année, des reportages dans les médias ont suggéré que l’entreprise poursuivait ses activités comme d’habitude en Australie et collectait davantage d’images de citoyens.

Dans ce contexte, pourquoi le régulateur de la vie privée a-t-il soudainement cessé de poursuivre Clearview AI ? Quelles conséquences cela a-t-il sur la lutte plus large pour la protection de la vie privée des citoyens à l’ère des grandes technologies ? Et comment la loi pourrait-elle être modifiée pour donner au régulateur une meilleure chance de contrôler des entreprises comme Clearview AI ?

Un combat de longue haleine

Clearview AI est un outil de reconnaissance faciale formé sur plus de 50 milliards de photographies collectées à partir de sites de médias sociaux tels que Facebook et Twitter, ainsi que sur le Web en général.

L'entreprise à l'origine de ce projet a été créée en 2017 par un citoyen australien, Hoan Ton-That, qui réside désormais aux États-Unis. Le site affirme que l'outil est précis à 99 % pour identifier l'individu sur une photo donnée.

Plus tôt ce mois-ci, Ton-That a déclaré à Inc.Australia qu'il s'attend à ce que la croissance de l'entreprise aux États-Unis s'accélère rapidement.

« Il y aura davantage de contrats de ce type avec des entreprises de plus grande envergure, notamment avec le gouvernement fédéral. De plus, il existe 18 000 agences étatiques et locales, uniquement dans le domaine de l'application de la loi et du gouvernement. Cela pourrait représenter une entreprise dont le chiffre d'affaires annuel récurrent s'élève à plus d'un milliard ou deux milliards de dollars. »

L'outil a été initialement proposé aux autorités policières pour être testé dans des pays comme les États-Unis, le Royaume-Uni et l'Australie. L'Ukraine, déchirée par la guerre, a également utilisé Clearview AI pour reconnaître les soldats russes qui ont participé à l'invasion de l'Ukraine.

Mais cette technologie a rapidement suscité la controverse et des résistances juridiques.

En 2022, l'organisme britannique de surveillance de la vie privée a infligé une amende de 14,5 millions de dollars australiens à Cleaview AI pour violation de ses lois sur la protection de la vie privée. Cependant, la décision a ensuite été annulée, car les autorités britanniques n'avaient pas le pouvoir d'infliger des amendes à une entreprise étrangère.

La France, l'Italie, la Grèce et d'autres pays de l'Union européenne ont également infligé à Clearview AI des amendes de 33 millions de dollars ou plus. Ils ont également imposé des sanctions supplémentaires lorsque l'entreprise ne s'est pas conformée aux injonctions légales.

Aux États-Unis, l'entreprise a fait l'objet d'un recours collectif, qui a été réglé en juin. L'accord lui a permis de continuer à vendre cet outil aux forces de l'ordre américaines, mais pas au secteur privé.

En Australie, l'autorité de régulation de la vie privée a jugé en 2021 que Clearview AI avait violé les lois sur la vie privée du pays en collectant des images d'Australiens sans leur consentement. Elle a ordonné à l'entreprise de cesser de collecter les images et de supprimer celles collectées dans un délai de 90 jours. Elle n'a toutefois pas infligé d'amende.

Jusqu'à présent, rien ne prouve que Clearview AI se soit conformé à l'ordre du bureau du Commissaire australien à l'information et il semblerait que l'entreprise continue de collecter des images d'Australiens.

Un manque de pouvoir d’exécution et de ressources

Hier, la commissaire à la protection de la vie privée Carly Kind a qualifié les pratiques de Clearview AI de « troublantes ». Cependant, elle a également déclaré :

« Compte tenu de tous les facteurs pertinents, je ne suis pas convaincu qu'une action supplémentaire soit justifiée dans le cas particulier de Clearview AI à l'heure actuelle. »

C’est une décision décevante.

En vertu de la Loi sur la protection des renseignements personnels, lorsqu’une organisation ne se conforme pas à une décision, l’organisme de réglementation peut engager des procédures d’exécution devant un tribunal. Cependant, dans le cas présent, il a choisi de ne pas le faire.

L’absence de mesures supplémentaires contre Clearview AI confirme la faiblesse des lois actuelles sur la protection de la vie privée en Australie. Contrairement à d’autres pays, les sanctions importantes pour violation des lois sur la protection de la vie privée en Australie sont très rares.

Cette décision souligne également le manque de pouvoirs d’application du régulateur dans le cadre des lois actuelles sur la protection de la vie privée.

A cela s'ajoute le manque de ressources dont dispose le régulateur pour enquêter sur plusieurs affaires de grande ampleur. Son enquête sur Bunnings et Kmart pour leur utilisation de la technologie de reconnaissance faciale est en attente depuis plus de deux ans.

Que peut-on faire ?

Il y a un certain espoir que les prochaines réformes de la loi sur la confidentialité en Australie renforceront à la fois la loi australienne sur la confidentialité et donneront davantage de pouvoirs d’application au régulateur de la confidentialité.

Il est toutefois douteux que la législation générale sur la protection de la vie privée soit suffisante pour réglementer de manière adéquate les technologies de reconnaissance faciale.

Les experts australiens ont plutôt appelé à l’instauration de règles spécifiques pour les technologies à haut risque. Par exemple, l’ancien commissaire australien aux droits de l’homme Ed Santow a proposé une loi modèle pour réglementer les technologies de reconnaissance faciale.

D’autres pays ont déjà commencé à élaborer des règles spécifiques pour les outils de reconnaissance faciale. La loi sur l’intelligence artificielle récemment adoptée par l’Union européenne interdit certaines utilisations de cette technologie et fixe des règles strictes pour son développement.

Cependant, les recherches montrent que de nombreux pays à travers le monde ont encore du mal à établir des réglementations appropriées pour les systèmes de reconnaissance faciale.

Le gouvernement australien devrait sérieusement envisager des mesures spécifiques pour empêcher des entreprises telles que Clearview AI d’utiliser les données personnelles des Australiens pour le développement de telles technologies, et introduire des règles claires sur les cas où la reconnaissance faciale peut être utilisée et ceux où elle ne le peut pas.