Deepfakes peut ruiner des vies et des moyens de subsistance – détenir les «droits» de nos propres visages et voix?

Il n’y a pas si longtemps, le terme « Deepfake » n’était pas dans le vocabulaire de la plupart des gens. Maintenant, il est non seulement monnaie courante, mais aussi l’objectif d’un examen juridique intense dans le monde.

Connues dans des documents juridiques sous le nom de «répliques numériques», Deepfakes sont créés par l’intelligence artificielle (IA) pour simuler l’apparence visuelle et vocale de personnes réelles, vivant ou mortes.

Non réglementé, ils peuvent faire beaucoup de dégâts, notamment la fraude financière (déjà un problème en Nouvelle-Zélande), la désinformation politique, les fausses nouvelles et la création et la diffusion de la pornographie générée par l’AI et du matériel d’abus sexuel pour enfants.

Pour les artistes professionnels et les artistes, la prolifération et la sophistication croissante de la technologie DeepFake pourraient démolir leur capacité à contrôler et à tirer des revenus de leurs images et de leurs voix.

Et Deepfakes pourrait bientôt emporter des emplois: pourquoi employer un acteur professionnel quand une réplique numérique fera l’affaire?

Une solution possible à cela consiste à donner aux individus la possibilité d’appliquer les droits de la propriété intellectuelle (IP) sur leur propre image et leur propre voix. Les États-Unis débattent actuellement d’une telle décision, et les législateurs néo-zélandais devraient surveiller de près.

Posséder votre propre ressemblance

Les remèdes déjà discutés en Nouvelle-Zélande comprennent l’extension des interdictions dans la loi nocive sur les communications numériques pour couvrir les répliques numériques qui ne représentent pas le corps réel d’une victime.

En utilisant (ou en modifiant) la loi sur les crimes, la Fair Trading Act et la loi électorale seraient également utiles.

Dans le même temps, il y aura une pression politique pour garantir que la réglementation n’investit pas dans les technologies de l’IA – une préoccupation soulevée dans un journal du Cabinet en 2024.

Législation introduite au Congrès américain l’année dernière – les originaux de Nurture, la famille d’art et maintiennent le divertissement en toute sécurité – propose un nouveau droit de propriété intellectuelle fédérale que les victimes individuelles peuvent utiliser contre les créateurs et les disseminateurs de DeepFakes.

Connu de manière informelle sous le nom de «No Not Fakes Bill», la législation a un soutien bipartite et de l’industrie, y compris des principaux syndicats du divertissement. Le bureau des droits d’auteur américain a examiné l’état actuel de la loi américaine et a conclu que les droits exécutoires étaient « urgents ».

Du point de vue de la Nouvelle-Zélande, le projet de loi No Fakes contient à la fois des idées utiles et des pièges possibles. Comme nous discutons dans un prochain article, ses innovations incluent l’expansion des protections IP à des individus «quotidiens» – pas seulement des célébrités.

Tous les individus auraient le droit de demander des dommages et des injonctions contre des répliques numériques sans licence, que ce soit dans des jeux vidéo, des vidéos pornographiques, des publications Tiktok ou des remakes de films et d’émissions de télévision.

Mais ces protections peuvent s’avérer illusoire car le seuil de protection est si élevé. La réplique numérique doit être « facilement identifiable comme la voix ou la ressemblance visuelle d’un individu », mais il n’est pas clair à quel point la victime individuelle d’un Fake Deep doit être.

Des acteurs néo-zélandais bien connus tels que Anna Paquin et Cliff Curtis seraient certainement admissibles. Mais une version néo-zélandaise du projet de loi protègerait-elle une personne quotidienne, « facilement identifiable » uniquement à la famille, aux amis et aux collègues?

Pouvez-vous concéder à une réplique numérique?

En vertu du projet de loi américain, les nouveaux droits de propriété intellectuelle peuvent être sous licence. Le projet de loi n’interdit pas complètement les fesses profondes, mais donne aux individus plus de contrôle sur l’utilisation de leurs ressemblances. Un acteur pourrait, par exemple, une licence d’une entreprise de publicité pour faire apparaître une réplique numérique dans une publicité télévisée.

Les licences doivent être écrites et signées, et les utilisations autorisées doivent être spécifiées. Pour les individus vivants, cela ne peut durer que dix ans.

Jusqu’ici, tout va bien. Mais les analystes politiques néo-zélandais devraient examiner attentivement l’étendue des dispositions de licence. Le droit IP proposé est «licence en tout ou en partie». Selon l’interprétation des tribunaux de «dans son ensemble», les individus pourraient déconcerter sans le savoir toutes les utilisations de leurs images et de leurs voix.

Le projet de loi No Fakes est également silencieux sur les intérêts de réputation des personnes qui conçoivent les autres à utiliser leurs répliques numériques.

Supposons qu’un artiste de scène ait licencié sa réplique numérique pour une utilisation dans les performances musicales générées par l’AI-AI. Ils ne devraient pas, par exemple, devoir supporter d’être représentés chantant un hymne suprémaciste blanc, ou d’autres utilisations non autorisées qui contesteraient leur dignité et leur position.

Protéger la parodie et la satire

De l’autre côté du grand livre, le projet de loi No Fakes contient des garanties de liberté d’expression pour les commentaires, la critique, la bourse, la satire et la parodie.

Le projet de loi protège également les prestataires de services Internet (FAI) de la responsabilité s’ils suppriment rapidement « toutes les instances » de matériel contrefait une fois en avis.

Il s’agit d’un langage utile qui pourrait être adopté dans toute législation néo-zélandaise. En outre, la défense de la parodie et des satires serait une avancée sur la loi sur le droit d’auteur de la Nouvelle-Zélande, qui ne contient actuellement aucune exception équivalente.

Mais le projet de loi américain ne contient aucune mesure permettant aux victimes d’obliger les FAI à bloquer l’accès des abonnés locaux à des emplacements en ligne qui colportent à DeepFakes. Connues sous le nom de «commandes de blocage du site», ces injonctions sont disponibles dans au moins 50 pays, dont l’Australie. Mais la Nouvelle-Zélande et les États-Unis restent des retenus.

Pour les victimes individuelles de Fonds de profondeur circulant sur des sites Web étrangers accessibles en Nouvelle-Zélande, les commandes de blocage du site pourraient offrir le seul soulagement pratique.

La facture No Fakes n’est en aucun cas une solution parfaite ou complète au problème Deepfakes. De nombreuses armes différentes seront nécessaires dans l’armurerie juridique et politique, y compris les obligations de divulguer lorsque des répliques numériques sont utilisées.

Même ainsi, la création d’un droit IP pourrait être un ajout utile à une suite de mesures visant à réduire les dommages économiques, de réputation et émotionnels que les fesses profondes peuvent infliger.