Les deepfakes sont bien plus qu’une mauvaise blague. Maintenant, le gouvernement veut qu'il s'agisse d'une violation du droit à l'honneur

L'année a commencé avec X rempli de photos de femmes en bikini. Tout était normal, sauf que ce sont d'autres utilisateurs qui les « déshabillaient » grâce à Grok, l'IA d'Elon Musk. Au milieu du débat relancé sur les deepfakes, le gouvernement a annoncé un nouveau projet de loi avec lequel il cherche à les combattre.

Contre les deepfakes. Le texte est une modification de la loi organique de protection civile du droit à l'honneur, à l'intimité personnelle et familiale et à l'image de chacun. Selon la ministre de l'Inclusion, Elma Saiz, « il s'agit d'un texte plus protectionniste, adapté aux nouvelles technologies ». Les ultra-usurpations d'identité réalisées avec l'intelligence artificielle seront un délit lorsque la personne concernée ne donne pas son consentement et que l'objectif est de porter atteinte à son intégrité morale, en générant des contenus sexuels ou humiliants. Dans ces cas-là, une peine de prison pouvant aller jusqu'à 2 ans peut être prononcée.

Le projet relève également l'âge du consentement au transfert d'images à 16 ans (actuellement 14 ans). Cependant, le texte continue de considérer comme illégitime toute utilisation visant à nuire à la réputation de la personne concernée, même si celle-ci a donné son consentement.

Après la mort. La principale nouveauté de cette réforme est qu'elle envisage la protection de l'image ou de la voix même après le décès de la personne, à condition que cela soit précisé dans le testament. Comme le souligne El País, cela pourrait affecter directement certains contenus de véritables crimes dans lesquels l’IA est utilisée pour recréer l’image ou la voix des victimes de meurtre. Un autre cas pris en compte est celui où l'auteur d'un crime raconte les détails du crime dans des podcasts, des interviews ou d'autres médias. Si votre histoire rouvre la blessure de la victime, cela sera considéré comme une atteinte illégale à ses droits. Rappelons-nous le cas du livre de José Bretón.

Les exceptions. Ceux qui existaient déjà dans l'ancienne loi sont maintenus, comme les enregistrements autorisés par un juge ou la publication de conversations privées, pour autant que leur contenu soit une actualité d'intérêt général. La nouveauté est que des exceptions spécifiques à l’IA sont incluses. L'image ou la voix d'une personnalité publique peut être utilisée si elle s'inscrit dans un contexte créatif ou humoristique. Bien entendu, ils doivent clairement préciser que l’IA a été utilisée dans sa création.

Était-ce nécessaire ? C’est la question que se posent certains avocats comme Borja Adsuara dans leur profil X. Leur argument est que la loi actuelle protège déjà le droit à l’honneur dans tous les domaines, il n’était donc pas nécessaire de mentionner les nouvelles technologies comme les réseaux sociaux, l’IA ou les deepfakes. Il faut cependant tenir compte, comme le souligne Reuters, que l’Union européenne exige que les pays membres réglementent les deepfakes, notamment ceux à contenu sexuel non consensuel, avant 2027.

Cas antérieurs. Le cas de Grok a relancé le débat sur les deepfakes en raison du volume d'images générées, mais ce n'est pas la première fois que ce type de pratique se produit. En 2023, le premier cas de masse s'est produit en Espagne lorsque des adolescents ont généré de fausses images nues de plusieurs mineurs. Nous avons également récemment appris la première amende de l'Agence espagnole de protection des données pour un mineur qui avait utilisé une application pour « déshabiller » un camarade de classe.

Images | Unsplash (édité)

À Simseo | Le Royaume-Uni en a assez des gens qui contournent le blocage du porno : leur nouvelle idée est de le bloquer sur iOS et Android