L’Espagne cherche à criminaliser les images sexuelles générées par l’IA

Le gouvernement de gauche espagnol a dévoilé mardi un projet de loi qui criminaliserait l’utilisation de l’intelligence artificielle pour générer des images vidéo sexuellement explicites du visage ou du corps d’une personne sans son consentement.

L’IA cause une préoccupation croissante dans le monde car la technologie peut être utilisée à des fins malveillantes telles que la création de « Deepfakes » – des images et des vidéos générées par ordinateur réalistes basées sur un vrai modèle.

Environ 96% des vidéos DeepFake en ligne sont de la pornographie non consensuelle, et la plupart d’entre elles représentent des femmes, selon une étude de 2019 de la Sensité de l’entreprise d’IA néerlandaise.

Le gouvernement veut que « des fesses profondes d’une nature sexuelle ou sérieusement insultante » « soient considérées comme des crimes contre l’intégrité morale », a déclaré le ministre de la Justice, Felix Bolanos, lors d’une conférence de presse après une réunion hebdomadaire du Cabinet.

Dans un communiqué, le gouvernement a déclaré que la mesure ferait partie d’un projet de loi visant à « protéger les jeunes filles et les garçons ainsi que les adolescents » des dangers de la « technologie numérique » et garantissent « leur droit à la vie privée ».

Cette décision intervient alors que l’Espagne s’est attaquée ces dernières années avec plusieurs cas de distribution de fausses images nues de filles mineures créées à l’aide d’une application d’IA.

Dans certains cas, les faux nus ont été utilisés pour essayer de faire chanter les mineurs décrits après que les créateurs présumés ont demandé de l’argent pour ne pas les distribuer.

Le projet de facture nécessiterait également des fabricants de smartphones et de tablettes qu’ils incluent des systèmes de contrôle parental gratuits dans leurs appareils qui sont activés par défaut et obligent les influenceurs en ligne à utiliser des « systèmes de vérification d’âge » pour leurs abonnés.