2 000 euros d'amende pour les parents du mineur

L'Agence espagnole de protection des données (AEPD) a imposé la première sanction en Espagne pour la création et la diffusion de fausses images générées avec l'intelligence artificielle. Les parents d'un mineur ont été condamnés à une amende de 2 000 euros, réduite à 1 200 en cas de paiement rapide, à l'issue d'une affaire qui a fait jurisprudence en matière de protection des données des mineurs en Europe.

Que s'est-il passé. Un mineur a utilisé l’application ClothOff pour créer une fausse image d’un camarade de lycée nu. L'outil d'IA prend le visage de la victime et le superpose sur un corps nu, en tenant compte de caractéristiques physiques comme le teint ou la carnation. L’image s’est ensuite répandue sur les réseaux sociaux et les groupes de messagerie.

L'origine de l'affaire. Bien que la résolution publique n'identifie pas les parties impliquées, l'AEPD a confirmé qu'il s'agit d'un des cas survenus à Almendralejo, Badajoz, en septembre 2023. Il a ensuite été révélé qu'au moins 20 mineurs avaient été victimes de montages similaires qui circulaient sur les téléphones portables de la municipalité. Les images ont même atteint des portails tels que OnlyFans et des pages pornographiques, selon la résolution.

Pourquoi c'est important. C’est la première fois qu’une autorité de protection des données de l’Union européenne autorise la propagation d’un deepfake. L'AEPD a ouvert le dossier d'office le 20 septembre 2023, deux jours seulement après que l'affaire soit devenue publique, et a pu connaître l'identité des responsables grâce à la collaboration avec le parquet. Le régulateur a agi en partant du principe que l'image d'une personne est une donnée personnelle qui a renforcé la protection des mineurs.

Le débat sur la sanction. Le montant de l'amende a suscité quelques débats. Jorge García Herrero, avocat et délégué à la protection des données, déclare à El País que « très peu de risques liés à l'IA suscitent autant d'inquiétude sociale que la création de deepfakes sexuels non consensuels de mineurs » et se demande si la sanction n'est « pas très exemplaire ». D'autre part, le juriste Borja Adsuara déclare aux médias qu'il s'agit d'un « délit contre la vie privée, qui passe par une procédure pénale », et se demande quel sens il y a à imposer une amende administrative alors que l'affaire a déjà été jugée judiciairement.

Le chemin parallèle. Cette procédure administrative de l'AEPD est indépendante de la procédure pénale déjà engagée contre les responsables, âgés de 12 à 14 ans au moment des faits. Au cours de la procédure judiciaire, un an de liberté surveillée a été imposé à 15 mineurs pour manipulation d'images de camarades de classe. Selon Miriam Al Adib, mère d'une des victimes, « il y a eu une peine exemplaire selon laquelle les enfants sont en probation pendant un an et doivent suivre une formation ».

Et maintenant quoi. Il est prévu que l'AEPD publie d'autres amendes similaires liées aux événements d'Almendralejo dans les prochains mois, étant donné qu'il y a eu au moins deux douzaines de victimes. La résolution exonère de toute responsabilité les créateurs de ClothOff, une application conçue spécifiquement pour générer des images de femmes nues sans leur consentement et qui est actuellement fermée. Ses créateurs font face à des poursuites judiciaires aux États-Unis. Al Adib prévient que ces cas représentent « une pandémie d'une violence énorme » qui nécessite des stratégies politiques coordonnées et des protocoles de protection efficaces pour les victimes.

Image de couverture | Gonflement

À Simseo | Nous avons déjà la première polémique de ce Noël : Coca-Cola a de nouveau réalisé une publicité utilisant l'IA