Le gouvernement d’Espagne veut que tout le contenu de l’IA porte un « label ». Cela semble très bien, mais c’est un énorme défi
Si vous avez généré un texte, un audio ou une vidéo avec IA, ce sera mieux que tagué. Sinon, vous pouvez vous exposer à une amende très importante. C’est la conclusion du projet de loi que le Conseil des ministres a approuvé hier, et est particulièrement orienté pour éviter les risques des profondeurs.
Le pape et les alarmes. En mars 2023, une profondeur du pape François est devenue virale portant une couche théorique de Balenciaga. Cela a déclenché les alarmes de l’Union européenne, qui a lancé la loi de l’IA, approuvée par le Parlement européen le 13 mars 2024 et qui est entrée en vigueur des mois plus tard, le 1er août. Maintenant, l’Espagne adapte cette loi dans un but clair.
Espagne contre les profondeursLe ministre de la Transformation numérique et de la fonction publique, Óscar López, a expliqué que « l’IA est un outil très puissant, qui peut être utilisé pour améliorer nos vies ou pour répandre les taureaux et attaquer la démocratie ».
Ne taguez pas le contenu AI, infraction sévère. Ce projet de loi considère comme une infraction grave qui ne se conforme pas à l’étiquetage des textes, des vidéos ou des audios générés avec l’IA pour les identifier en FRO adéquat. C’est quelque chose que l’UE insiste depuis juin 2023, mais il y a deux problèmes: que presque personne ne le fait pour le moment.
Amendes colossales. Le ministre n’a pas précisé comment effectuer cet étiquetage, et dans ses mots, ce sera l’EESIA qui mettra les règles pour cet étiquetage. Comme déjà établi par le droit de l’IA, la violation des règlements a augmenté des amendes pouvant aller jusqu’à 35 millions d’euros et / ou entre 5 et 7% du chiffre d’affaires mondial de la société de délinquants.
Initiatives pour étiqueter: les avoir, il y a. La nécessité d’étiqueter des textes, des images, des vidéos et des audios est évidente, mais pour l’instant il n’y a pas d’alternative universelle et acceptée. Google a proposé sa propre solution en mai 2023 et l’a supprimée en octobre 2024 avec Synthed, qui peut être appliquée même dans des textes courts et est déjà utilisé par les Gémeaux. Adobe a également rapidement lancé pour essayer de résoudre le problème. L’objectif a ses propres marques d’eau pour les audios générés par l’IA. Même Openai a rejoint l’effort avec un combo d’un symbole CR (« CONDITIONS DE CONTENU », également entraîné par Adobe) visible et une marque d’eau invisible dans les images générées avec l’IA.
L’architecture standard C2PA indique clairement comment chaque contenu ajoute des métadonnées qui indiquent les étapes dans lesquelles il a été modifié et comment, y compris les utilisations possibles de l’IA. Source: C2PA.
La norme C2PA et la recherche de consensus. La proposition la plus remarquable à cet égard est celle de la norme C2PA (Coalition for Content Provenance and Authenticité). Cette coalition gère des technologies telles que les spécifications des informations d’identification susmentionnées pour étiqueter le contenu généré par Spor. De nombreuses sociétés principales sont dans ce groupe, notamment OpenAI, Amazon, Google, Meta ou Microsoft, mais il y a une grande absence: Apple, qui (inexplicablement) ne semble pas prononcer à cet égard.
Où sont les étiquettes AI? Bien que la technologie d’étiquetage soit là, elle n’a pas seulement été largement utilisée. Il y a des cas isolés: Meta a commencé à étiqueter des images sur Instagram ou Facebook, mais il a des problèmes pour effectuer cet étiquetage, qui est essayé de s’appliquer au contenu déjà publié. YouTube a également pris des mesures à cet égard et Google commence à l’implémenter dans son moteur de recherche et vos annonces. Même les fabricants tels que Sony ou Leica étiquettent leurs photos dans certaines de leurs caméras.
Étiquetez tout, que ce soit ou non avec IA. Idéalement (utopie?) Nous avons l’exemple parfait dans les applications de la caméra de nos mobiles avec Android ou iOS: ces images et vidéos doivent être étiquetées avec quelque chose de similaire à un « contenu sans IA », par exemple. C’est ce que posent les caméras Sony ou Leica, mais impose un énorme problème pour l’ensemble du segment matériel et logiciel.
Nous avons besoin d’adoption pour tirer. Les entreprises semblent clairement que quelque chose comme cela est nécessaire et raisonnable, mais le démarrer est un processus particulièrement long et complexe. L’étiquetage cryptographique est probablement la meilleure option pour empêcher Deepfakes de devenir une menace encore plus importante, mais voici une étape décisive: que les entreprises adoptent ces mesures. Même si c’est petit à petit.
Dans Simseo | Les entreprises de l’IA ont sauté les droits d’auteur depuis des années. Ils viennent de subir une défaite juridique inquiétante
