Les artistes prennent les choses en main pour protéger leur travail de l'IA générative
La peinture à l'huile représente une femme debout sur un podium, le bras levé, tenant une couronne de laurier dans sa main. Une cape écarlate drape sa poitrine tandis qu'elle fixe le spectateur. À l'œil nu, le tableau ressemble à une œuvre normale d'un portfolio en ligne. Mais la version du tableau téléchargée en ligne cache un système de défense caché : un outil appelé Glaze qui masque le style de l'artiste et empêche l'œuvre d'être utilisée par l'IA générative.
Alors que l'IA génératrice d'images continue d'évoluer, les artistes luttent de plus en plus contre ce qu'ils considèrent comme une menace existentielle pour leur art sur plusieurs fronts : par le biais de poursuites judiciaires, de déclarations publiques appelant à des réglementations et maintenant, avec des programmes visant à protéger leur art contre le piratage et l'émulation sans leur permission.
Créés par des chercheurs de l'Université de Chicago, Glaze et un second programme, Nightshade, empoisonnent essentiellement le puits d'art mis en ligne dans le but de brouiller ce que voit l'IA. Alors que Glaze modifie subtilement une image pour que l'IA la perçoive comme un style artistique différent, Nightshade est un outil plus « offensif » qui tente de confondre un modèle d'entraînement d'IA sur ce qui se trouve dans une image. L'idée, selon les chercheurs de l'université, est de fournir une solution technique pour mettre fin à l'utilisation « malveillante » des modèles d'IA tout en protégeant les créateurs.
L’équipe travaillant sur Glaze et Nightshade a noté que leurs outils servent de protection dans un espace dépourvu de réglementation plutôt que de solution globale. Là où les poursuites judiciaires et les réglementations gouvernementales pourraient forcer des géants de la technologie comme Microsoft ou OpenAI à modifier leur mode de fonctionnement, les petits acteurs de l’IA en dehors des États-Unis pourraient ne pas suivre le mouvement, ont déclaré les chercheurs. Dans ces cas, les outils de brouillage de l’IA seront toujours utiles.
« Les réglementations et les grèves sont très importantes et ont sans doute un effet beaucoup plus profond et durable sur l'ensemble de ce paysage », a déclaré Shawn Shan, l'étudiant principal travaillant sur Glaze et Nightshade. « Mais je pense que nous considérons Glaze, et plus particulièrement Nightshade, comme un moyen de pression plus important. »
Pour Karla Ortiz, l'artiste basée à San Francisco à l'origine de la peinture à l'huile et la première personne à utiliser publiquement Glaze, l'intersection entre l'art et l'IA « se résume au consentement ».
« C'est profondément injuste de travailler toute sa vie pour se former, pour apprendre à faire ce que nous faisons pour trouver notre propre voix en tant qu'artistes, et puis de voir quelqu'un prendre cette voix, l'imiter et dire : « Oh, en fait, c'est la nôtre » », a-t-elle déclaré. « Les artistes ont besoin d'un moyen de pouvoir exister en ligne. »
Ortiz est l'un des trois artistes qui cherchent à protéger leurs droits d'auteur et leur carrière en poursuivant en justice les fabricants d'outils d'intelligence artificielle capables de générer de nouvelles images sur commande. La plainte contre Stability AI, le fabricant londonien du générateur de texte en image Stable Diffusion, allègue que les générateurs d'images IA violent les droits de millions d'artistes en ingérant d'énormes quantités d'images numériques et en produisant ensuite des œuvres dérivées qui concurrencent les originaux.
Ortiz, un artiste conceptuel et illustrateur dans l'industrie du divertissement qui a travaillé sur des films tels que « Rogue One : A Star Wars Story » et « Doctor Strange », a déclaré que la technologie comme Glaze est essentielle pour protéger les artistes.
« C'est un cycle dégoûtant dans lequel les entreprises technologiques nous disent que nous possédons ce qui vous appartient, mais que vous n'avez pas votre mot à dire sur la façon dont vous utilisez votre travail », a déclaré Ortiz. « Ce que vous publiez en ligne nous appartient. Et nous allons également être en concurrence sur vos marchés. Et nous nous battons pour votre emploi, ce qui est essentiellement ce qui se passe. »
Les experts affirment que les outils anti-IA offrent une certaine protection en rendant plus difficile l'utilisation de l'IA pour imiter le style d'un artiste, mais ils n'éradiquent pas le problème. À mesure que les modèles d'IA évoluent, ils deviendront probablement plus difficiles à attaquer ou à déjouer.
« Quand l’IA deviendra de plus en plus puissante, ces outils anti-IA deviendront de plus en plus faibles », a déclaré Jinghui Chen, professeur adjoint à l’Université d’État de Pennsylvanie et co-auteur d’une étude sur l’efficacité d’outils comme Glaze. « Mais je considère que c’est un premier pas. »
Il est important, a déclaré Chen, de soulever des questions sur l’efficacité de ces types d’outils afin de les améliorer.
Shan, chercheur à l'Université de Chicago, a convenu que les outils anti-IA sont « loin d'être à l'épreuve du futur ».
« Mais c'est le cas de la plupart des mécanismes de sécurité que nous voyons à l'ère numérique », a-t-il déclaré. « Les pare-feu ne sont pas parfaits. Il existe de nombreuses façons de les contourner. Mais la plupart des gens utilisent encore des pare-feu pour arrêter une bonne partie de ces attaques, ce type de problèmes. Nous voyons donc une similitude avec Glaze ou Nightshade. »
Les artistes ne devraient pas « croire aveuglément » que tous leurs problèmes seront résolus par ces outils, a-t-il ajouté.
Renato Roldan, un artiste qui utilise Glaze avant de télécharger ses œuvres sur son portfolio, a déclaré qu'il hésitait à mettre à jour autant qu'avant car « nous sommes désormais très exposés » à l'IA. Il s'inquiète de la manière dont l'art généré va changer le paradigme de la consommation et de la création de l'art, a-t-il déclaré, comparant une image créée par l'IA à une version diluée de l'art créé par une personne.
« Si vous faites une photocopie de quelque chose, elle commence à se détériorer à chaque fois que vous la copiez », a déclaré Roldan, un ancien directeur artistique de jeux vidéo qui travaille désormais dans la narration et le storyboard.
L’une des plus grandes conséquences de l’IA non réglementée, a-t-il déclaré, est qu’elle a rendu plus difficile pour les nouveaux artistes qui viennent de terminer leurs études de percer dans le domaine, car ils doivent rivaliser avec l’art généré.
« Ils ont l'habitude de se retrouver face à une courbe d'apprentissage un peu difficile », a-t-il déclaré. « Mais maintenant, ils découvrent que cette courbe n'est pas une courbe. C'est juste un mur. »
