Les chercheurs mettent en garde contre la montée des images explicites créées par AI-Créés AI

Une équipe de chercheurs, dont Kevin Butler, Ph.D., professeur au Département des sciences informatiques et de l'information et de l'ingénierie à l'Université de Floride, sonne l'alarme sur une tendance inquiétante dans l'intelligence artificielle: la montée rapide des images sexuellement explicites générées par l'AI créées sans le consentement du sujet.

Butler et ses collègues de l'UF, de l'Université de Georgetown et de l'Université de Washington ont enquêté sur une classe croissante d'outils qui permettent aux utilisateurs de générer des images nues réalistes à partir de photos téléchargées – des outils qui nécessitent peu de compétences, ne coûtent pratiquement rien et sont largement non réglementés.

« Tout le monde peut le faire », a déclaré Butler, directeur du Florida Institute for Cybersecurity Research. « Cela se fait sur le Web, souvent anonymement, et il n'y a pas d'application significative de l'âge ou du consentement. »

L'équipe a inventé le terme SNEACI, abréviation de l'imagerie synthétique non consensuelle non consensuelle créée par AI, pour définir cette nouvelle catégorie d'abus. L'acronyme, prononcé « Sneaky », met en évidence la nature secrète et trompeuse de la pratique.

« SNEACI caractérise vraiment le fait que beaucoup d'entre eux sont fabriqués sans la connaissance de la victime potentielle et souvent de manière très sournoise », a déclaré Patrick Traynor, professeur et président associé de la recherche dans le Département des sciences informatiques et de l'information et de l'ingénierie de l'information et co-auteur du journal.

Dans leur étude, qui sera présentée au prochain Symposium de sécurité de l'USENIX cet été, les chercheurs ont effectué une analyse systématique de 20 sites Web de « nudification » AI. Ces plates-formes permettent aux utilisateurs de télécharger une image, de manipuler les vêtements, la forme du corps et la pose, et de générer une photo sexuellement explicite, généralement en quelques secondes.

Contrairement aux outils traditionnels comme Photoshop, ces services d'IA suppriment presque tous les obstacles à l'entrée, a déclaré Butler.

« Photoshop a besoin de compétences, de temps et d'argent », a-t-il déclaré. « Ces sites Web d'application d'IA sont rapides, bon marché – gratuits à aussi peu que six cents par image – et ne nécessitent aucune expertise. »

Selon l'examen de l'équipe, les femmes sont ciblées de manière disproportionnée, mais la technologie peut être utilisée sur n'importe qui, y compris les enfants. Bien que les chercheurs n'aient pas testé des outils avec des images de mineurs en raison de contraintes juridiques et éthiques, ils n'ont trouvé « aucune garantie technique empêchant quelqu'un de le faire ».

Seuls 7 des 20 sites qu'ils ont examinés comprenaient des conditions d'utilisation qui nécessitent que les sujets d'image soient supérieurs à 18 ans, et encore moins ont appliqué tout type de vérification de l'âge de l'utilisateur.

« Même lorsque Sites a demandé aux utilisateurs de confirmer qu'ils avaient plus de 18 ans, il n'y avait pas de validation réelle », a déclaré Butler. « C'est un environnement non réglementé. »

Les plates-formes fonctionnent avec peu de transparence, en utilisant la crypto-monnaie pour les paiements et l'hébergement sur les fournisseurs de cloud traditionnels. Sept des sites étudiés ont utilisé Amazon Web Services, et 12 ont été pris en charge par CloudFlare – des services légitimes qui prennent en charge par inadvertance ces opérations.

« Il y a une idée fausse selon laquelle ce type de contenu vit sur le Web Dark », a déclaré Butler. « En réalité, bon nombre de ces outils sont hébergés sur des plateformes réputées. »

L'équipe de Butler a également trouvé peu ou pas d'informations sur la façon dont les sites stockent ou utilisent les images générées.

« Nous n'avons pas pu découvrir ce que les générateurs font avec les images une fois qu'ils sont créés », a-t-il déclaré. « Il ne semble pas que aucune de ces informations soit supprimée. »

Les cas de haut niveau ont déjà attiré l'attention sur la question. Des célébrités telles que Taylor Swift et Melania Trump auraient été victimes d'images explicites non consensuelles générées par l'IA. Plus tôt cette année, Trump a exprimé son soutien à la loi sur la prise en charge, qui cible ces types d'abus et a été promulgué cette semaine par le président Donald Trump.

Mais l'impact s'étend au-delà du célèbre. Butler a cité un cas dans le sud de la Floride où une conseillère municipale a démissionné après que de fausses images explicites d'elle – créées en utilisant l'IA – ont été diffusées en ligne.

« Ces images ne sont pas seulement créées pour l'amusement », a déclaré Butler. « Ils sont habitués pour embarrasser, humilier et même extorquer les victimes. Le péage de santé mentale peut être dévastateur. »

Les chercheurs ont souligné que la technologie permettant ces abus a été initialement développée à des fins bénéfiques – telles que l'amélioration de la vision informatique ou le soutien de la recherche académique – et est souvent partagée ouvertement dans la communauté d'IA.

« Il y a une conversation émergente dans la communauté d'apprentissage automatique pour savoir si certains de ces outils devraient être limités », a déclaré Butler. « Nous devons repenser la façon dont les technologies open source sont partagées et utilisées. »

Butler a déclaré que le journal – écrit par l'étudiante Cassidy Gibson, qui a été conseillé par Butler et Traynor et a obtenu son doctorat ce mois-ci – est juste la première étape de leur enquête plus profonde sur le monde des outils de nudification alimentés par l'IA et une extension des travaux qu'ils font au centre pour la confidentialité et la sécurité pour les populations marginalisées, ou le prisme, un centre du UF Herbert College. Le papier est disponible sur le arxiv serveur de préimprimée.

Butler et Gibson ont récemment rencontré la députée américaine Kat Cammack pour une table ronde sur la propagation croissante des images non consensuelles en ligne. Dans une newsletter aux électeurs, Cammack, qui siège au Comité de l'énergie et du commerce de la Chambre, a qualifié la question une priorité majeure. Elle a souligné la nécessité de comprendre comment ces images sont créées et leur impact sur la santé mentale des enfants, des adolescents et des adultes, l'appelant « primordial pour mettre fin à cette tendance dangereuse ».

« Alors que les législateurs examinent de plus près ces technologies, nous voulons leur donner des informations techniques qui peuvent aider à façonner la réglementation plus intelligente et à faire pression pour plus de responsabilité des personnes impliquées », a déclaré Butler. « Notre objectif est d'utiliser nos compétences en tant que chercheurs en cybersécurité pour résoudre les problèmes du monde réel et aider les gens. »