les utilisateurs testent les limites des modèles d’IA
Taylor Swift n’a pas besoin d’aide pour être un sujet tendance, mais il y a quelques jours, elle était pour quelque chose dans lequel elle n’avait absolument rien à voir : un barrage d’images explicites avec elle en tant que protagoniste ont été diffusées sur les réseaux sociaux. Ils étaient tous contrefaçons profondes généré avec l’intelligence artificielle.
Bien que 404 ait déjà indiqué que les images provenaient de 4chan puis se sont répandues sur des chaînes Telegram privées avant de se propager sur Twitter, aucun détail n’était connu sur cette explosion d’images explicites générées par l’IA et centrées sur Taylor Swift.
Cependant, une étude du cabinet de conseil en médias sociaux Graphika citée dans Rolling Stone révèle précisément comment tout a commencé. Et la surprise, c’est que tout a commencé comme un jeu.
Dans l’un des forums de la communauté 4chan, quelqu’un a proposé un défi : essayer de créer incite à surmonter les obstacles que possèdent les modèles d’IA et qui empêchent normalement la création d’images pornographiques de personnes célèbres. Les images de Taylor Swift proviennent de là, mais davantage de célébrités ont été touchées.
Cristina López G., analyste chez Graphika, a expliqué que « bien que les images pornographiques virales de Taylor Swift aient attiré l’attention sur le problème des images intimes non consensuelles générées par l’IA, elle n’est en aucun cas la seule victime ».
D’autres actrices, chanteuses et hommes politiques ont été victimes de ce type de deepfakes, encore plus fréquemment que Taylor Swift. Les exemples comprennent Ariana Grande, Billie Eilish ou Emma Watson.
Selon le New York Times, les utilisateurs de 4chan partageaient des trucs et astuces pour surmonter les filtres de plateformes telles que DALL-E, Microsoft Designer et Bing Image Creator. Les images créées ont été partagées sur ce forum et les utilisateurs ont voté pour ou contre en fonction de la qualité ou du réalisme obtenu avec ces invites.
Ainsi, cette compétition unique pour surmonter les barrières de ces modèles était précisément la motivation des utilisateurs à « vaincre » ces mécanismes de protection. Comme l’a souligné López G., « il est important de comprendre la nature ludique de cette activité malveillante afin de prévenir de futurs abus à la source ». [de la generación de imágenes por IA] ».
Les premières images de Swift Ils ont commencé à apparaître sur le forum le 6 janvier, mais il leur a fallu un peu plus d’une semaine pour finir par se diffuser sur Telegram et X (anciennement Twitter). L’explosion virale de ces images a fait de « Taylor Swift » un X pendant plusieurs jours. Le réseau social a dû bloquer ces recherches et en même temps supprimer les images détectées, ce qui a finalement atténué une grande partie des problèmes.
Images | Javier Pasteur avec Visual Electric
À Simseo | Lors d’un appel vidéo, ils ont ordonné à un employé de transférer 25 millions de dollars. Ils étaient tous des deepfakes sauf lui
