X a été rempli d’images pornographiques Taylor Swift générées par l’IA. La seule solution : le black-out de l’information

Ces derniers jours, des images explicites de Taylor Swift générées grâce à l’intelligence artificielle ont inondé Internet. Les images controversées de la célèbre artiste ont provoqué un séisme unique sur les réseaux sociaux, les fans de Swift la soutenant et doxxant même le responsable des images. Désormais, le chanteur envisage d’engager des poursuites judiciaires contre le créateur de ces deepfakes.

Que s’est-il passé. La semaine dernière, des images pornographiques de Taylor Swift générées avec des modèles d’IA générative ont commencé à proliférer sur Internet. L’un des plus viraux, apparu sur X, a attiré 45 millions de vues, 24 000 reposts et des centaines de milliers de « j’aime ». Le récit d’un des responsables de la diffusion de ces images, zvbearest désormais privé, mais ce message est resté public pendant environ 18 heures avant de disparaître.

Deepfakes viraux. Bien que la publication originale ait disparu, les images ont été diffusées sur plusieurs comptes. Beaucoup d’entre elles restent disponibles et à la suite de tout cela, de nouvelles fausses images au contenu explicite sur le chanteur sont apparues. Le terme « Taylor Swift AI » est devenu un sujet tendance, rendant ces recherches encore plus populaires.

Tout a commencé sur 4chan. Selon 404, les images provenaient de 4chan, ont été transférées sur une chaîne Telegram contenant des images explicites de femmes, puis ont fini par être diffusées sur Twitter. L’un des outils utilisés pour générer ces images était la plateforme Microsoft Designer qui convertit le texte en images. Certains utilisateurs ont même donné des conseils à d’autres sur la façon de créer des invites qui contournent les protections de cette plateforme pour continuer à créer des images explicites. Par exemple, en utilisant l’expression « Taylor ‘singer’ Swift » dans le cadre de cette invite au lieu d’utiliser simplement le nom. Pour le moment, ces types d’astuces ne fonctionnent pas sur ladite plateforme.

Les Swifties contre-attaquent. Les fans de la chanteuse, connus sous le nom de « Swifties », ont commencé à se mobiliser pour tenter de faire disparaître la tendance en postant le message « protégez Taylor Swift ». Bien que de nombreux deepfakes aient disparu, d’autres sont toujours actifs.

X réagit. Les responsables de Twitter (X) ils ont posté un message Vendredi dernier, il a averti que le contenu explicite était « strictement interdit sur X et que nous avons une politique de tolérance zéro concernant ce contenu ».

Recherches bloquées. En fait, le réseau social a commencé hier à bloquer les recherches liées à Taylor Swift. Comme l’indique le Wall Street Journal, Joe Benarroch, responsable des opérations chez X, a expliqué que le blocus « est une mesure temporaire » qui a été appliquée avec une grande prudence. Si vous essayez de rechercher dès maintenant le terme « Taylor Swift » sur Ce type de mesures a également été activé dans Threads, Instagram ou Reddit.

Taylor Swift furieuse. Selon MailOnline, le chanteur est « furieux » de la situation et envisagerait de poursuivre en justice les sites hébergeant ces images. Dans le même temps, Satya Nadella a qualifié les deepfakes d' »alarmants et terribles » dans une interview accordée à NBC Nightly News vendredi dernier, ajoutant que les sociétés d’IA doivent « agir rapidement » pour établir des barrières contre ce type de menaces. À la Maison Blanche, le secrétaire de presse a également indiqué sur ABC News qu’ils étaient « alarmés » par la situation.

Doxing Zvbear. L’utilisateur X @Zvbear a été sous le feu des critiques pour être l’une des origines des publications virales sur la plateforme. Les fans de Swift ont doxxé Zvbear et ils assurent qui l’ont identifié. Selon ces données, il s’agirait d’un homme de 27 ans originaire de Toronto connu pour troller et publier du contenu toxique sur des plateformes telles que 4chan, X ou Reddit.

Le début de bien d’autres. L’événement a acquis une notoriété particulière car il est centré sur Taylor Swift, probablement la chanteuse la plus populaire de ce siècle. C’est aussi un aperçu potentiel de ce qui est à venir : une menace pour de nombreuses personnes – et en particulier les femmes – qui seront attaquées par des deepfakes pornographiques ou autres. Comme expliqué dans Vice, la chanteuse « vit le cauchemar pornographique de toutes les femmes ».

Images | Paul V

À Simseo | Cette femme a même un passeport, mais c’est faux : l’IA transforme la vérification des personnes en cauchemar