Alibaba a une nouvelle open source pour générer des vidéos. Le problème est qu’il est utilisé pour générer des fesses profondes pornographiques
La semaine dernière, Alibaba a lancé Wanx 2.1, un nouveau modèle d’IA pour la génération de vidéos qui rivalise avec d’autres comme Sora, Openai ou I Regin 2, de Google. L’outil a fini par devenir 24 heures plus tard, la personne responsable de des dizaines de vidéos pornographiques Ils seront publiés sur Internet.
WANX 2.1 est également un modèle open source dont le code est disponible dans GitHub. Très bientôt, les utilisateurs aiment le contenu pornographique et qui possédaient également les connaissances techniques appropriées en profitaient à ce modèle équitable pour cela: générer des vidéos porno.
Ils l’ont dit dans 404 Media, où ils ont indiqué comment dans les communautés dédiées à la production et à la partage de profondeurs pornographiques sans consentement des personnes représentées, les utilisateurs « salivaient » en raison du modèle Alibaba avancé.
Certaines de ces vidéos ont été partagées dans Civitai, une plate-forme dans laquelle les utilisateurs partagent des images et des vidéos générées avec des outils d’IA, mais dans lesquels ces images sont également achetées et vendues.
Les statistiques que nous pouvons trouver dans les pages des modèles d’IA utilisées pour créer ces images et vidéo montrent comment Ces modèles ont déjà été téléchargés des centaines de fois par les utilisateurs.
Il y a déjà des dizaines de vidéos pornographiques créées avec WAN 2.1, indiquent en moyenne 404. Dans Civitai, les utilisateurs sont autorisés à partager des modèles d’IA, mais le contenu pornographique non vu n’est pas autorisé. Cela n’empêche pas les utilisateurs de décharger les modèles et de les utiliser pour produire ces modèles eux-mêmes, affirment-ils dans ce support.
Le problème est une fois de plus l’utilisation d’outils qui, bien sûr, permettent des vidéos parfaitement appropriées et spectaculaires, mais peuvent également être utilisées pour des utilisations comme celles-ci. Nous avons déjà vu comment ce type de FACFAKES peut devenir très rentable, et l’avancée de ces outils rend difficile le contrôle de ce type de contenu.
Dans Simseo | En Corée du Sud, Deepfake Porn est devenu un cauchemar. Votre solution: trois ans de prison pour ceux qui le voient
