C’est devenu un gouffre sans fond de gens déshabillant les femmes grâce à l’IA

Depuis que l’IA de Grok a conquis ce qui était autrefois Twitter, le réseau social est devenu un puits infini de contenus générés par l’intelligence artificielle. Le problème, c’est lorsque ce contenu est utilisé pour désinformer ou finit par nuire à d’autres personnes. Et aujourd’hui, Grok est devenu l’une des principales sources d’images sexualisées créées sans consentement. Comme le rapporte Bloomberg, le chatbot a généré environ 6 700 images de ce type par heure sur une période de 24 heures début janvier.

L'ampleur du problème. Sur X, de nombreux utilisateurs passent leur temps à utiliser Grok pour modifier des photos que d'autres personnes publient sur le réseau social, générant des versions dans lesquelles elles apparaissent légèrement vêtues ou dans des situations sexualisées. Le média cite les conclusions de la chercheuse indépendante Geneviève Oh, qui a identifié que lors de l'analyse réalisée entre le 5 et le 6 janvier, Grok a produit ces images à un rythme 84 fois supérieur à celui des cinq autres sites Internet les plus actifs dans ce type de contenu. Oh a estimé que 85 % du total des images produites par Grok ont ​​été générées pour sexualiser.

Quelle est la particularité de Grok. Contrairement à d’autres chatbots comme ChatGPT, Claude ou Gemini, Grok n’impose pas beaucoup de limites à la génération de contenu sexualisé à partir de vraies personnes. Les utilisateurs peuvent marquer le compte de Grok dans les réponses aux messages d'autres personnes et lui demander de modifier les images originales. Les demandes les plus courantes incluent des phrases telles que « mettez-la en bikini », « enlevez ses vêtements » ou « changez ses vêtements pour un bikini transparent ».

Le chatbot génère ces images en quelques secondes et les publie automatiquement en les reliant à la publication originale de la victime.

Des victimes sans réponse. Maddie, une étudiante en médecine de 23 ans citée par Bloomberg, s'est réveillée le jour du Nouvel An pour découvrir que plusieurs inconnus avaient modifié une photo d'elle et de son petit ami à l'aide de Grok. Ils ont d’abord retiré leur partenaire de l’image et l’ont mise en bikini, puis un autre utilisateur a demandé à Grok de remplacer le bikini par du fil dentaire. « Mon cœur s'est serré. Je me sentais désespérée, impuissante et simplement dégoûtée », a-t-elle déclaré.

Lorsqu’elle et ses amis ont signalé les images via les systèmes de modération de X, ils n’ont jamais reçu de réponse. Dans un autre cas, X a déterminé qu’il n’y avait aucune « violation des règles » dans le contenu signalé. Selon le média, les images étaient encore sur le réseau social au moment de la publication du rapport.

Cas médiatiques. Le problème a même atteint les personnalités publiques. Et comme le rapporte The Guardian, plusieurs utilisateurs ont demandé à Grok de modifier une image de la vice-première ministre suédoise, Ebba Busch, pour la montrer en bikini. Par ailleurs, deux ministres du gouvernement britannique ont également été victimes de ces manipulations. Eliot Higgins, fondateur de Bellingcat, un groupe spécialisé dans le journalisme d'investigation, a expliqué au média comment Grok avait répondu à des instructions telles que « bikini maintenant » ou « mettez-lui un bikini avec le drapeau confédéré » sur la photo de Busch au Parlement.

Réponse de Musk et X. En réponse aux récentes critiques, Elon Musk a déclaré dans Cependant, cette stratégie consistant à punir les utilisateurs au lieu d'empêcher le chatbot de générer le contenu semble s'être révélée inefficace.

Comme le rapporte Bloomberg, lorsque quelqu'un demande à supprimer ces images dans les commentaires, Grok s'excuse souvent et dit qu'il les supprimera, mais dans de nombreux cas, les images restent et le système continue d'en générer de nouvelles.

Légalité. Carrie Goldberg, une avocate spécialisée dans les crimes sexuels en ligne, a expliqué au média que l'ampleur des deepfakes sur X est « sans précédent » et a noté que la plateforme « n'agit pas comme un éditeur passif. Elle génère et crée en fait l'image ». En ce sens, la loi Take It Down, approuvée aux États-Unis en 2025, tient les plateformes responsables de la production et de la distribution de ce type de contenus. Brandie Nonnecke, d'Americans for Responsible Innovation, a déclaré à Bloomberg que les plateformes avaient jusqu'en mai 2026 pour établir le processus d'élimination requis.

Une utilisation de plus en plus répandue. Bien que la technologie permettant de créer des deepfakes sexuels ne soit pas nouvelle, puisqu'il existe des dizaines de sites Web et de robots Telegram dédiés au déshabillage des personnes, le fait que cette capacité soit hébergée par un réseau social aussi connu que X marque un tournant. Et contrairement aux services spécifiques de manipulation d'images, Grok est gratuit, produit des résultats en quelques secondes et est disponible pour des millions d'utilisateurs sur X.

Sloan Thompson de l'organisation EndTAB a déclaré à Wired que « lorsqu'une entreprise propose des outils d'IA générative sur sa plateforme, il est de sa responsabilité de minimiser le risque d'abus basés sur l'image. Ce qui est alarmant ici, c'est que X a fait le contraire. Ils ont intégré l'abus d'image grâce à l'IA directement dans une plateforme grand public, rendant la violence sexuelle plus facile et évolutive. »

Image de couverture | Tamara Bellis et Antonio Vallejo

À Simseo | Nous entrons dans une nouvelle ère de robotique pilotée par l’IA et Disney en est la vitrine parfaite