"Dans deux ans, il sera impossible de savoir ce qui est réel et ce qui ne l'est pas": l'enjeu de la régulation des deepfakes

Les joueurs louent la puissance de leurs cartes graphiques. Quelqu'un les utilise pour générer du porno IA

Il n’y a pas si longtemps, quelqu’un a pensé à louer (ou même à « voler ») la puissance de calcul des ordinateurs d’utilisateurs privés pour extraire des crypto-monnaies. En théorie, tout le monde a gagné, mais cette pratique s’est estompée après les changements radicaux intervenus dans les crypto-monnaies comme l’ETH. L’idée qui a été appliquée à cette fin commence maintenant à être appliquée à un objectif très différent : générer du porno par l’IA.

Prêtez-nous votre GPU. Salad est le nom de la société qui rémunère les joueurs sous forme de skins Fortnite et de cartes cadeaux Roblox pour leur louer la puissance de leurs GPU lorsqu'ils ne l'utilisent pas. La question, bien sûr, est de savoir pourquoi Salad utilise le pouvoir qu’il loue.

Images porno de IA. Comme le révèle 404 Media, l’une des options proposées par Salad est de générer des images pornographiques par l’IA. Ils n'ont pas vu de « preuve » de ces images, mais ils indiquent que c'est techniquement possible et que Salad disposait déjà d'un client d'IA générative permettant la création de ce type de contenu.

Mais vous pouvez empêcher que votre GPU soit utilisé de cette façon. L'installation de l'application Salad qui gère tout fait apparaître une boîte de dialogue avec l'option que nous pouvons activer ou désactiver. Il s'intitule « Charges de travail de contenu pour adultes », et si les utilisateurs ne l'activent pas, leurs graphiques ne seront (théoriquement) pas utilisés pour générer ce type de contenu. Il existe une série de préférences pour les charges de travail dans lesquelles Salad vous permet d'établir à quoi sert la puissance GPU que les utilisateurs louent.

Tu ne verras pas ce qui se passe. Le client Salad est également chargé de cacher aux utilisateurs les résultats des algorithmes qui utilisent cette puissance de calcul. Les processus sont isolés du système d'exploitation Windows sur lequel l'application s'exécute et il ne sera pas possible d'accéder au contenu généré sur la machine qui « prête » ces ressources.

Les joueurs gagnent des dollars, mais ils ne sont pas payés en dollars. Salad enregistre ce que chaque utilisateur gagne sous forme de dollars, mais ne paie pas en espèces. Au lieu de cela, les utilisateurs peuvent dépenser cet argent dans le magasin Salad, où se trouvent des cartes cadeaux spécialement destinées au secteur du jeu vidéo. Il existe sur Steam, PlayStation ou Nintendo, et aussi sur des cartes de jeux comme Roblox, Valorant ou League of Legends.

Clients. L'un des clients de Salad est Civitai, une plateforme qui permet de partager des modèles de diffusion stable et qui permet également de générer des images par IA. Cette plateforme permet aux utilisateurs de générer du contenu pornographique à l’aide de l’IA, une pratique de plus en plus répandue.

Risques. Comme le souligne 404 Media, le danger est que ceux qui finissent par payer pour utiliser la puissance de cette « ferme de GPU distribuée » finissent par en profiter pour générer des images pornographiques sans l'autorisation des personnes qu'ils représentent. Le cas de Taylor Swift a été particulièrement controversé ces derniers temps et Civitai, par exemple, affirme travailler à la mise en place de filtres qui empêchent ce type de génération d'images. Le contrôler complètement semble cependant être une mission impossible.

Images | Argent brillant

À Simseo | L'origine des deepfakes pornographiques de Taylor Swift : les utilisateurs testent les limites des modèles d'IA