Si vous pensez que Twitter est horrible à cause des publicités de Broncano, c'est parce que vous n'avez pas encore visité Facebook

Si nous avons appris quelque chose des publicités sur Twitter, c'est que Broncano, Arguiñano, Resines et Martiño Rivas ont beaucoup d'argent parce qu'ils utilisent une méthode infaillible pour générer des revenus supplémentaires, une méthode qu'ils ne peuvent pas révéler car elle déstabiliserait l'Espagne et son pays. système économique. Nous ne le disons pas, certains articles tout à fait légitimes et complètement faux provenant de sites Internet qui n’imitent en rien des médias comme El País et El Mundo le disent.

Ces utilisateurs de Eh bien, sur Facebook, les choses ne manquent pas.

mon premier gâteau. Certaines pages sont apparues sur Facebook qui utilisent l'intelligence artificielle générative pour créer du contenu qui encourage, et cela fonctionne. L'un d'eux a été créé en 2020, compte 112 000 abonnés, est décrit comme un « site d'information et de médias » et son contenu est constitué de photos de personnes qui ont réalisé leur premier gâteau ou leur première pizza et attendent les commentaires du reste des gens. . Avant ces photos, qui sont désormais les plus courantes, la page avait essayé de fausses photos de pauvres, de phénomènes atmosphériques inexistants, des photos d'animaux et des vidéos virales.

Toutes les images de personnes ont été générées avec l’intelligence artificielle et si vous êtes moyennement habitué à cette technologie, il est facile de les identifier. Malheureusement, tout le monde n’a pas un œil exercé et tomber est facile. Ces publications sont remplies de « j'aime », de partages et de commentaires d'utilisateurs félicitant, de commentaires de profils apparemment authentiques. Le rythme de publication est exagérément élevé, avec une photo toutes les trois heures.

Cette mamie fait du crochet. Cette autre page va dans le même sens, qui met en ligne des photos de grands-mères en train de faire du crochet. Ces mamies sont impatientes d'entendre parler de vos créations, et encore une fois, ces images générées par l'IA sont accrocheuses. Contrairement à la page précédente, celle-ci a toujours opté pour le crochet, d'abord avec une combinaison de photos réelles (d'origine inconnue) et réalisées avec l'IA et maintenant uniquement avec l'IA.

Tandis que le premier met en ligne des photos toutes les trois heures, l'autre met en ligne une avalanche d'images d'un coup, cinq exactement, chaque jour. Des photos remplies d'interactions et de commentaires, trompant ainsi l'algorithme pour augmenter la portée de la page. Cette page compte d'ailleurs 145 000 abonnés et bien qu'elle renvoie vers un site Web avec des modèles de crochet (dont l'URL n'a rien à voir ni avec le nom de la page ni avec le thème) dans sa section d'information, elle ne publie pas de liens pour générer trafic ou ventes. Téléchargez uniquement de fausses photos de grand-mères en train de faire du crochet.

Et à quoi ça sert ? La première option est qu’il s’agit de pages qui cherchent à monétiser à l’aide de l’IA. Sur Facebook, il est possible de gagner de l'argent en créant du contenu et, évidemment, plus c'est viral, plus vous gagnez d'argent. Cela peut également être une stratégie pour gagner des abonnés légitimes à la page. Nous avons trouvé la page d'un photographe (avec site internet, Instagram, email, numéro de téléphone…) qui utilise des images d'enfants pauvres fabriquant des jouets avec des bouteilles en plastique et de faux oiseaux, probablement pour générer des interactions.

Ou quelque chose de pire. Une autre possibilité est qu’ils utilisent ce contenu pour gonfler leur base de followers, puis passent ensuite à autre chose avec probablement de mauvaises intentions, comme lancer une arnaque. Il est vrai que de nombreux « j’aime » et abonnés peuvent être faux et, en fait, il existe des indices qui l’indiquent. Par exemple, les photos de grands-mères couturières comptent généralement entre 600 et 1 000 likes, entre 60 et 200 commentaires et entre 10 et 20 partages. Des chiffres trop stables pour une page aux 145 000 followers. Pas une seule publication virale ? Bizarre.

Le problème est que, d'après ce que nous avons pu vérifier en faisant un échantillon rapide des profils qui commentent, il y a de vraies personnes qui commentent et partagent. S’il est vrai que l’on ne sait pas ce que deviendront ces pages dans quelques mois ou années, lorsqu’elles seront encore plus gonflées, nous savons qu’il y a des gens avec de mauvaises intentions. Des gens comme John Cornell ou James Carter, le même gars avec les mêmes photos mais un nom différent, selon la publication que nous consultons, ou des profils nouvellement créés avec une seule photo. Les commentaires vont toujours dans le même sens :

• « Désolé de vous déranger, mais je ne veux pas vous envoyer de demande d'amitié sans autorisation. Pouvez-vous m'ajouter sur Facebook ? »
• « J'adore vos commentaires, j'adorerais être amis sur Facebook »
• « Tu me rappelles quelqu'un que je connais, tu vis à X ? »

Personnes majeures. Ces commentaires sur des profils manifestement faux s’adressent toujours au même groupe démographique : les personnes âgées, en particulier les femmes. Ce n'est pas un hasard si les pages publient des photos de gâteaux et de crochet, tout comme ce n'est pas un hasard si les gens qui font des gâteaux sont des jeunes et ceux qui font du crochet sont des grands-mères plus âgées extrêmement stéréotypées.

Objectif : démarrer une conversation. Très probablement, l'objectif des personnes qui commentent est d'entamer une conversation avec de vrais utilisateurs sans méfiance pour, à long terme, réaliser une sorte d'arnaque conventionnelle : envoyer de l'argent, transférer des données, etc.

L'IA va compliquer les choses. Bien que les images vues sur ces pages soient fausses et visibles à l’œil nu, la vérité est qu’elles représentent un échantillon des défis auxquels nous allons être confrontés avec l’intelligence artificielle générative. Il est vrai qu’il existe déjà des propositions pour que les contenus générés par l’IA soient marqués comme tels, mais la réalité est qu’il existe un public peu instruit et très susceptible de croire ce qu’il voit à l’écran sans se demander d’où cela vient. Et il y aura toujours des gens prêts à en profiter.

Images | Simseo

À Simseo | Les escroqueries vocales clonées par l'IA sont de plus en plus courantes, mais il existe une solution potentielle : les « mots de passe familiaux »