ChatGPT aide les spammeurs à créer des sites Web. Et ni OpenAI ne détecte qu’ils n’ont pas été fabriqués par des humains
Les spammeurs ont passé des années à créer de faux sites Web qui se déguisent en produits et services de niche, souvent destinés à générer des revenus publicitaires ou à stimuler d’autres sites Web pour gagner en réputation et en classement sur Google. Le problème a été détecté, mais il vient de s’aggraver et la faute incombe à ChatGPT.
laisser la machine écrire. Comme expliqué chercheur Henk van Ess, l’utilisation de cet outil à des fins comme celle-ci « était inévitable ». Van Ess a testé l’un des premiers outils qui le permettent, qui coûte neuf dollars et génère de petits textes à partir d’un titre et de quelques mots clés. Il suffit de choisir une niche de marché et cet outil créera un contenu qui correspond à ce que nous voulons en quelques secondes seulement.
ChatGPT en tant que rédacteur. Il est effectivement possible d’utiliser directement ChatGPT ou le nouveau Bing avec ChatGPT intégré de la même manière. Le chercheur a demandé au moteur OpenAI de « rédiger la partie principale d’un site Web et de suggérer des photos sur ce qu’il faut visiter en Arizona lorsque vous avez un budget serré, que vous n’avez pas de revenus et que vous ne pouvez pas conduire ». Cela suffit pour générer du contenu que l’on peut ensuite intégrer dans un site web en seulement quelques secondes puis passez à l’insertion d’annonces ou de liens vers le site que nous voulons vraiment promouvoir.
indétectable. Ce chercheur a voulu vérifier si les outils de détection de texte générés par l’IA étaient capables de détecter ce type de site Web, et en testant avec l’outil écrivain. En copiant et collant le texte généré par ChatGPT, Writer a indiqué que ce texte était généré par l’homme avec une probabilité de 100 %. Oops. Il n’a pas non plus pu être détecté par le lanceur récemment lancé Ouvrir l’IAce qui montre clairement que la découverte de ces types d’astuces devient désormais beaucoup plus complexe, même pour des algorithmes qui, en théorie, devraient faciliter la tâche.
Cela ira plus loin. L’adoption de ce type d’outils semble certes inéluctable, et l’apparition de ChatGPT Plus s’y ajoute, par exemple, le plugins qui existent déjà pour WordPress et qui génèrent du texte avec ChatGPT. « Si le sujet est vaste et dans le domaine public », a expliqué van Hess, « souvent on ne peut pas dire si ce texte a été écrit par une machine. »
C’était inévitable. Les spammeurs utilisent #ChatGPT pour créer de faux sites Web en utilisant le traitement du langage naturel. Il permet aux acteurs malveillants de générer rapidement de faux sites qui génèrent des revenus à partir de publicités ou d’autres contenus malveillants. Prochains tweets : comment ça se passe ? (1/4) pic.twitter.com/Q1Ybd1ODdt
— 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) 12 février 2023
des pièges partout. Le problème a déjà été détecté dans le domaine académique. L’utilisation de ChatGPT pour rédiger par exemple des articles a amené certaines institutions à interdire son utilisation.
Le débat sur la « fin des devoirs » a conduit à l’apparition d’outils qui tentent de détecter le texte généré par l’IA, mais la précision de ces options est très limitée. Ce qui s’est passé parmi les étudiants est en passe de devenir, comme le démontrent ces sites Web alimentés par l’IA, une tendance très réelle à l’avenir.
Un défi pour Google (et les autres). Le géant de la recherche a ici un gros problème en vue : la lutte contre les sites de spam était déjà difficile, mais avec la popularisation de ChatGPT la détection de ce contenu devient de plus en plus compliquée. l’entreprise elle-même indiqué il y a quelques jours comment vous n’interdirez pas ces contenus à moins qu’ils ne violent vos politiques anti-spam. Crawler un site web plein de ce type de contenu et gérer sa pertinence sera probablement l’un des grands défis du moteur Google et des autres moteurs de recherche.
