Aipasta utilise l'IA pour paraphraser et répéter la désinformation
Préparez-vous pour une nouvelle source de désinformation en ligne: Aipasta.
La recherche a démontré que l'IA générative peut produire un contenu persuasif. Pendant ce temps, les campagnes dits de copypasta profitent de l'effet de « vérité répétitive » en répétant exactement le même texte encore et encore jusqu'à ce qu'il semble plus susceptible d'être vrai par ceux qui le rencontrent à plusieurs reprises.
Dans une étude apparaissant dans NEXUS PNASle chercheur Saloni Dash et ses collègues explorent comment ces deux stratégies peuvent être combinées dans ce que les auteurs font «Aipasta».
Dans les campagnes Aipasta, l'IA peut être utilisée pour produire de nombreuses versions légèrement différentes du même message, donnant au public l'impression que le message est largement détenu par de nombreuses personnes différentes et susceptibles d'être vraies. Les auteurs ont utilisé des méthodes Copypasta et Aipasta pour produire des messages autour des théories du complot selon lesquelles l'élection présidentielle de 2020 était frauduleuse ou que la pandémie Covid-19 était intentionnelle. Dans une enquête en ligne auprès de 1 200 Américains recrutés par prolifique, ni Copypasta ni Aipasta n'étaient efficaces pour convaincre les participants à l'étude que les théories du complot étudiées étaient vraies.
Lors de l'examen des participants républicains, qui pourraient être prédisposés à donner des crédits aux complots spécifiques étudiés, Aipasta a accru la croyance en la fausse revendication de la campagne plus que le copypasta. Cependant, pour les participants des deux parties, l'exposition à Aipasta – mais pas Copypasta – a augmenté la perception qu'il y avait un large consensus sur le fait que la réclamation était vraie.
Selon les auteurs, l'Aipasta généré pour l'étude n'a pas été détectée par les détecteurs de texte AI, ce qui suggère qu'il sera plus difficile de supprimer des plateformes de médias sociaux que le copypasta, qui est susceptible d'amplifier son efficacité par rapport à la copypasta.
Fourni par PNAS Nexus
