Le contenu de l'IA constitue une triple menace pour les modérateurs de Reddit
Reddit se présente comme « l'endroit le plus humain sur Internet », mais la prolifération de contenus générés par l'intelligence artificielle menace d'évincer une partie de l'humanité du forum de partage d'informations.
Les modérateurs de contenu de certains des forums les plus populaires de Reddit voient une certaine valeur dans le contenu généré par l'intelligence artificielle, mais ils craignent généralement que l'IA ne réduise l'utilité et la valeur sociale d'une communauté fière de son authenticité.
« Ils s'en inquiétaient à trois niveaux : diminution de la qualité du contenu, perturbation des dynamiques sociales et difficulté à gouverner », a déclaré Travis Lloyd, doctorant dans le domaine des sciences de l'information. « Et pour répondre à cela, ils ont adopté des règles dans leurs communautés, qui établissaient des normes, mais ils ont également dû faire respecter ces règles, ce qui est un défi. »
Lloyd est l'auteur principal de l'article « Il doit y avoir beaucoup de choses qui nous manquent : modérer le contenu généré par l'IA sur Reddit », qui est présenté à la conférence ACM SIGCHI sur le travail coopératif assisté par ordinateur et l'informatique sociale (CSCW 2025), qui s'est tenue du 18 au 22 octobre à Bergen, en Norvège. Le travail a reçu une mention honorable pour le meilleur article.
L'auteur principal est Mor Naaman, professeur de sciences de l'information Don et Mibs Follett à Cornell Tech, au Jacobs Technion-Cornell Institute et au Cornell Ann S. Bowers College of Computing and Information Science. L'autre co-auteur est Joseph Reagle, professeur agrégé d'études en communication à la Northeastern University.
Plus de 110 millions de personnes sont actives sur Reddit chaque jour, discutant de pratiquement tous les sujets imaginables : de l'actualité et de la politique aux sports, divertissements, affaires, culture populaire, Pokémon et animaux de compagnie. Les utilisateurs peuvent publier du contenu (liens d'actualités, photos, vidéos), commenter le contenu des autres et voter pour ou contre des éléments. Les critères de vote positif et négatif varient selon les catégories, appelées subreddits.
Des recherches antérieures menées par Lloyd, Naaman et leurs collègues cherchaient à comprendre combien de communautés Reddit réagissaient au contenu de l'IA ; cet article va plus loin, en s'adressant directement aux modérateurs de contenu pour voir exactement comment ils tentent de préserver l'humanité de Reddit dans un monde de plus en plus infusé par l'IA.
Ce travail a débuté en 2023, un an après la sortie de ChatGPT. Lloyd s'est dit curieux de savoir comment ce nouvel outil affecterait l'écosystème de l'information.
« Nous avons eu du mal à l'étudier car il (le contenu généré par l'IA) est difficile à détecter », a-t-il déclaré. « Et puis nous avons réalisé que les modérateurs de la communauté auraient également du mal avec cela. »
Pour ce travail, les chercheurs ont recruté des modérateurs de subreddits populaires qui avaient également des règles concernant l'utilisation du contenu de l'IA. Les chercheurs se sont retrouvés avec 15 modérateurs qui ont supervisé collectivement plus de 100 subreddits différents, avec des adhésions allant de 10 personnes à plus de 32 millions.
Lloyd a mené les entretiens et a constaté que la plupart des modérateurs considéraient le contenu de l'IA comme négatif. Il y avait des points positifs : l'un d'entre eux, par exemple, y voyait de la valeur en tant qu'outil permettant de traduire vers l'anglais à partir de sa langue maternelle. Le modérateur du subreddit « Ask Historians » (r/AskHistorians) a déclaré : « … peut-être qu'ils sont des experts en histoire allemande, mais ils ne parlent pas très bien anglais. Alors ils écrivent leur réponse en allemand, puis utilisent ChatGPT pour essayer de la traduire… c'est leur propre contribution intellectuelle ou leur propre contenu.
Mais le modérateur de r/WritingPrompts s'est montré moins flexible : « Soyons absolument clairs : vous n'êtes pas autorisé à utiliser l'IA dans ce subreddit, vous serez banni. »
Parmi les trois principales préoccupations, la qualité du contenu était la priorité. Selon un modérateur avec lequel les auteurs se sont entretenus, le contenu de l'IA « essaie de correspondre à la substance et à la profondeur d'un article typique… cependant, il existe de fréquentes erreurs flagrantes dans le style et le contenu ». Le style, l'inexactitude et les divergences par rapport au sujet prévu étaient les principaux problèmes.
Concernant la dynamique sociale, plusieurs personnes interrogées ont exprimé leur crainte que l’IA ait un impact négatif sur les interactions individuelles significatives, citant comme sous-produits potentiels la diminution des opportunités de connexion humaine, les relations tendues et la violation des valeurs communautaires.
Les modérateurs craignaient également que leur tâche déjà difficile de patrouiller le contenu sur leurs subreddits individuels ne soit rendue encore plus difficile avec l'augmentation du contenu généré par l'IA. Le modérateur de r/explainlikeimfive a déclaré : « Je dirais que c'est la préoccupation la plus menaçante… Elle est souvent difficile à détecter et nous la considérons comme très perturbatrice pour le fonctionnement réel du site. »
Naaman a déclaré qu'il appartenait actuellement aux modérateurs, tous bénévoles, d'aider Reddit à préserver l'humanité qu'il chérit.
« La question majeure reste de savoir comment ils parviendront à atteindre cet objectif », a-t-il déclaré. « Une grande partie de cette somme ira inévitablement aux modérateurs, qui sont en nombre limité et surchargés. Reddit, la communauté des chercheurs et d'autres plateformes doivent relever ce défi, sinon ces communautés en ligne échoueront sous la pression de l'IA. »
« Cette étude nous a montré qu'il existe également un appétit pour l'interaction humaine », a déclaré Lloyd. « Et tant qu'il y aura ce désir, que je ne vois pas disparaître, je pense que les gens essaieront de créer ces espaces réservés aux humains. Je ne pense pas que ce soit désespéré. »
