Les robots auxiliaires dans les communautés en ligne diminuent l’interaction humaine

Lorsque les bots – des agents automatisés qui effectuent des tâches au nom des humains – sont plus actifs dans les communautés en ligne, il a des effets profonds sur la façon dont les humains interagissent les uns avec les autres sur ces plateformes. Les robots conçus pour aider les utilisateurs à voir davantage de contenu augmenter le nombre de personnes avec les utilisateurs se connectent, mais aussi la diminution des interactions entre les personnes.

Dans les communautés en ligne, les réponses, les goûts et les commentaires entre les utilisateurs forment un réseau d’interactions. L’analyse de ces réseaux sociaux montre des modèles, tels que qui se connecte et qui est populaire ou important dans la communauté.

Mes collègues Nicholas Berente et Hani Safadi et moi avons analysé la structure du réseau des communautés sur Reddit, appelées subdreddits, qui avaient vu une utilisation accrue de robots de 2005 à 2019. Notre objectif était de voir si la présence de robots a affecté la façon dont les membres de la communauté humaine interagissaient les uns avec les autres.

Sur la base de recherches récentes, nous savions que nous recherchions deux types de robots: les robots réflexifs et de supervision.

Les robots réflexifs sont codés pour se connecter à l’interface de programmation d’applications d’une communauté. Sur la base de la façon dont ils sont codés, ils publient du contenu basé sur des règles spécifiques ou recherchent un contenu spécifique et publient une réponse en fonction de leurs règles préprogrammées. Les robots de supervision ont plus d’autorisations dans la communauté et peuvent supprimer ou modifier les publications ou même interdire les utilisateurs en fonction des règles de modération de la communauté préprogrammées.

Nous avons constaté que lorsqu’il y a plus d’activité de bot réflexive dans une communauté – plus de bots publiant du contenu – il y a des connexions plus humaines à humaines. Cela signifie que les bots réflexifs publiant du contenu permettent aux gens de trouver un nouveau contenu et de s’engager avec d’autres utilisateurs qu’ils n’auraient pas vus autrement. Cependant, cette activité BOT élevée conduit à moins de discussions entre les utilisateurs. Si un utilisateur publie sur un subreddit, il est plus probable qu’un bot réponde ou s’intergera dans la conversation au lieu de deux utilisateurs humains se livrant à une discussion significative.

Lorsqu’il y a des robots de supervision modérant une communauté, nous voyons moins de centralisation dans le réseau social humain. Cela signifie que les personnes clés qui étaient importantes pour la communauté ont moins de liens qu’auparavant. Sans robots de supervision, ces membres seraient ceux qui établissent et appliquent les normes communautaires. Avec les robots de supervision, cela est moins nécessaire et ces membres humains sont moins au cœur de la communauté.

Les robots sont répandus dans les communautés en ligne, et ils peuvent traiter très rapidement de grandes quantités de données, ce qui signifie qu’ils peuvent réagir et répondre à de nombreux postes que les humains.

De plus, à mesure que l’IA générative s’améliore, les gens pourraient l’utiliser pour créer des comptes de bot de plus en plus sophistiqués, et les plateformes pourraient l’utiliser pour coordonner la modération du contenu. Les sociétés technologiques investissant massivement dans des technologies génératrices d’IA pourraient également déployer des robots d’IA génératifs pour accroître l’engagement sur leurs plateformes.

Notre étude peut aider les utilisateurs et les dirigeants communautaires à comprendre l’impact de ces robots sur leurs communautés. Il peut également aider les modérateurs communautaires à comprendre l’impact de l’activation de la modération automatisée à travers des robots de supervision.

Les robots sont rigides en raison de leur nature basée sur des règles, mais ils sont susceptibles de devenir plus avancés car ils intègrent de nouvelles technologies telles que l’IA générative. Des recherches supplémentaires seront nécessaires pour comprendre à quel point les robots d’IA génératifs complexes affectent les interactions humaines à humaines dans les communautés en ligne.

Dans le même temps, l’automatisation de la modération de la plate-forme peut entraîner des effets étranges, car les robots sont plus rigides dans leur application et ne peuvent pas faire face à des problèmes potentiels au cas par cas. Il reste à voir comment l’IA génératrice modifie les robots modérateurs.