Un modèle prédictif détecte la propagande extrémiste potentielle sur les réseaux sociaux

Le groupe militant État islamique, ou ISIS, a perdu son territoire physique en 2019, mais il reste une force active sur les réseaux sociaux, selon des chercheurs du Penn State College of Information Sciences and Technology, qui ont cherché à mieux comprendre les stratégies en ligne du groupe. .

Dans leur travail, paru dans la revue Analyse et exploration des médias sociauxles chercheurs ont analysé un vaste ensemble de données sur l’activité de X, anciennement connu sous le nom de Twitter, pour développer un modèle prédictif permettant de détecter les utilisateurs et les contenus liés aux extrémistes de l’État islamique.

Ils ont identifié les messages de propagande potentiels et leurs caractéristiques et ont développé un classificateur d’images pour trouver les catégories d’images les plus fréquemment jointes aux tweets sur l’Etat islamique. Ils ont en outre collecté un ensemble de données de tweets de partisans potentiels de l’Etat islamique pour enquêter sur leurs activités récentes.

« Le groupe État islamique et ses affiliés, sympathisants et partisans continuent de manipuler les communautés en ligne pour diffuser de la propagande extrémiste », a déclaré Younes Karimi, étudiant diplômé en doctorat en informatique et premier auteur de l’article.

« En étudiant leurs comportements et stratégies et en surveillant leur présence en ligne, nous pouvons aider les sociétés de médias sociaux à identifier et éventuellement à restreindre ces comptes plus rapidement et à réduire leur impact sur les communautés en ligne. »

Selon Karimi, le groupe État islamique s’appuie de plus en plus sur les réseaux sociaux pour diffuser sa propagande, affaiblir ses rivaux et recruter des sympathisants, malgré les contre-mesures prises par des sites comme X pour restreindre ses activités en ligne. ISIS Watch, une chaîne en ligne qui publie des mises à jour quotidiennes sur les contenus terroristes interdits sur le service de messagerie instantanée multiplateforme Telegram, a signalé la suppression de près de 5 000 robots et chaînes terroristes au cours des 11 premiers jours de 2024.

L’ensemble de données des chercheurs comprenait des millions de tweets, allant de 2009 à 2021, liés au groupe État islamique et à sa propagande.

« La perspective longitudinale de l’ensemble de données est importante car elle inclut des données d’avant et d’après 2015, lorsqu’une répression majeure menée par Twitter a supprimé les comptes d’utilisateurs et les contenus impliquant le groupe État islamique », a déclaré Karimi. « En réponse, les extrémistes ont dû modifier leur stratégie en ligne et se tourner vers d’autres plateformes, et on sait peu de choses sur leurs déplacements en ligne depuis cette répression. »

Pour identifier les partisans potentiels de l’Etat islamique, les chercheurs ont commencé par créer un classificateur d’utilisateurs utilisant l’ancien ensemble de données. Les comptes ISIS identifiés avant 2015 ont servi de données étiquetées pour les utilisateurs ISIS de l’étude. Les chercheurs ont utilisé des techniques d’apprentissage automatique et de traitement du langage naturel pour différencier les types d’utilisateurs partageant le contenu du groupe extrémiste.

« Les utilisateurs de notre ensemble de données allaient des membres connus du groupe État islamique aux retweeteurs et citants en passant par ceux qui mentionnent l’EI », a déclaré Karimi.

« Nous pensons que les utilisateurs qui retweetent ou citent le contenu du groupe État islamique sont plus susceptibles d’être des affiliés ou des sympathisants, tandis que ceux qui se contentent de mentionner le contenu sont moins susceptibles d’être des partisans. Cependant, les tweets publiés par les mentionnants sont toujours très probablement liés à l’État islamique et contiennent des sujets similaires aux tweets d’ISIS, ce qui permet aux mentionnants d’être considérés comme nos utilisateurs non-ISIS et leurs homologues non triviaux des utilisateurs d’ISIS.

Les chercheurs ont ensuite analysé les tweets pour identifier ce qu’ils ont appelé la « propagande des candidats ». Ils ont comparé les sujets utilisés par les comptes connus du groupe État islamique avant 2015 dans l’ancien ensemble de données au contenu publié après 2015 par des affiliés et partisans potentiels dans leur ensemble de données récent.

Ils ont examiné ces tweets sous trois angles. Le premier, l’engagement anormal, identifie un contenu omniprésent et continu dans la manière dont il est partagé.

« Nous avons formulé et utilisé une méthode pour détecter automatiquement les messages de propagande potentiels largement diffusés à grande échelle », a déclaré Karimi. « Notre méthode a identifié les utilisateurs de l’ensemble de données qui avaient peu de followers mais dont le contenu était largement diffusé via des retweets et des likes. »

Le deuxième angle a examiné des mots et des images basés sur une idéologie, qui, selon les chercheurs, sont souvent conçus pour susciter une réponse émotionnelle et influencer un large public.

Le troisième angle du chercheur pour examiner le contenu impliquait les hashtags.

« Les partisans et les affiliés du groupe État islamique ont recruté des personnes pour retweeter des hashtags afin de créer des idées tendances, telles que de fortes références religieuses, et organiser les messages du groupe pour améliorer l’image de marque du groupe et assurer la longévité des messages », a déclaré Karimi.

Parmi les hashtags les plus utilisés dans les tweets de l’Etat islamique figuraient « L’État islamique », « Actualités du califat », « Urgent », « L’État du califat » et « Etat islamique ».

Étant donné que cette approche se concentre sur les utilisateurs et leur contenu, les chercheurs ont déclaré qu’elle pourrait être appliquée à d’autres plateformes de médias sociaux au-delà de X.

« Notre étude peut aider les équipes de sécurité des réseaux sociaux à traquer les comptes extrémistes potentiels, à identifier leurs partisans et leurs amplificateurs et à empêcher la propagation de la propagande dont elles ont besoin pour développer leur communauté », a déclaré Karimi. « Le faire en temps opportun pourrait aider les forces de l’ordre et les agences gouvernementales dans leurs efforts d’intervention contre l’extrémisme. »