La toute première étude sur les deepfakes en temps de guerre révèle leur impact sur les médias d’information

Une toute première étude sur les vidéos deepfake en temps de guerre révèle leur impact sur les médias d’information et souligne les implications pour les sociétés de médias sociaux, les organisations médiatiques et les gouvernements.

Les deepfakes sont du matériel audiovisuel manipulé artificiellement. La plupart des vidéos deepfake impliquent la production d’un faux « visage » construit par l’IA, qui est fusionné avec une vidéo authentique, afin de créer une vidéo d’un événement qui n’a jamais vraiment eu lieu. Bien que faux, ils peuvent paraître convaincants et sont souvent produits pour imiter ou imiter un individu.

Des chercheurs de l’University College Cork (UCC) ont examiné des tweets pendant la guerre russo-ukrainienne actuelle, dans le cadre de ce qui constitue la première analyse de l’utilisation de deepfakes dans la désinformation et la propagande en temps de guerre. L’étude a été publiée le 25 octobre dans PLOS UN.

« Un nouveau type d’arme dans la guerre de propagande »

Près de 5 000 tweets sur X (anciennement Twitter) au cours des sept premiers mois de 2022 ont été analysés dans le cadre de l’étude UCC afin d’explorer la façon dont les gens réagissent aux contenus deepfakes en ligne et de découvrir des preuves des méfaits précédemment théorisés des deepfakes sur la confiance. Alors que la technologie des deepfakes devient de plus en plus accessible, il est important de comprendre comment de telles menaces émergent sur les réseaux sociaux.

La guerre russo-ukrainienne a présenté le premier exemple réel de deepfakes utilisés dans la guerre. Les chercheurs mettent en évidence des exemples de vidéos Deepfake au cours de cette guerre, notamment l’utilisation de séquences de jeux vidéo comme preuve du pilote de chasse du mythe urbain « Le Fantôme de Kiev », un deepfake du président russe Vladimir Poutine, montrant le président russe annonçant la paix avec l’Ukraine. , et le piratage d’un site d’information ukrainien pour afficher un message truqué annonçant la capitulation du président ukrainien Volodymyr Zelensky.

Saper la confiance

L’étude a révélé que les craintes des deepfakes minaient souvent la confiance des utilisateurs dans les images qu’ils recevaient du conflit, au point qu’ils perdaient confiance dans les images provenant du conflit. L’étude est également la première du genre à trouver des preuves de théories du complot en ligne intégrant des deepfakes.

Les chercheurs ont découvert que de nombreux médias réels étaient qualifiés de deepfakes. L’étude a montré que le manque d’alphabétisation sur les deepfakes a conduit à d’importants malentendus sur ce qui constitue un deepfake, démontrant la nécessité d’encourager l’alphabétisation dans ces nouvelles formes de médias.

Cependant, l’étude démontre que les efforts de sensibilisation aux deepfakes peuvent miner la confiance dans les vidéos légitimes. Selon l’étude, les médias d’information et les agences gouvernementales doivent peser les avantages des deepfakes éducatifs et du pré-bunking par rapport aux risques de saper la vérité. De même, les sociétés de presse et les médias doivent être prudents dans la manière dont ils qualifient les deepfakes présumés au cas où ils susciteraient des soupçons sur les médias réels.

« Une grande partie de la désinformation que l’équipe a analysée dans l’ensemble de données de discours X (anciennement Twitter) provenait étonnamment de l’étiquetage des médias réels comme des deepfakes. De nouvelles découvertes sur le scepticisme des deepfakes ont également émergé, y compris un lien entre les deepfakes alimentant les croyances conspiratrices et le scepticisme malsain », déclare John Twomey, chercheur à l’École de psychologie appliquée de l’UCC.

« Les éléments de cette étude montrent que les efforts de sensibilisation aux deepfakes peuvent ébranler notre confiance dans les vidéos légitimes. Avec la prévalence des deepfakes en ligne, cela posera des défis croissants aux sociétés de médias d’information qui doivent être prudentes dans la manière dont elles étiquetent les deepfakes suspectés au cas où. ils suscitent la suspicion autour des vrais médias »,

La couverture médiatique doit se concentrer sur l’éducation des gens

« La couverture médiatique des deepfakes doit se concentrer sur l’éducation des gens sur ce que sont les deepfakes, quel est leur potentiel, quelles sont leurs capacités actuelles et comment elles évolueront dans les années à venir », déclare Twomey.

« Les chercheurs et les commentateurs craignent depuis longtemps que les deepfakes aient le potentiel de saper la vérité, de propager des informations erronées et de miner la confiance dans l’exactitude des médias d’information. Les vidéos Deepfake pourraient saper ce que nous savons être vrai lorsque les fausses vidéos sont considérées comme authentiques et vice versa. « , déclare le Dr Conor Linehan, superviseur à l’école de psychologie appliquée de l’UCC.