De nouvelles inquiétudes émergent de leur utilisation autour de l’invasion russe de l’Ukraine.

Dans la soirée du 18 février 2022, les visiteurs d’un site d’information ukrainien ont été accueillis par un spectacle familier, une vidéo de leur président prononçant un discours. Si la ressemblance était là, le visage semblait légèrement décalé avec celui de la tête du président ukrainien.

Dans la vidéo, Volodymyr Zelensky annonce que la guerre est terminée, un fait que la majorité des Ukrainiens savent être faux. C’était une vidéo deepfake. Pendant que cela se déroulait en ligne, le téléscripteur en bas de l’écran du flux télévisé en direct de la chaîne lisait le même message. Il prétendait – encore une fois à tort – que l’Ukraine se rendait.

Notre équipe du centre de recherche Lero de l’University College Cork vient de publier une étude inédite examinant la manière dont les vidéos deepfakes ont été présentées et discutées sur Twitter au cours des premiers mois de l’invasion russe de l’Ukraine.

La technologie Deepfake est un développement technologique récent qui permet essentiellement aux gens de créer des vidéos d’événements qui ne se sont jamais produits. Il semble particulièrement bien adapté à la propagation de la désinformation et des « fausses nouvelles » sur les plateformes de médias sociaux et ailleurs en ligne. Les deepfakes sont également très adaptés à la cyberguerre.

Les vidéos sont manipulées à l’aide de la technologie de l’IA et impliquent généralement un mélange de contenu réel et faux. Cela les rend plus réalistes et convaincantes que les vidéos entièrement générées à l’aide de l’IA. Par exemple, la technologie deepfake peut prendre une vraie vidéo et échanger les visages de deux personnes dans cette vidéo ou modifier les mouvements des lèvres afin qu’une personne semble dire quelque chose de différent de ce qu’elle a dit à l’origine.

Les commentateurs et les universitaires ont souligné que les fausses vidéos peuvent être réalisées beaucoup plus facilement et rapidement en utilisant la technologie deepfake qu’avec les méthodes précédentes.

Perte de confiance

Notre étude a révélé de nombreux cas où la présence de deepfakes a suscité des doutes ou de la confusion. Étonnamment, nos données ont montré des cas où des personnes accusaient de vraies vidéos d’être fausses. Nous avons également trouvé des preuves de personnes perdant confiance dans toutes les vidéos du conflit, certaines personnes approuvant les théories selon lesquelles les dirigeants mondiaux étaient morts et avaient été remplacés par des deepfakes.

Parmi les nombreux exemples de deepfakes utilisés en ligne pendant la guerre russo-ukrainienne, celui de Zelensky affirmant que la guerre était finie était peut-être le plus effrayant. En effet, il a mis en évidence comment les deepfakes pouvaient être utilisés, ainsi que les services médiatiques piratés, pour diffuser des messages contrefactuels. Le résultat net de cet incident a été que de fausses informations ont été diffusées à partir d’une source fiable. Des vidéos deepfakes similaires de la capitulation du président russe Vladimir Poutine ont également été publiées pendant la guerre.

Notre recherche est la première étude universitaire sur l’effet des deepfakes pendant la guerre. Afin de découvrir comment les deepfakes ont été utilisés au début de l’invasion russe de l’Ukraine, nous avons d’abord créé une chronologie des différents deepfakes qui ont été diffusés au début de l’invasion. Même si nous n’avons pas pu capturer tous les deepfakes apparus, nous avons essayé de trouver les exemples les plus notables et ceux qui ont le plus d’impact. Nous avons ensuite analysé la façon dont ces vidéos étaient discutées sur Twitter (maintenant appelé X).

Humour, confusion et scepticisme

La plupart des deepfakes réalisés pendant le conflit étaient de nature humoristique, certains impliquaient l’insertion de Poutine dans des films tels que La Chute (Der Untergang) ou le film de Charlie Chaplin de 1940, Le Dictateur. Il y a également eu des vidéos deepfake (et CGI) réalisées par le gouvernement ukrainien pour éduquer la population sur le conflit.

Il est intéressant de noter que démontrer la capacité de l’Ukraine à créer de fausses vidéos, même si elles étaient éducatives, aurait pu s’avérer contre-productif. Ils ont suscité la méfiance et la suspicion des téléspectateurs à l’égard des vrais médias.

Une grande partie des discussions sur les deepfakes en ligne impliquaient un scepticisme sain, comme des conseils pour vérifier les faits et détecter les deepfakes. Cependant, nous avons également trouvé de nombreux exemples de vidéos que les gens prétendaient à tort être des deepfakes. Il existe deux catégories de telles vidéos. Premièrement, de nombreuses vidéos se sont révélées être des contrefaçons de faible technologie, comme celles avec de faux sous-titres ou des vidéos d’événements survenus dans d’autres guerres présentées comme preuve des événements en Ukraine.

Deuxièmement, nous avons trouvé de nombreux exemples de vidéos réelles d’événements en Ukraine, que les commentateurs accusaient à tort d’avoir été truquées. La perte de confiance dans les médias réels est une conséquence grave des deepfakes et ne fait qu’alimenter la création de théories du complot centrées sur les deepfakes.

Apprendre les leçons

Quelles leçons l’utilisateur moyen des médias sociaux peut-il tirer de cette recherche ? La prévalence des vidéos deepfake en ligne a augmenté au cours des cinq dernières années et la détection technologique des vidéos deepfake n’est actuellement pas suffisamment précise pour constituer une solution en soi. L’important est d’encourager une bonne éducation aux médias chez les individus en équilibrant le scepticisme sain et malsain.

Il est nécessaire de considérer les médias hautement incendiaires avec scepticisme et d’attendre que ces informations soient vérifiées par de multiples sources fiables. De l’autre côté de la médaille, les gens doivent faire attention à ne pas accuser faussement les vidéos d’être des deepfakes.

Il est important de ne pas perdre confiance dans chaque média que nous rencontrons, d’autant plus que les deepfakes ne sont pas particulièrement répandus en ligne. Une chose est sûre : la question de la désinformation profonde sera présente dans tous les esprits à mesure que les conflits mondiaux se développeront tout au long de cette décennie et au-delà.