Venezuela, Chine, Biden et extraterrestres : la désinformation de l’IA

Un présentateur de télévision blond travaillant apparemment pour une chaîne appelée « House of News » regarde la caméra et demande en anglais : « Comment est-il vrai que le Venezuela est un pays si pauvre ? »

Mais cet homme n’est pas un journaliste, ni même un véritable être humain. C’est un avatar généré par l’intelligence artificielle (IA), un outil de plus en plus courant dans la désinformation mondiale.

Des clips sous-titrés de cette supposée chaîne d’information sont apparus sur les réseaux sociaux avec un net parti pris envers le gouvernement vénézuélien, créant un scandale dans le pays.

Et ce n’est pas un cas isolé.

« De plus en plus de régions commencent à considérer les deep fakes et les audiovisuels générés par l’IA comme une menace, généralement à l’approche des élections », a déclaré à l’AFP Shirin Anlen, experte en technologie des médias de l’ONG Witness.

Le mois dernier, une société de recherche basée aux États-Unis a identifié un faux média appelé « Wolf News » dont les ancres d’IA ont diffusé de la propagande promouvant les intérêts du Parti communiste chinois.

Une vidéo trafiquée du président américain Joe Biden avertissant de la menace d’une « nature extraterrestre » est devenue virale le mois dernier.

Et l’année dernière, une vidéo montrait le président ukrainien Volodymyr Zelensky sniffant de la cocaïne tandis qu’une autre avait la star américaine Eminem attaquant le président mexicain Andres Manuel Lopez Obrador dans une chanson de rap.

Facile à utiliser

Les avatars « House of News Espanol » ont été créés par le programme Synthesia AI.

Synthesia a signalé le contenu de la fausse chaîne d’information sur YouTube, qui l’a dûment supprimé.

« Si vous faites semblant d’être journaliste, ou si vous faites semblant d’avoir des informations de dernière heure, cela va être interdit », a déclaré à l’AFP Laura Morelli, porte-parole de Synthesia.

Cependant, la chaîne de télévision d’État VTV a diffusé une vidéo de House of News qui se vantait de l’argent gagné par une compétition nationale de baseball, malgré l’absence de chiffres officiels.

Le présentateur de haut niveau de VTV, Barry Cartaya, a même affirmé que les chiffres faisaient l’objet de discussions « aux États-Unis et dans une grande partie de l’Amérique latine ».

Le président Nicolas Maduro s’est hérissé à la suggestion que son gouvernement soit derrière les fausses vidéos.

« Ce n’est pas de l’intelligence artificielle, c’est de l’intelligence populaire », a-t-il déclaré le mois dernier. « Je suis un robot », a-t-il ajouté sarcastiquement, tout en essayant d’en imiter un.

« Un mensonge répété 1000 fois »

Les deux présentateurs de House of News, Noah et Daren, font partie du catalogue de 93 avatars de Synthesia, tout comme le duo Wolf News Alex et Jason.

Des avatars ont également été utilisés en janvier pour créer des vidéos de supposés Américains soutenant un coup d’État au Burkina Faso.

Pendant ce temps, la société mère de Facebook, Meta, a récemment démantelé des réseaux de faux comptes.

L’un, à Cuba, a créé de fausses identités « critiquant les membres de l’opposition », a déclaré Ben Nimmo, responsable mondial du renseignement sur les menaces chez Meta.

Certains ont utilisé des photos de profil qui ont probablement été générées à l’aide de l’intelligence artificielle, a-t-il déclaré, ajoutant : « C’est une tactique que nous avons vu de plus en plus souvent utilisée par les opérations d’influence au cours des dernières années ».

« Ces types de programmes peuvent être utilisés par toute personne ayant une compréhension de base », a déclaré Eduardo Mosqueira, professeur à l’Université de La Corogne.

Mosqueira dit qu’il n’est pas difficile d’identifier une fausse vidéo, mais beaucoup plus difficile de déchiffrer son origine.

« S’ils ont été un peu prudents, j’imagine que c’est impossible », a-t-il déclaré.

Et, ajoute-t-il, il est « de plus en plus facile de programmer des robots sur les réseaux sociaux qui prétendent être de vraies personnes et lancent des messages que vous souhaitez faire passer ».

Le plus souvent, la tactique fonctionne.

Mosqueira l’explique en citant une citation attribuée au propagandiste nazi Joseph Goebbels.

« Un mensonge répété 1 000 fois devient la vérité », a-t-il déclaré.