Deepfake « présentateurs de nouvelles » dans des images pro-Chine: recherche

Les « diffuseurs d’informations » semblent étonnamment réels, mais ce sont des deepfakes générés par l’IA dans des vidéos de propagande inédites qu’un rapport de recherche publié mardi attribue à des acteurs alignés sur l’État chinois.

Les fausses ancres – pour un média fictif appelé Wolf News – ont été créées par un logiciel d’intelligence artificielle et sont apparues dans des images sur les réseaux sociaux qui semblaient promouvoir les intérêts du Parti communiste chinois, a déclaré la société de recherche américaine Graphika dans son rapport.

« C’est la première fois que nous voyons une opération alignée sur l’État utiliser des séquences vidéo générées par l’IA d’une personne fictive pour créer un contenu politique trompeur », a déclaré à l’AFP Jack Stubbs, vice-président du renseignement chez Graphika.

Dans une vidéo analysée par Graphika, un présentateur masculin fictif qui se fait appeler Alex critique l’inaction des États-Unis face à la violence armée qui sévit dans le pays. Dans le second, une présentatrice insiste sur l’importance de la « coopération des grandes puissances » entre la Chine et les États-Unis.

Les progrès de l’IA ont alimenté l’alarme mondiale sur le potentiel de désinformation et d’utilisation abusive de la technologie, avec des images deepfake créées à partir de rien et des personnes montrées en train de dire des choses qu’elles n’ont jamais dites.

L’année dernière, le propriétaire de Facebook, Meta, a déclaré avoir supprimé une vidéo deepfake du président ukrainien Volodymyr Zelensky exhortant les citoyens à déposer les armes et à se rendre à la Russie.

Il n’y a pas eu de commentaire immédiat de la Chine sur le rapport de Graphika, qui intervient quelques semaines seulement après que Pékin a adopté des règles expansives pour réglementer les deepfakes.

La Chine a appliqué le mois dernier de nouvelles règles qui obligeront les entreprises offrant des services de contrefaçon à obtenir la véritable identité de leurs utilisateurs. Ils exigent également que le contenu deepfake soit étiqueté de manière appropriée pour éviter « toute confusion ».

Le gouvernement chinois a averti que les deepfakes présentent un « danger pour la sécurité nationale et la stabilité sociale ».

Le rapport de Graphika indique que les deux ancres de Wolf News ont presque certainement été créées à l’aide de la technologie fournie par la startup AI basée à Londres Synthesia.

Le site de Synthesia, qui n’a pas répondu dans l’immédiat à l’appel à commentaires de l’AFP, fait la publicité d’un logiciel de création d’avatars deepfake « à partir de séquences vidéo d’acteurs réels ».

Graphika a déclaré avoir découvert les deepfakes sur des plateformes telles que Twitter, Facebook et YouTube tout en suivant des opérations de désinformation pro-Chine connues sous le nom de « spamouflage ».

« Le spamouflage est une opération d’influence pro-chinoise qui amplifie principalement les vidéos de spam politique de mauvaise qualité », a déclaré Stubbs.

« Malgré l’utilisation d’une technologie sophistiquée, ces dernières vidéos sont à peu près les mêmes. Cela montre les limites de l’utilisation de deepfakes dans les opérations d’influence – ils ne sont qu’un outil dans une boîte à outils de plus en plus avancée. »