Les contrefaçons générées par l’IA prolifèrent à l’approche de l’ouragan Melissa en Jamaïque
Les vidéos générées par l'IA obstruaient les flux des médias sociaux lundi alors que l'ouragan Melissa se dirigeait vers la Jamaïque, détournant l'attention des informations de sécurité critiques sur l'énorme tempête de catégorie 5.
L'AFP a découvert des dizaines de contrefaçons, la plupart portant des filigranes pour le modèle de conversion texte-vidéo d'OpenAI, Sora, alors que Melissa s'apprêtait à frapper l'île des Caraïbes avec des vents violents et de fortes pluies.
Les vidéos présentaient toute une gamme de scénarios fabriqués, depuis des journaux télévisés dramatiques et des images de graves inondations jusqu'à des images de requins dans l'eau, en passant par des scènes poignantes de souffrance humaine.
D'autres semblaient montrer aux habitants – souvent exprimés avec un fort accent jamaïcain qui semblait destiné à renforcer les stéréotypes – faire la fête, faire du bateau, du jet ski, nager ou minimiser la menace de ce que les prévisionnistes ont prévenu comme étant le temps le plus violent jamais enregistré sur l'île.
La sénatrice Dana Morris Dixon, ministre jamaïcaine de l'Information, a déclaré qu'elle et d'autres ministres participaient conjointement à une conférence de presse lundi pour donner des « informations correctes » sur l'approche de la tempête monstre.
« Je fais partie de tellement de groupes WhatsApp et je vois toutes ces vidéos arriver. Beaucoup d'entre elles sont fausses », a déclaré Dixon. « Nous vous invitons donc à écouter les chaînes officielles. »
Même des contrefaçons apparemment inoffensives peuvent contribuer à noyer des alertes de sécurité importantes ou amener les téléspectateurs à sous-estimer le danger de violentes tempêtes, ont déclaré les experts.
« Cette tempête est une énorme tempête qui causera probablement des dégâts catastrophiques, et les faux contenus sapent le sérieux du message du gouvernement à préparer », a déclaré Amy McGovern, professeur de météorologie à l'Université d'Oklahoma dont les recherches se sont concentrées sur l'utilisation de l'IA pour améliorer les prévisions météorologiques extrêmes.
« A terme, de tels faux contenus entraîneront des pertes de vies et de biens », a-t-elle déclaré à l'AFP.
Des vidéos circulent sur TikTok, Facebook
Les clips identifiés par l'AFP se sont diffusés principalement sur TikTok, où seuls certains portaient une étiquette malgré la politique de la plateforme exigeant que les utilisateurs divulguent des contenus réalistes générés par l'IA.
TikTok a semblé supprimer plus d'une vingtaine de vidéos de ce type, ainsi que plusieurs comptes dédiés à leur partage, après que l'AFP les a signalées sur la plateforme.
Quelques autres exemples ont été trouvés circulant sur Facebook et Instagram, même si les politiques de la société mère Meta stipulent que les étiquettes sont également obligatoires pour les vidéos photoréalistes créées avec l'IA.
Hany Farid, co-fondateur de la société de cybersécurité GetReal Security et professeur à l'Université de Californie à Berkeley, a déclaré que le contenu de l'IA lié aux ouragans souligne à quel point les nouveaux modèles de conversion texte-vidéo ont « accéléré la propagation de contrefaçons convaincantes ».
Les applications permettent aux utilisateurs de créer des clips présentant des ressemblances humaines hyperréalistes. L'AFP a contacté OpenAI pour obtenir ses commentaires, mais n'a pas obtenu de réponse immédiate.
De nombreux téléspectateurs ne semblaient pas savoir que les images étaient générées par l'IA, malgré le filigrane Sora, a révélé l'examen par l'AFP des sections de commentaires des vidéos.
« Dieu, s'il te plaît, protège la maison et le manguier de grand-père », a écrit un commentateur sous une vidéo d'IA sur TikTok d'un vieil homme criant à l'ouragan qu'il ne « bougerait pas pour une petite brise ».
Un autre utilisateur lui a demandé de publier davantage de mises à jour sur l'état de sa propriété.
Une série de prières similaires ont été offertes dans une autre vidéo montrant une femme criant à l'aide tout en tenant des bébés sous une maison sans toit.
« Le paradoxe de l'ère de l'information est que nous sommes de moins en moins informés en tant que public à mesure que la quantité d'informations augmente », a déclaré Farid à l'AFP.
