L'ouragan Helene fait des ravages aux États-Unis. Presque toutes les photos qui circulent sont générées par l’IA

La photo est choquante. Une fille en gilet de sauvetage pleure inconsolablement alors qu’elle serre dans ses bras un petit chiot à bord d’un bateau. Tout autour se trouve ce qui ressemble à une inondation provoquée par une catastrophe naturelle.

Cela ressemble à une vraie image, mais ce n'est pas le cas. C'est une image générée par l'intelligence artificielle.

Cette image, comme l'indique Garbage Day, est devenue virale sur Facebook, et à partir de là, elle a également fini par devenir virale sur d'autres réseaux sociaux comme X ou YouTube. Parmi ceux qui l’ont diffusé se trouvaient des partisans de Donald Trump.

Ils profitent des ravages causés par l'ouragan Hélène obtenir un gain politiquecritiquant les efforts de la FEMA (Agence fédérale de gestion des urgences) et propageant tout type d'images et de fausses nouvelles pour saper les efforts de sauvetage et d'aide aux personnes touchées par la tragédie.

Trouver l’origine de cette image et d’autres est pratiquement impossible, et lutter contre la propagation de ces fausses informations s’avère presque impossible. Sur Facebook, ils ont ajouté des étiquettes à cette image et à d'autres images indiquant qu'il s'agit de « photos altérées » et qu'il faut vérifier qu'elles sont réelles avant de leur faire confiance.

Cependant, les images ont été diffusées, par exemple, sur des pages avec le hashtag #NorthCarolina – Caroline du Nord, l'un des États touchés par l'ouragan – qui a servi à fournir des informations utiles et légitimes sur la catastrophe.

Cette page, que de nombreuses personnes concernées consultent probablement, se remplit désormais de théories du complot. Par exemple, celui-ci indique que les inondations n’ont pas été causées par l’ouragan, mais par l’action humaine en raison de problèmes liés aux gisements de lithium et aux sociétés de développement d’IA. Ou cet autre qui accuse le gouvernement.

Ce qui est inquiétant, ce n'est pas seulement cela : c'est que malgré tous ces avertissements, les gens continuent de partager les images même s'ils savent qu'ils ne sont peut-être pas réels. Par exemple, Amy Kremer du RNC (Comité National Républicain) l’a fait.

Son message sur

Ce n’est pas la première fois que cela se produit sur les réseaux sociaux, et ce ne sera certainement pas la dernière. Le problème est précisément celui-là : que probablement toute cette génération intéressée de faux contenus sera de plus en plus crédible, et Facebook ne semble pas être capable de faire beaucoup pour y opposer son veto ou le contrôler. X ne peut pas non plus trop lutter contre le problème, même si les notes de la communauté sont certainement utiles.

Et pourtant, ces avertissements pourraient arriver trop tard. Les deepfakes se positionnent en effet comme une arme puissante pour influencer l’opinion publique, et les plateformes sur lesquelles ils se diffusent ne sont pas préparées pour l’instant à lutter contre ce problème.

À Simseo | Il y a plus de désinformation que jamais. Certains chercheurs madrilènes croient avoir la solution : un algorithme