On ne peut plus faire confiance à aucune image sur Internet

En 2012, l’ouragan Sandy a dévasté la mer des Caraïbes et atteint les côtes de New York. Il y a laissé des inondations, des pannes de courant et des photos spectaculaires. Parmi tous, il y en a un particulièrement étonnant qui est devenu viral, mais il y avait un problème : c'était un faux. Elle n’était pas la seule à se faufiler sur les réseaux.

Cette image n’est qu’un exemple supplémentaire de ce que nous avons vu avant et après : de grands phénomènes et événements finissent par générer des flots de contenus, dont certains ne sont pas réels.

Il existe de nombreuses raisons pour lesquelles les gens profitent de ces moments pour diffuser de fausses images, mais au moins avant, obtenir des images et des vidéos crédibles coûtait cher. Seuls les utilisateurs avancés d’applications comme Photoshop ou Final Cut/Premiere pouvaient obtenir des résultats convaincants, mais l’IA, comme nous le savons, a changé tout cela.

Nous alertons depuis un certain temps sur ce problème : il est de plus en plus difficile de distinguer ce qui est réel de ce qui est généré par l’IA. et ces jours-ci, nous avons eu le dernier grand exemple de cette tendance.

Anatomie d'un deepfake

La péninsule du Kamtchatka, à l'extrême est de la Russie, a connu une tempête de neige historique. Selon les archives, c'est le pire depuis des décennies, avec des niveaux de neige dépassant les deux mètres dans diverses régions, selon Xinhua.

Petropavlovsk-Kamchatsky, le centre administratif, industriel et scientifique du kraï du Kamtchatka, a particulièrement subi ces conséquences, et les habitants de la région ont diffusé sur les réseaux sociaux des images de ce qui a déjà été surnommé « l'apocalypse des neiges ». Ces images diffusées dans les médias et les réseaux sociaux et qui étaient réelles, souvent plus « banales » et beaucoup moins spectaculaires, contrastent avec d'autres qui montraient théoriquement aussi l'état de divers points de la région mais qui sont en réalité générées avec l'IA.

Cette vidéo, par exemple, a été partagée il y a quelques jours par Linus Ekenstam, un influenceur qui partage souvent des actualités et des réflexions sur l'IA. Il a republié cette vidéo et affirmé qu'elle était réelle, mais bientôt plusieurs utilisateurs ont indiqué que la vidéo avait en fait été créée par l'IA.

Ekenstam a soutenu que l'erreur théorique de l'IA qu'il a signalée chez l'utilisateur n'était pas telle et que là où il habite, il y a des poteaux près des lampadaires. Il a donc tenté de défendre le fait que pour lui la vidéo était réelle, mais d'autres ont suggéré que ce n'était pas le cas. La preuve définitive : un utilisateur lié à la vidéo originale théorique, qui proviendrait apparemment d'un compte TikTok dédié précisément à la diffusion de contenus générés par l'IA qui semblent réels.

L’essentiel à propos de cette fausse vidéo est qu’elle est spectaculaire, mais pas trop spectaculaire. C'est, dans une certaine mesure, crédible, et lorsque l'image et le mouvement de la caméra lui-même sont si convaincants, il est difficile de penser que « cela est peut-être généré par l'IA ».

Avec cette tempête de neige qu'a connue le Kamtchatka, des images insolites ont été partagées sur les réseaux, bien plus typiques d'un film hollywoodien dystopique que d'un véritable phénomène naturel. A priori, les images peuvent même paraître cohérentes, mais un examen plus détaillé – et surtout plus critique – nous permet de comprendre plus facilement que ces images ne sont peut-être pas aussi réelles qu’elles le paraissent.

En effet, les images les plus marquantes partagées sur les réseaux sociaux et qui accumulent des milliers de retweets et de likes sur X par exemple contrastent avec celles publiées dans les médias traditionnels, qui ont tendance à être, comme nous l'avons dit, beaucoup moins frappantes et beaucoup plus banales.

Des médias espagnols comme OndaCero ou OKDiario ont publié sur leurs médias numériques ou sur leurs comptes de réseaux sociaux des images et des vidéos générées par l'IA sans se rendre compte que ces vidéos avaient en réalité leur origine dans le compte TikTok susmentionné qui a réussi à se propager comme une traînée de poudre.

Les débats sur la possibilité que certaines images puissent être réelles ont été fréquents, par exemple sur Reddit, où les utilisateurs partageaient, par exemple, une capture étonnante qui, analysée en détail, semblait générée par l'IA.

L'avalanche de « journalisme citoyen », qui peut être bien intentionné et parfois très important, contraste ici avec le rôle des médias, qui ont l'énorme responsabilité d'agir en tant que sources d'information fiables.

Même eux (et nous) peuvent tomber dans le piège, et là encore, il vaut mieux commencer à se méfier de ce que nous voyons sur nos écrans, car il peut s'agir de faux contenus. Les vidéos qui apparaissent dans certains médias comme Sky News ou La Vanguardia se combinent avec d'autres qui (au moins a priori) semblent réelles, mais qui nécessitent à ce stade également un examen rigoureux.

Notre cerveau nous trahit et la technologie le sait

Il existe plusieurs phénomènes psychologiques et biais cognitifs bien étudiés qui expliquent pourquoi nous croyions aux fausses nouvelles dans le passé et maintenant, la même chose nous arrive à nouveau avec les deepfakes.

Peu importe si l’on sait (ou du moins soupçonne rationnellement) que ces images et vidéos sont fausses : la technologie et surtout l’IA exploitent précisément ces biais. Parmi eux se distinguent les suivants :

1. Biais de confirmation : nous croyons ce qui correspond à ce que nous croyons déjà. Notre cerveau ne recherche pas tant la vérité que la cohérence interne, donc si une nouvelle renforce notre idéologie, nous abaissons le niveau de critique potentielle, mais si elle la contredit, nous l'analysons à la loupe ou la rejetons directement. Le problème ici est que l’IA peut générer un contenu sur mesure adapté à chaque récit.
2. Effet de vérité illusoire : ici il arrive que « si je l'ai vu plusieurs fois, ce sera vrai ». La répétition augmente le sentiment de véracité, et non la véracité réelle, et c'est quelque chose que, par exemple, les réseaux sociaux, machines à répéter les canulars, exploitent au mieux. Encore une fois, l’IA facilite la production massive du même mensonge avec des variations minimes.
3. Nous croyons ce que nous voyons : c'est ce que certains appellent le réalisme perceptuel. On fait trop confiance au visuel, d’où le fameux dicton « une image vaut mille mots ». Les images sont traitées beaucoup plus rapidement que le texte, et la pensée critique vient après la réaction émotionnelle, comme l'a soutenu Daniel Kanheman dans son célèbre « Penser vite, penser lentement ».
4. Charge cognitive : liée à ce qui précède, la pensée critique est fatigante, ce qui signifie que lorsque nous sommes fatigués, distraits ou pressés, nous utilisons des raccourcis mentaux. Le célèbre et inquiétant doomscrolling profite très bien de ce piège, et les fausses nouvelles comme les deepfakes sont conçues pour être faciles à croire, pas pour être analysées.

Il y en a bien plus, bien sûr. L’IA génère déjà des résultats convaincants mais en plus – notamment dans les textes – sa sécurité lors de leur communication et de leur expression active un biais d’autorité. C'est comme si cela semblait plus fiable que si cela nous était raconté par un expert humain qui, pour une raison quelconque, n'a pas la possibilité de communiquer habilement ses connaissances.

Le contenu généré avec l'IA profite également de ces grands phénomènes et événements qui maximisent l'impact émotionnel, et il y a aussi le fait que lorsque de nombreuses personnes le partagent, c'est parce que « cela doit être vrai » et parce que nous avons tendance à croire que ce sont les autres qui tombent dans ces tromperies, pas nous.

Comme celui-là l’a dit, soyez prudent.

À Simseo | Il est impossible de distinguer si cette vidéo avec les acteurs de « Stranger Things » est réalisée avec l'IA ou non. C'est un problème