Deepfakes viennent maintenant avec un rythme cardiaque réaliste, ce qui les rend plus difficiles à démasquer

Imaginez un monde où Deep Fakes est devenu si bon qu’aucun mécanisme de détection ne peut les démasquer en tant qu’imposseurs. Ce serait un bonanza pour les criminels et les acteurs de l’État malin: par exemple, ceux-ci pourraient utiliser des fesses profondes pour calomnier des candidats politiques rivaux ou encadrer les défenseurs gênants des droits de l’homme.

Ce scénario cauchemardesque n’est pas encore réel, mais pendant des années, les méthodes de création de Foasfakes ont été enfermées dans une « course aux armements technologiques » contre les algorithmes de détection. Et maintenant, les scientifiques ont montré que DeepFakes a gagné un avantage significatif: l’absence de pouls ne les donne plus.

« Ici, nous montrons pour la première fois que de récentes vidéos DeepFake de haute qualité peuvent présenter un rythme cardiaque réaliste et des changements infimes dans la couleur du visage, ce qui les rend beaucoup plus difficiles à détecter », a déclaré le Dr Peter Eisert, professeur à l’Université Humboldt de Berlin, et l’auteur correspondant d’une nouvelle étude dans Frontières en imagerie.

Les créateurs DeepFake utilisent l’apprentissage en profondeur pour manipuler des vidéos et des fichiers audio. Ils modifient les expressions faciales et les gestes, par exemple, les échangeant entre différentes personnes. Leur objectif n’est pas nécessairement malin: par exemple, les applications qui peuvent vous transformer en chat ou en âge numérique, vous êtes extrêmement populaire et inoffensif.

L’analyse de la transmission de la lumière à travers la peau et les vaisseaux sanguins sous-jacents est depuis longtemps indispensable en médecine, par exemple dans les oxymètres de pouls. Son cousin numérique, soi-disant photopléthysmographie à distance (RPPP), est une méthode émergente dans la télésanté, qui utilise des webcams pour estimer les signes vitaux. Mais le RPPP peut, en théorie, également être utilisé dans les détecteurs DeepFake.

Ces dernières années, de tels détecteurs expérimentaux de Deepfake basés sur RPPP se sont avérés bien pour distinguer les vidéos réelles et profondes. Ces succès ont amené certains experts à juger que les fesses profondes actuelles ne pouvaient pas encore imiter une fréquence cardiaque réaliste. Mais maintenant, il semble que cette vue complaisante soit obsolète.

Faux jusqu’à ce que vous le fassiez

Eisert et ses collègues ont d’abord codé un détecteur Deepfake de profondeur de pointe qui extrait automatiquement et analyse le taux d’impulsion à partir de vidéos. Il utilise de nouvelles méthodes pour compenser le mouvement et éliminer le bruit, et a besoin d’une vidéo d’entrée du visage d’une seule personne en seulement 10 secondes pour fonctionner.

Les auteurs ont également créé leur propre ensemble de données de vidéos de conduite, utilisés pour créer des FAKED de différentes identités cibles avec le mouvement facial des vidéos capturées. Pendant le tournage, un ECG a suivi le rythme cardiaque des protagonistes, ce qui a ensuite permis aux chercheurs de confirmer que les mesures RPPP effectuées par leur nouveau détecteur étaient très précises.

Il y avait une différence de seulement deux à trois battements par minute entre les estimations et la véritable vitesse d’impulsion. Pour faire bonne mesure, les auteurs ont également laissé leur détecteur sur deux collections plus anciennes et largement utilisées de vidéos de personnes réelles. Ici aussi, ils ont pu extraire des signaux de battement de cœur de toutes les vidéos authentiques.

Mais que se passerait-il s’ils utilisaient le même détecteur pour analyser les FAKED connus?

Pour tester cela, Eisert et ses collègues ont utilisé des méthodes de profondeur récentes pour échanger des visages entre des vidéos authentiques dans leur collection. À leur grande surprise, leur détecteur a également perçu une impulsion dans les foldages profonds – même si ils n’en avaient pas consciemment mis un. Cette impulsion inexistante semblait généralement très réaliste.

Prendre le cœur

« Nos résultats montrent qu’un rythme cardiaque réaliste peut être ajouté par un attaquant à des fins, mais peut également être » héréditaire « par inadvertance de la vidéo authentique de conduite. De petites variations du teint de la vraie personne sont transférées sur lefake Deep avec le mouvement facial, afin que l’impulsion d’origine soit reproduite dans la fausse vidéo », a déclaré Eisert.

Heureusement, il y a des raisons de l’optimisme, a conclu les auteurs. Les détecteurs DeepFake pourraient à nouveau rattraper des FAKED Deepfakes s’ils se concentrent sur le flux sanguin local dans le visage, plutôt que sur le taux de pouls global.

« Nos expériences ont montré que les fesseurs profondes actuelles peuvent montrer un rythme cardiaque réaliste, mais ne montrent pas de variations physiologiquement réalistes du flux sanguin à travers l’espace et le temps dans le visage », a déclaré Eisert.

« Nous suggérons que cette faiblesse des profondeurs de pointe devrait être exploitée par la prochaine génération de faux détecteurs profonds. »