Comment repérer un deepfake

Dans un monde où l’on peut créer un clone virtuel d’une personne en quelques minutes, comment savoir ce qui est réel ? Cela peut ressembler à de la science-fiction dystopique, mais les deepfakes sont une réalité qui cause de graves dommages sociaux, financiers et personnels.

Les deepfakes sont des médias synthétiques générés à l’aide de l’intelligence artificielle (IA), comprenant des images, des vidéos, de l’audio et même du texte. Le plus souvent, les deepfakes sont des vidéos ou des images de personnes qui ont été manipulées numériquement par des cyberattaquants pour induire en erreur. Les deepfakes peuvent représenter des personnes disant ou faisant quelque chose qu’elles n’ont jamais fait.

En raison des progrès récents de l’IA utilisée pour créer des deepfakes et de la prolifération de générateurs de deepfakes bon marché et faciles à utiliser, vous avez probablement remarqué que des deepfakes plus réalistes apparaissent sur vos flux de réseaux sociaux. Ou peut-être, plus inquiétant encore… vous ne l’avez pas remarqué.

Comment sont fabriqués les deepfakes ?

Le « deep » des deepfakes vient du deep learning, le type d’IA utilisé pour les créer. L’apprentissage profond apprend aux ordinateurs à traiter les données et à faire des prédictions d’une manière inspirée par le cerveau humain.

Jusqu’à récemment, de nombreux deepfakes étaient créés à l’aide d’un type de modèle appelé Generative Adversarial Network (ou GAN). Un GAN est formé en opposant deux réseaux de neurones : l’un génère du contenu et l’autre l’évalue, ce qui crée des résultats de plus en plus réalistes grâce à la concurrence.

Dans les vidéos deepfake créées par les modèles GAN, la manipulation est appliquée à des parties spécifiques de la séquence, par exemple la bouche. Cela donne lieu à des contrefaçons comme celle-ci, dans laquelle les portraits de Twiggy Forest, Gina Reinhardt et Dick Smith ont été utilisés pour inciter les Australiens à investir dans un faux stratagème.

Depuis l’essor de l’IA générative en 2023, les deepfakes de modèles de diffusion ont augmenté. Les modèles de diffusion nous emmènent au-delà du simple fait de coller le visage d’une célébrité sur le corps d’un acteur ou de faire dire de nouveaux mots à la bouche. Ils permettent de créer un deepfake à partir de zéro, sans modifier le contenu original.

Nos experts en cybersécurité étudient les changements rapides dans le paysage des deepfakes. Le Dr Sharif Abuadbba a déclaré qu’en plus d’augmenter le réalisme, le boom de l’IA générative a conduit à une création de deepfake moins chère et plus accessible.

« Il y a à peine un an, cette technologie n’était accessible qu’aux pirates informatiques et experts qualifiés. Désormais, toute personne possédant un téléphone ou un ordinateur peut créer un deepfake. C’est aussi simple que d’aller sur l’App Store, de télécharger gratuitement l’une des nombreuses applications ou un petits frais d’abonnement, et vous êtes prêt à partir », a déclaré Sharif.

« C’est effrayant, mais il est désormais presque aussi simple de créer un deepfake ciblant une personne spécifique. Les attaquants débutants peuvent accéder à un générateur et en créer un sans aucune connaissance préalable en quelques secondes seulement. Les pirates informatiques expérimentés peuvent créer des deepfakes très réalistes en seulement quelques secondes. quelques heures à une journée. »

Pourquoi les gens font-ils des deepfakes ?

Malheureusement, l’écrasante majorité des deepfakes ciblent les femmes et sont utilisées à des fins pornographiques. Cependant, d’autres utilisations des deepfakes se multiplient, dont beaucoup sont malveillantes. Ils ont été utilisés pour falsifier les élections, usurper l’identité, tenter d’escroquerie et diffuser de fausses nouvelles. L’année dernière, le marché boursier a chuté en réponse à une fausse photo réaliste montrant le Pentagone en feu.

Nos experts ont récemment collaboré avec des chercheurs de l’Université Sungkyunkwan en Corée du Sud pour collecter et étudier l’ensemble de données le plus vaste et le plus diversifié de véritables deepfakes au monde. Il est composé de 2 000 deepfakes provenant de 21 pays en anglais, russe, mandarin et coréen. Les deepfakes proviennent de Youtube, TikTok, Reddit et de la plateforme chinoise de partage de vidéos Bilibili.

Leur analyse a révélé que les deepfakes dans la catégorie du divertissement – ​​pensez à la danse de Robert Pattinson – ont doublé chaque année entre 2019 et 2021. Il y a également eu une croissance substantielle des deepfakes politiques et frauduleux.

Sharif a déclaré que l’utilisation de deepfakes est de plus en plus courante et apparaît comme une menace sérieuse pour la cybersécurité.

« Les deepfakes deviennent si avancés dans leur réalisme qu’ils ont le potentiel de cibler les systèmes de reconnaissance faciale qui sont de plus en plus utilisés pour sécuriser vos comptes en ligne comme les comptes bancaires », a-t-il déclaré.

Gartner a prédit que les deepfakes pourraient ébranler la confiance dans l’authentification biométrique pour 30 % des entreprises d’ici 2026. La possibilité de créer des clones vocaux pour pirater des comptes en ligne protégés par la voix ou des éléments tels que les assistants Google suscite également des inquiétudes croissantes.

Comment repérer un deepfake

Compte tenu de l’explosion de nouveaux deepfakes sur nos réseaux sociaux et de leur potentiel à causer de réels dommages, il est important de savoir comment les repérer.

Notre experte, le Dr Kristen Moore, a déclaré qu’il existe différentes caractéristiques à surveiller qui peuvent révéler le mensonge.

 » S’il s’agit d’une vidéo, vous pouvez vérifier si l’audio est correctement synchronisé avec le mouvement des lèvres. Les mots correspondent-ils à la bouche ? D’autres éléments à vérifier sont les clignements ou le scintillement artificiels autour des yeux, l’éclairage ou les ombres étranges et les expressions faciales qui ne correspond pas au ton émotionnel du discours », a déclaré Kristen.

« Les images deepfakes réalisées à partir de modèles de diffusion peuvent généralement être repérées en recherchant des asymétries, comme des boucles d’oreilles différentes de chaque côté, ou un œil légèrement plus grand que l’autre. Une autre chose avec laquelle ils ont vraiment du mal actuellement, ce sont les mains, alors vérifiez la bonne. » nombre de doigts, ainsi que la taille et le réalisme de la main.

« Pour les deepfakes qui ont utilisé la méthode d’échange de visage, vous pouvez parfois voir le point où ils ont fusionné le visage sur le front d’origine. Parfois, il y a une différence de texture ou de couleur, ou peut-être que la racine des cheveux semble un peu décalée. »

Cependant, elle prévient également que les deepfakes pourraient bientôt devenir indétectables, sauf pour les experts les plus hautement qualifiés.

« L’augmentation des capacités suite à l’introduction du modèle GPT dans l’espace texte a époustouflé tout le monde. L’IA générative est passée d’un état peu sophistiqué à quelque chose que de nombreuses personnes utilisent désormais quotidiennement… c’est phénoménal », a déclaré Kristen.

« Comme les générateurs s’améliorent si rapidement, nous encourageons les gens à être sceptiques quant au contenu qu’ils voient en ligne. Vérifiez le contenu en comparant les médias en question avec ceux d’autres sources fiables, et recherchez toujours la source originale du contenu. « 

Comment se protéger des deepfakes

Nos chercheurs en cybersécurité, dont Sharif, Kristen et le Dr Shahroz Tariq de Data61, travaillent sur des méthodes numériques pour lutter contre les attaques de deepfake, notamment le filigrane du contenu authentique et l’amélioration de la précision des détecteurs automatiques de deepfake alimentés par l’IA. Mais il reste encore du chemin à parcourir avant que les méthodes numériques puissent détecter de manière fiable les véritables deepfakes.

Dans cette optique, il est essentiel que nous prenions des mesures pour nous protéger. Shahroz a déclaré qu’il est techniquement impossible d’empêcher la création de deepfakes pour les célébrités ou les personnalités publiques, étant donné le grand nombre de vidéos et d’images d’eux en ligne. Mais le public peut prendre certaines mesures pour éviter d’être falsifié.

« Vous pouvez vous protéger dans une certaine mesure en rendant vos profils sociaux privés. De cette façon, seuls vos amis et vos abonnés peuvent voir votre contenu », a déclaré Shahroz.

« Non seulement cela limite la disponibilité de vos images en ligne en général, mais cela augmente considérablement le potentiel de trouver l’attaquant si quelqu’un crée une contrefaçon profonde de vous. »

Sharif a déclaré que les organisations des secteurs qui collectent des données d’identification des individus sont également particulièrement vulnérables et devraient être proactives pour anticiper la menace.

« Si vous travaillez dans des secteurs comme l’information et le divertissement, le recrutement (où nous constatons une augmentation des candidatures vidéo), les médias sociaux, la banque et les institutions utilisant la reconnaissance faciale… les deepfakes vous parviennent ou sont déjà là. « , a déclaré Sharif.

« Nous souhaitons travailler avec l’industrie sur ce problème et encourageons toute personne intéressée à collaborer avec nous à nous contacter. »