L’IA transforme la vérification des personnes en cauchemar

Peu importe à quel point cela semble réel, la femme sur l’image de couverture n’existe pas. Il a été créé avec l’intelligence artificielle. Il s’agit d’une expérience visant à montrer à quel point l’IA a suffisamment progressé pour nous tromper. Via Reddit, utilisateur Harsh a posté cette imageoù apparaît la femme (« Votre maman ») tenant le feuillet AMA classique.

Habituellement, les personnes célèbres qui vont répondre aux questions sur Reddit publient une photo d’elles-mêmes tenant le journal, pour démontrer que c’est bien elles qui écrivent. Cette image fait référence à cette tradition, à la différence que, dans ce cas, elle est entièrement artificielle.

Créer des gens qui n’existent pas est déjà trivial

Pour renforcer encore l’effet, le créateur de « Mom » a même créé un faux passeport pour lui. Une image qui est également assez réaliste où apparaît le même visage que la femme. Et c’est là que réside une grande partie du travail : dans amener l’IA à reproduire le même visage de manière cohérente.

Le résultat a été publié sur le subreddit StableDiffusion, avec des images supplémentaires de la femme artificielle. Dans chacun d’eux, le résultat est très similaire, ce qui rend difficile d’identifier d’un coup d’œil qu’il s’agit d’une image créée avec l’IA.

Le créateur explique une partie du processus. La première phase consistait à créer un ensemble d’images d’une femme par coiffure, origine ethnique et cohérence. Il a ensuite utilisé l’extension ADetailer et appliqué quelques modifications Photoshop pour augmenter le contour.

Le résultat nous rappelle encore une fois le débat sur les deepfakes. La course pour les détecter prend du temps et comme nous le disions il y a quelques années, les contrefacteurs sont en avance sur nous. Il n’est pas difficile d’imaginer qu’avec des élaborations aussi cohérentes, il soit relativement possible de créer une fausse identification qui peut passer certains contrôles de sécurité.

Pour relever ce défi de la vérification des personnes, des initiatives telles que World ID ont vu le jour, qui scanne notre iris pour confirmer que nous sommes humains ou des ajouts tels que la reconnaissance faciale lors de la création de notre carte d’identité. Il existe encore de nombreuses méthodes pour prouver que nous sommes humains, mais prétendre être l’un des nôtres devient chaque jour plus facile.

À Simseo | L’IA générative est une machine génératrice de désinformation. Et au moins 16 pays l’utilisent déjà