Cinq minutes d'entraînement améliorent la capacité à repérer les faux visages générés par l'IA
Cinq minutes de formation peuvent améliorer considérablement la capacité des gens à identifier les faux visages créés par l'intelligence artificielle, selon une nouvelle étude.
Des scientifiques des universités de Reading, Greenwich, Leeds et Lincoln ont testé la capacité de 664 participants à distinguer les vrais visages humains des visages générés par un logiciel appelé StyleGAN3. La recherche a été publiée dans Science ouverte de la Royal Society.
Sans aucune formation, les super-reconnaisseurs (les individus qui obtiennent des résultats nettement supérieurs à la moyenne aux tests de reconnaissance faciale) ont correctement identifié les faux visages dans 41 % des cas, tandis que les participants ayant des capacités typiques n'ont obtenu que 31 %. S'ils avaient les yeux fermés et devinaient, les gens obtiendraient un résultat d'environ 50 % (niveau de chance).
Un nouveau groupe de participants ayant reçu une brève procédure de formation, mettant en évidence les erreurs courantes de rendu informatique telles que des motifs de cheveux inhabituels ou un nombre incorrect de dents, avait une précision plus élevée. Les super-reconnaisseurs ont atteint une précision de 64 % dans la détection des faux visages, tandis que les participants typiques ont obtenu une précision de 51 %.
Le Dr Katie Gray, chercheuse principale à l'Université de Reading, a déclaré : « Les visages générés par ordinateur présentent de véritables risques de sécurité. Ils ont été utilisés pour créer de faux profils sur les réseaux sociaux, contourner les systèmes de vérification d'identité et créer de faux documents. Les visages produits par la dernière génération de logiciels d'intelligence artificielle sont extrêmement réalistes. Les gens jugent souvent les visages générés par l'IA comme plus réalistes que les visages humains réels.
« Notre procédure de formation est brève et facile à mettre en œuvre. Les résultats suggèrent que la combinaison de cette formation avec les capacités naturelles des super-reconnaisseurs pourrait aider à résoudre des problèmes du monde réel, tels que la vérification des identités en ligne. »
Faire progresser les logiciels pose un défi de taille
La formation a affecté les deux groupes de la même manière, suggérant que les super-reconnaisseurs peuvent utiliser des repères visuels différents de ceux des observateurs typiques pour identifier les visages synthétiques, plutôt que simplement être meilleurs pour repérer les erreurs de rendu.
La recherche a testé les visages créés par StyleGAN3, le système le plus avancé disponible au moment de la réalisation de l'étude. Cela représente un défi important par rapport aux recherches antérieures utilisant des logiciels plus anciens, car les participants à cette étude avaient tendance à avoir des performances inférieures à celles des études précédentes.
Les recherches futures examineront si les effets de l'entraînement durent dans le temps et comment les compétences des super-reconnaisseurs pourraient compléter les outils de détection de l'intelligence artificielle.
