Daniel Púa, responsable de la sécurité chez Magnific : « personne ne peut, au premier coup d’œil, être sûr à 100 % s’il s’agit d’IA ou non »

À l’heure actuelle, nous avons tous été dans la situation de croire une image, pour découvrir plus tard qu’elle a été réalisée avec l’IA. Cela a créé une méfiance collective, au point de nous faire douter de toutes les images que nous voyons.

Pour approfondir ce sujet, nous nous sommes entretenus avec Daniel Púa, responsable de la sécurité chez Magnific (anciennement Freepik), l’un des outils d’IA générative d’images et de vidéos les plus populaires. Voici ce qu’il pense de ce problème et des solutions possibles qu’il pose.

Indétectable. À la fin de l’année dernière, Google a lancé Nano Banana Pro et, pour la première fois, nous avons constaté que nous n’étions pas capables de distinguer une image artificielle d’une image réelle. Avec la vitesse à laquelle les modèles d’IA progressent, aujourd’hui, même celui qui examine quotidiennement ce contenu ne dispose pas d’une astuce infaillible. Daniel Púa dit que « Cela dépend du modèle utilisé et de l’invite donnée », mais reconnaît que « pratiquement personne, au premier coup d’œil, ne peut être sûr à 100% s’il s’agit d’IA ou non ». Le niveau de détail a atteint un point où la vision n’est plus un outil fiable.

La vidéo est très proche. L’image fixe a déjà perdu du terrain, mais dans la vidéo il y a encore des indices qu’elle est générée : « Dans la vidéo, il est plus facile de la détecter à cause de la séquence de sa progression, à cause de certaines choses physiques qui n’ont pas de sens… Elle a deux pas de retard. » Toutefois, selon Púa, cette marge se réduit rapidement. « Les derniers modèles vidéo fonctionnent déjà très bien, et il ne reste plus qu’à peaufiner les détails, comme cela s’est produit avec les images. » Lorsqu’on lui demande combien de temps il reste avant que la vidéo ne soit également indiscernable, Púa répond « Peut-être un an environ ».

Filigranes. Lorsque notre œil n’est plus fiable, nous devons recourir à d’autres solutions pour distinguer le contenu IA du contenu réel. L’une de ces solutions est l’étiquetage ou les filigranes. Daniel Púa estime qu’il s’agit d’une méthode efficace, mais « pour qu’elle ait un sens, elle doit être adoptée de la même manière par tous les modèles ». Il donne comme exemple le SynthID de Google, qui « modifie certains pixels spécifiques pour marquer que cette image est générée par l’IA ». Le problème est que tant que c’est quelque chose que seuls quelques modèles utilisent, cela ne prouve rien : « le fait qu’une image n’ait pas les pixels ne signifie pas qu’elle est réelle, mais simplement qu’elle est générée par une IA qui n’utilise pas ce système »,

Une autre solution. Il existe un autre système, C2PA, qui est un standard ouvert et fonctionne différemment : au lieu de marquer l’image, il enregistre tout son historique dans les métadonnées, comme le modèle qui l’a générée, avec quel autre modèle elle a été modifiée plus tard et la date exacte. Mais il a le même talon d’Achille : « Cette information va dans les métadonnées. Si vous utilisez un outil pour la supprimer, ou si vous prenez une capture d’écran, ou si vous envoyez l’image via WhatsApp (qui supprime déjà les métadonnées), cette signature est perdue. » Púa reconnaît qu’il est difficile de parvenir à une solution unique, mais estime que « nous devrions atteindre un point où tous les modèles s’accordent ».

Comment éviter d’être trompé. Si ni les marques SynthID ni le standard C2PA ne constituent la solution définitive, que reste-t-il aux utilisateurs lambda pour éviter de se faire avoir ? Daniel Púa n’a pas la solution, mais il nous donne un indice qui devrait nous inciter à la méfiance : « Si une image vous parvient sans aucun type de métadonnées, elle devrait vous rendre méfiant, car même une photo que vous prenez avec votre téléphone portable contient des métadonnées.

En plus des métadonnées, les experts en analyse médico-légale recommandent d’examiner certains détails des images, par exemple si les points de fuite convergent vers un seul point, si les ombres correspondent à la position de la lumière ou si les reflets ont un sens. Nous devons affiner notre vision si nous ne voulons pas nous faire prendre.

Images | Magnifique, édité

À Simseo | L’IA génère déjà des photos impossibles à distinguer de la réalité, les gens l’utilisent donc pour collecter de faux retours