Il existe déjà un site internet qui promet de distinguer les images réelles de celles générées par l’IA. a manifestement une astuce
Nous assistons en direct à l’évolution de l’intelligence artificielle générative. Il y a environ un an, nous avons été surpris par la capacité de DALL·E à créer des images si pittoresques comme celui d’un chien de race shiba inu avec béret et col roulé ou une peinture de Salvador Dalí avec une partie du visage d’apparence robotique.
Mais ils n’étaient que cela. Images pittoresques.
Il était extrêmement improbable que l’une de ces créations basées sur l’intelligence artificielle finisse par se faire passer pour une photographie. Bien que, parfois, des résultats photoréalistes aient pu être obtenus, certains détails dans le visage ou dans les mains des individus ont montré la présence d’algorithmes génératifs, mais cela vient de changer.
Une solution possible au grand problème de l’IA
Récemment, des images du pape François en blouse blanche ont commencé à circuler sur les réseaux sociaux, Donald Trump arrêté par la police de New York et même par Emmanuel Macron au milieu d’une manifestation dans une ville française. Ces images avaient en commun d’être toutes complètement fausses, mais aussi plausibles.
Comme vous pouvez l’imaginer, il est de plus en plus difficile de distinguer si le contenu a été créé à l’aide d’outils d’IA ou s’il s’agit en fait d’images réelles. Ce problème, qui émerge comme la pointe visible d’un iceberg, suscite l’inquiétude car c’est une porte ouverte aux fake news et à la désinformation.
Parallèlement à ce phénomène, cependant, il y a ceux qui essaient déjà d’apporter des solutions. D’un côté, l’Union européenne se montre favorable à marquer le contenu générées par l’IA, et d’autre part des acteurs privés comme Optic, qui misent sur l’idée d’un détecteur d’images générées par l’IA accessible au public sur le web.
La société vient de présenter IA ou pas, un système d’analyse qui, comme son nom l’indique, nous permet d’identifier si le contenu visuel que nous avons chargé a été créé à l’aide d’une IA. Il suffit de faire glisser une image JPEG ou PNG et d’attendre le résultat de l’analyse qui nous sera présenté en pourcentage.
Photographie prise avec un Nikon D7000
Image générée avec DALL E
Lors de nos tests, nous avons téléchargé une photographie d’un panda rouge capturé avec un appareil photo Nikon D7000 et les algorithmes d’Optic ont indiqué qu’ils sont sûrs à 87% que l’image il n’a pas été généré par l’IA. Nous avons également testé avec un généré par AI, dans ce cas, le système croit à 77% qu’il a été généré avec DALL·E (ce qui a été le cas).
Les créateurs d’AI or Not expliquent que le système est le plus précis avec Stable Diffusion, Midjourney et DALL E, bien que leurs algorithmes puissent également détecter des « signes de génération d’IA » dans les images d’autres modèles, bien que la précision puisse diminuer. La bonne nouvelle est que, pour l’instant, l’utilisation du détecteur est totalement gratuite.
Images : Javier Marquez avec DALL·E | Captures d’écran | Mathias Appel
A Simseo : Adobe Firefly a essayé de rivaliser avec Midjourney – s’est retourné contre lui (mais pour une bonne raison)
