Des outils comme le nettoyage photo d’Apple sont encore un autre clou dans le cercueil pour pouvoir faire confiance à nos yeux

Vous avez peut-être vu des publicités par Apple faisant la promotion de sa nouvelle fonction de nettoyage qui peut être utilisée pour supprimer les éléments sur une photo. Quand une de ces annonces a attiré mon attention ce week-end, j’ai été intrigué et j’ai mis à jour mon logiciel pour l’essayer.

La fonctionnalité est disponible en Australie depuis décembre pour les clients Apple avec certaines capacités matérielles et logicielles. Il est également disponible pour les clients en Nouvelle-Zélande, au Canada, en Irlande, en Afrique du Sud, au Royaume-Uni et aux États-Unis.

L’outil utilise l’intelligence artificielle générative (IA) pour analyser la scène et suggérer des éléments qui pourraient être distrayants. Vous pouvez voir ceux mis en évidence dans la capture d’écran ci-dessous.

Vous pouvez ensuite appuyer sur l’élément suggéré pour le supprimer ou encercler les éléments pour les supprimer. L’appareil utilise ensuite l’IA générative pour essayer de créer un remplacement logique basé sur la zone environnante.

Moyens plus faciles de tromper

Les applications de retouche photo de smartphone existent depuis plus d’une décennie, mais maintenant, vous n’avez pas besoin de télécharger, de payer ou d’apprendre à utiliser une nouvelle application tierce. Si vous avez un appareil éligible, vous pouvez utiliser ces fonctionnalités directement dans l’application photo par défaut de votre smartphone.

Le nettoyage d’Apple rejoint un certain nombre d’outils similaires déjà offerts par diverses entreprises technologiques. Ceux qui ont des téléphones Android pourraient avoir utilisé l’éditeur de magie de Google. Cela permet aux utilisateurs de déplacer, de redimensionner, de recolorer ou de supprimer des objets à l’aide de l’IA. Les utilisateurs avec certains appareils Samsung peuvent utiliser leur application de galerie de photos intégrée pour supprimer les éléments des photos.

Il y a toujours eu des moyens – l’analogue et, plus récemment, le numérique – pour tromper. Mais les intégrer dans des logiciels existants de manière gratuite et facile à utiliser facilite ces possibilités.

L’utilisation de l’IA pour modifier des photos ou créer de nouvelles images soulève entièrement des questions pressantes autour de la fiabilité des photographies et des vidéos. Nous comptons sur la vision que ces appareils produisent dans tout, du corps de la police et des cames de circulation aux réclamations d’assurance et en vérifiant la livraison sûre des colis.

Si les progrès de la technologie érodent notre confiance dans les images et même la vidéo, nous devons repenser ce que signifie faire confiance à nos yeux.

Comment ces outils peuvent-ils être utilisés?

L’idée d’éliminer les éléments distrayants ou indésirables peut être attrayante. Si vous êtes déjà allé dans un hotspot touristique bondé, la suppression de certains des autres touristes afin que vous puissiez vous concentrer davantage sur l’environnement pourrait être attrayant (consultez le curseur ci-dessous pour un exemple).

Mais au-delà de l’élimination des distractions, comment ces outils peuvent-ils être utilisés?

Certaines personnes les utilisent pour retirer les filigranes. Les filigranes sont généralement ajoutés par des photographes ou des entreprises essayant de protéger leur travail contre une utilisation non autorisée. Les supprimer rend l’utilisation non autorisée moins évidente mais pas moins légale.

D’autres les utilisent pour modifier les preuves. Par exemple, un vendeur peut modifier une photo d’un bien endommagé pour alléguer qu’il était en bon état avant l’expédition.

À mesure que les outils d’édition et de génération d’images deviennent plus répandus et plus faciles à utiliser, la liste des usage des ballons proportionnellement. Et certaines de ces utilisations peuvent être peu recommandables.

Les générateurs d’IA peuvent désormais faire des reçus réalistes, par exemple. Les gens pourraient ensuite essayer de les soumettre à leur employeur pour être remboursé des dépenses qui ne sont pas réellement engagées.

Peut-on faire confiance à quelque chose?

Compte tenu de ces développements, que signifie avoir une « preuve visuelle » de quelque chose?

Si vous pensez qu’une photo peut être modifiée, le zoom peut parfois révéler des anomalies où l’IA a bourré. Voici une version zoomée de certains des domaines où la fonction de nettoyage a généré de nouveaux contenus qui ne correspondent pas tout à fait à l’ancien.

Il est généralement plus facile de manipuler une image que de modifier de manière convaincante plusieurs images de la même scène de la même manière. Pour cette raison, demander à voir plusieurs sorties qui montrent la même scène sous différents angles peuvent être une stratégie de vérification utile.

Voir quelque chose de vos propres yeux pourrait être la meilleure approche, bien que ce ne soit pas toujours possible.

Faire des recherches supplémentaires pourrait également aider. Par exemple, avec le cas d’un faux reçu, le restaurant existe-t-il même? Était-il ouvert le jour montré sur le reçu? Le menu propose-t-il les articles qui prétendument vendus? Le taux d’imposition correspond-il à la région?

Les approches de vérification manuelle comme ce qui précède prennent évidemment du temps. Les systèmes dignes de confiance qui peuvent automatiser ces tâches banals sont susceptibles de gagner en popularité à mesure que les risques de l’édition et de la génération de l’IA augmentent.

De même, il y a un rôle pour les régulateurs à jouer pour garantir que les gens n’utilisent pas la technologie de l’IA. Dans l’Union européenne, le plan d’Apple pour déployer ses caractéristiques d’intelligence d’Apple, qui incluent la fonction de nettoyage, a été retardé en raison des «incertitudes réglementaires».

L’IA peut être utilisée pour nous faciliter la vie. Comme toute technologie, elle peut être utilisée pour le bon ou le mauvais. Être conscient de ce dont il est capable et développer vos littératies visuelles et médiatiques est essentiel pour être un membre informé de notre monde numérique.