L'IA génère déjà des photos impossibles à distinguer de la réalité, les gens l'utilisent donc pour collecter de faux retours

La photo de gauche a été prise par moi-même sur le comptoir de ma salle de bain, la seconde est le résultat de la demande de Nano Banana de faire comme si elle avait été heurtée pendant le transport. S'il n'y avait pas le logo Gemini dans le coin inférieur droit (qui s'enlève très facilement), cela passerait parfaitement pour une vraie photo. Les boutiques en ligne ont un problème.

Ce qui se passe. Il existe une tendance de plus en plus courante dans le monde de la vente en ligne. Certains clients profitent de modèles d’imagerie comme Nano Banana pour demander le retour de produits. Voici ce que cette personne a fait :

• Il a commandé un carton d’œufs auprès d’un service de livraison rapide à domicile.
• Un des 24 œufs était cassé.
• Il a pris une photo et a demandé aux Gémeaux d'ajouter d'autres œufs cassés.
• Il l'a envoyé au service client et voilà : retour terminé.

Pourquoi c'est important. Les images ne sont plus une preuve de rien, on l'a vu avec les premières images générées avec Nano Banana Pro qui sont devenues virales, et il va falloir apprendre à vivre avec. Non seulement nous mettrons en doute absolument toutes les images que nous voyons, mais cela signifie également que tout ce qui pourrait être vérifié avec des images peut désormais être faux. Il existe bien d'autres scénarios : tromper votre patron en vous disant que vous avez eu un accident sur le chemin du travail, exagérer les dommages causés à votre compagnie d'assurance, mentir à votre partenaire…

La Chine a l’avantage. Ils disent dans le South China Morning Post que la tendance consistant à tromper les sociétés de vente en ligne avec l’IA est une tendance qui se propage comme une traînée de poudre. Lors de la dernière célébration du 11.11, plusieurs magasins ont reçu des images de clients demandant un remboursement à l'aide d'images générées par l'IA, comme une brosse à dents électrique rouillée, un vêtement effiloché ou une tasse en céramique cassée.

Il existe un cas rapporté par Wired, dans lequel un client qui a acheté des crabes vivants a demandé un remboursement car beaucoup étaient arrivés morts. Pour le prouver, il a envoyé des images et même des vidéos, mais les vendeurs ont remarqué que la vidéo n'était pas réelle car il y avait des crabes avec plus de pattes. Le problème avec ces cas détectés, c'est que les images n'étaient pas crédibles, mais cela fait penser à des images d'autant plus subtiles qui seront considérées comme bonnes.

Il y a plus de cas. La Chine possède le plus grand système de commerce en ligne, il est donc logique que davantage de cas aient été détectés, mais il ne s’agit pas d’une tendance exclusive à un seul pays. Le cas d’œufs que nous avons mentionné ci-dessus s’est produit en Inde et des cas ont également été détectés aux États-Unis. Selon la société de détection de fraude Forter, l’utilisation d’images d’IA pour ce type de fraude a augmenté de 15 % en 2025, ce qui coïncide avec l’arrivée de modèles d’imagerie plus performants. Avec Nano Banana Pro, il semble que la tendance va donner un élan significatif.

Retours sans retour. Bien évidemment, cette technique ne peut pas être utilisée avec n’importe quel produit. Il existe des cas dans lesquels les magasins remboursent notre argent sans qu'il soit nécessaire que nous retournions le produit. Elle peut être appliquée dans le cas de produits périssables, fragiles et, en général, de produits de faible valeur. Si les images ne font plus preuve, il leur faudra changer de stratégie. En nous envoyant une bouteille de shampoing cassée, je ne sais pas si ce serait la meilleure option, mais ils pourraient imposer que les photos envoyées ne puissent être prises qu'à partir de l'application elle-même et ne pas télécharger celles que nous avons dans la pellicule.

Images | Amparo Babiloni, Simseo

À Simseo | La FACUA estime que beaucoup de balises V16 « homologuées par la DGT » ne sont pas légales. Et il y a une façon de résumer cela : la fraude.