Ce qui a déclenché cette photo est un autre exemple de combien nous faisons attention à l'IA, et à quel point nous aimons Zascas

Une image d'une humble famille espagnole des années 50 est récemment devenue l'épicentre d'une controverse virale dans X. La photographie a fini par libérer l'hystérie de nombreux utilisateurs, une hystérie causée par une confiance aveugle envers les réponses de l'intelligence artificielle, dans ce cas Grok. Un autre exemple de vérification des informations historiques avec l'IA a ses affaires.

Ce qui s'est passé. Tout a commencé lorsque l'utilisateur @Kritikafull a publié une photographie en noir et blanc d'une famille dans des conditions de pauvreté, accompagnée de la phrase suivante d'un ton ironique: « Nous avons mieux vécu avec Franco. » L'image a généré des milliers de visualisations, mais a également suscité l'intérêt de nombreux utilisateurs qui doutaient que la photographie ait été prise en Espagne et a fini par recourir à Grok, comme cela se produit généralement récemment sur le réseau social, pour vérifier les informations.

Une réponse problématique. Grok a identifié à tort la photographie comme une image prise pendant la grande dépression américaine, l'attribuant au photographe Walker Evans et déclarant qu'il montrait la famille Burroughs. Cette réponse a été massivement reproduite dans des dizaines de publications qui ont accumulé des milliers de visualisations, faisant de l'erreur une vérité apparente qui a servi à discréditer la publication originale.

Un travail de recherche. L'utilisateur @ ropamuig37, qui se décrit dans son profil en tant qu'historien, a décidé de vérifier les faits à travers une recherche inverse des images sur Google Lens. Le résultat a été ramené directement aux archives photographiques de l'Université de Malaga, où l'image semble parfaitement cataloguée comme «Housing, août 1952, Malaga, Espagne». La photographie fait partie d'une série de rapports qui comprend le logement espagnol de l'époque.

Si AI dit non, je le crois. Lorsque l'historien a donné à Grok la véritable documentation, l'intelligence artificielle était inflexible pendant des heures, insistant sur le fait qu'il s'agissait d'une « erreur UMA » et de soutenir qu'elle avait « vérifié » la similitude avec la photo américaine. Même après que l'historien lui ait donné des liens visuels visuels et comparatifs évidents, Grok a mis près de deux heures pour reconnaître son erreur.

Les dommages ont déjà été causés, car les publications qui ont pris la vérification de Grok ont ​​fini par inonder le réseau social avec des milliers de visualisations. Pendant ce temps, la véritable vérification de l'historien (et d'autres utilisateurs tels que @remusokami, comme cela nous rappelle dans leur fil) à peine accumulé au début, une fraction de ce que les autres publications qui ont viralisés de la mauvaise réponse de Grok ont ​​obtenu.

Un problème majeur. Sur la plate-forme, l'utilisation de Grok a été normalisée pour effectuer toutes sortes de chèques avant les publications des utilisateurs. « Grok, expliquez ce » ou « Grok, est-ce vrai? », Ce sont des expressions de plus en plus courantes dans X, où des millions d'utilisateurs ont commencé à déléguer à la vérification et à la compréhension des tâches qui nécessitaient traditionnellement pour contraster diverses sources. Et bien sûr, au moins aujourd'hui, la confiance aveugle dans ces outils peut générer une mauvaise information à grande échelle. Nous l'avons déjà vécu au cours des dernières années après le boom de l'IA, une conséquence qui, étant donné le raffinement croissant de ces outils, va aux adultes.

Dans des contextes polarisés, lorsque des informations peuvent être instrumentalisées politiquement, l'IA peut également devenir un outil dangereux. Surtout pour sa capacité à générer des réponses rapides et non déposées pour contraster certains faits. Heureusement, cette affaire n'a pas été grave, mais reflète l'adoption massive des outils d'IA et combien nous commençons à leur faire confiance.

Image de couverture | Arenas d'étude photographique et Walker Evans

Dans Simseo | Microsoft a tout choisi d'ouvrir pour remporter la course AI. Commencez à réaliser votre erreur