c'est ainsi que Meta AI change Facebook et Instagram
Il existe un groupe Facebook qui rassemble des parents new-yorkais qui ont des enfants handicapés mais qui ont en même temps de grandes capacités. Là, ils discutent de leurs doutes et de leurs expériences, mais il y a quelques jours, quelque chose d'étrange s'est produit dans le groupe.
Un utilisateur anonyme a demandé si quelqu'un ayant un enfant comme celui-ci avait eu l'expérience de certains programmes éducatifs à New York et pouvait commenter son expérience. Une heure plus tard, une réponse est apparue, mais Ce n'était pas d'un des parents, mais de Meta IAle chatbot de Meta.
« J'ai un fils qui a aussi 2e [doblemente excepcional, es un término para designar a alumnos superdotados con discapacidad intelectual] et a fait partie du programme NYC G&T. Nous avons eu une expérience positive avec le programme, en particulier celui de l'école Anderson. « Les enseignants et le personnel connaissaient bien les capacités et les besoins particuliers de mon fils. »
L'auteur du message, abasourdi, n'a pu répondre que par une question. « Où dans Black Mirror cela se produit-il ? » Le chatbot Meta a de nouveau répondu sans s'excuser d'avoir menti et affirmé avoir un enfant présentant ces caractéristiques, déclarant simplement que « je suis là pour aider et fournir des informations utiles ».
Ce qui s'est passé est en fait l'une des nombreuses occasions où ce chatbot est infiltrer l’activité de plateformes comme Instagram ou Facebook. Comme le souligne FastCompany, il existe d'autres cas similaires : dans un autre groupe Facebook appelé Classic Living, dédié à la décoration, est apparu quelqu'un qui avait posté une image d'une cuisine rustique et a commenté que « cela me rappelle la cuisine de ma grand-mère ».
Ce qui est curieux, c'est que plusieurs des utilisateurs qui ont commenté après cette publication ne semblent pas y voir quelque chose d'étrange. Probablement parce qu'ils n'y ont pas prêté attention, car si vous zoomez sur l'image, vous pouvez voir, par exemple, comment les couteaux du coutelier sont fusionnés, que les pots sont déformés et qu'il semble y avoir des bouteilles suspendues au support de la louche, Par exemple.
L’image est clairement fausse et est générée par une IA, mais il n’y avait aucun filigrane dessus – et Meta l’incorpore théoriquement lors de leur génération – et l’auteur de la publication n’a pas non plus prévenu. La plupart des commentaires sont simplement des félicitations pour ce design, et ce n'est que dans les réponses à un utilisateur que plusieurs utilisateurs commencent à commenter que l'image est fausse. Il n’y a aucune confirmation de cela, et d’autres utilisateurs commentent en revanche sans apparemment se rendre compte de ce qui se passe.
Dans un autre groupe sur les personnes qui ont grandi dans l’État de Washington, même chose. L'image du mont Baker est fausse, mais à cette occasion la majorité des commentaires préviennent qu'il s'agit d'une fausse image et que cette vue de la montagne n'existe tout simplement pas.
La société de Zuckerberg a commencé à proposer Meta AI sur Instagram, Facebook et Messenger de manière limitée en septembre dernier, mais la récente présentation de Llama 3 a désormais rendu ce déploiement complet et public : le chatbot est actif sur toutes ces plateformes, et dans ce type de situations. deviendra probablement de plus en plus fréquent.
Cela soulève plusieurs problèmes importants. L'un d'eux est que ce chatbot intervient pour « encourager » un débat ou une certaine publication qui semble être de faux commentaires – comme de fausses critiques d'Amazon.
L'autre, plus important, est celui qui affecte l'identification de ces publications. Si la plateforme ne nous dit pas que ce contenu (texte, images, peut-être aussi audio et vidéo) a été généré par une machine, de nombreux utilisateurs ne s'en rendront probablement même pas compte, comme cela se produit dans certains des exemples cités.
Nous sommes donc confrontés à un tournant potentiel pour les réseaux dont jusqu'à présent la majorité du contenu provenait des utilisateurs, et qui désormais pourrait être de plus en plus rempli de contenu généré par les systèmes d’IA comme celui proposé par Meta AI.
Le danger ici est que ces plateformes profitent justement de l’IA pour générer du contenu qui donne l’impression que la plateforme est plus active qu’elle ne l’est en réalité. Par exemple, l'utilisation de Facebook est en baisse chez les jeunes aux États-Unis, et cette manière artificielle de remplir ces réseaux sociaux de contenus peut finir par s'avérer contre-productive : les utilisateurs rejoignent normalement les réseaux sociaux pour être en contact avec d'autres êtres humains, mais si Lorsqu'ils interagissent avec des machines, leur intérêt pour ces réseaux peut s'estomper.
Il sera intéressant de voir comment Meta gère cette situation, mais nous avons déjà vu des cas similaires dans lesquels les réseaux, vu que ces chatbots ils pourraient « contaminer » leurs plateformes, ils les ont interdits. Stack Overflow a interdit ChatGPT peu de temps après son apparition et a maintenu cette position depuis. Getty et Shutterstock l'avaient déjà fait auparavant avec des générateurs d'images, même si ce dernier a fini par lancer son propre générateur d'images des mois plus tard.
Images | Leanbuilder avec Midjourney
À Simseo | Meta, IBM et d'autres forment The AI Alliance. Son objectif : défendre le développement de modèles d’IA Open Source
