Grok montre des «défauts» dans la guerre Israël-Iran en fait: l'étude
Le chatbot AI d'Elon Musk Grok a produit des réponses inexactes et contradictoires lorsque les utilisateurs ont cherché à vérifier les faits du conflit Israël-Iran, a indiqué mardi une étude, ce qui a soulevé de nouveaux doutes sur sa fiabilité en tant qu'outil de démystification.
Les plates-formes technologiques réduisant leur dépendance à l'égard des vérifications des faits humains, les utilisateurs utilisent de plus en plus des chatbots alimentés par l'IA – y compris le Grok de Xai – à la recherche d'informations fiables, mais leurs réponses sont souvent elles-mêmes sujettes à la désinformation.
« L'enquête sur les performances de Grok au cours des premiers jours du conflit israélien-iranien expose des défauts et des limitations importants de la capacité de l'IA du chatbot à fournir des informations précises, fiables et cohérentes en temps de crise », a déclaré l'étude du laboratoire de recherche médico-légale numérique (DFRLAB) du Conseil de l'Atlantique, un groupe de réflexion américain.
« Grok a démontré qu'il a du mal à vérifier les faits déjà confirmés, à analyser les faux visuels et à éviter les affirmations non fondées. »
Le DFRLAB a analysé environ 130 000 postes dans diverses langues sur la plate-forme X, où l'assistant AI est intégré, pour constater que Grok « avait du mal à authentifier les médias générés par l'AI ».
Après les frappes de représailles de l'Iran sur Israël, Grok a offert des réponses très différentes à des invites similaires sur une vidéo générée par l'AI-AI d'un aéroport détruit qui a amassé des millions de vues sur X, a révélé l'étude.
Il a oscillé – parfois dans la même minute – entre la naissance de la destruction de l'aéroport et confirmant qu'elle avait été endommagée par des grèves, a indiqué l'étude.
Dans certaines réponses, Grok a cité un missile lancé par les rebelles yéménites comme source des dégâts. Dans d'autres, il a identifié à tort l'aéroport généré par l'AI comme un à Beyrouth, Gaza ou Téhéran.
Lorsque les utilisateurs ont partagé une autre vidéo générée par l'IA représentant des bâtiments qui s'effondrent après une prétendue frappe iranienne sur Tel Aviv, Grok a répondu qu'il semblait être réel, a indiqué l'étude.
Le conflit israélien-iranien, qui a conduit les frappes aériennes américaines contre le programme nucléaire de Téhéran au cours du week-end, a produit une avalanche de désinformation en ligne, notamment des vidéos générées par l'IA et des visuels de guerre recyclés à partir d'autres conflits.
Les chatbots AI ont également amplifié les mensonges.
Alors que la guerre Israël-Iran s'intensifiait, de fausses affirmations se sont répandues sur les réseaux sociaux que la Chine avait envoyé des avions de fret militaire à Téhéran pour offrir son soutien.
Lorsque les utilisateurs ont interrogé les comptes comptables X des sociétés d'IA Perplexity et Grok au sujet de sa validité, les deux ont répondu à tort que les affirmations étaient vraies, selon le Newsguard Watchdog de désinformation.
Les chercheurs disent que Grok a précédemment commis des erreurs pour vérifier les informations liées à des crises telles que le récent conflit indien-pakistanais et les manifestations anti-immigration à Los Angeles.
Le mois dernier, Grok a été rénové pour l'insertion du « génocide blanc » en Afrique du Sud, une théorie du complot d'extrême droite, dans des requêtes sans rapport.
La startup de Musk, Xai, a blâmé une « modification non autorisée » pour la réponse non sollicitée.
Musk, un milliardaire d'origine sud-africaine, a précédemment colporté l'affirmation non fondée selon laquelle les dirigeants de l'Afrique du Sud « poussaient ouvertement au génocide » des Blancs.
Musk lui-même a fait exploser Grok après avoir cité les questions médiatiques – un chien de garde des médias libéral qu'il a ciblé dans plusieurs poursuites – comme source dans certaines de ses réponses sur la désinformation.
« Honte à toi, Grok, » écrit Musk sur X. « Votre approvisionnement est terrible. »
