Un journal a décidé d’utiliser une IA pour rédiger ses articles économiques. Le résultat a été catastrophique

Identique à un tremblement de terre de magnitude neuf. Ou un éléphant se déhanchant dans un magasin de porcelaine. L’intelligence artificielle (IA) et ses multiples ramifications ont imprégné la politique, l’art, le monde des affaires, le divertissement et même la philosophie au point d’assouplir des fondements longtemps considérés comme solides. Journalisme, bien sûr. n’est pas une exception. Le fait qu’un algorithme débarrassé de la fatigue, des vacances et des grèves puisse composer de dignes chroniques – peut-être sobres en termes de style, mais soignées – ouvre un horizon juteux aux maisons d’édition.

Il ne s’agit plus de gérer des modèles de base ou des outils d’aide au montage, mais de recourir à l’IA pour préparer des pièces. En novembre, CNET, un site d’information technologique américain, fondé dans les années 1990 et comptant 1,7 million de followers sur Twitter, a décidé d' »expérimenter » l’IA. Et l’expérimentation est une expression utilisée au taureau par les responsables : il a eu recours à un algorithme qu’il n’a pas été en mesure d’identifier pour préparer des textes économiques.

Le résultat d’une telle « expérience » —Dans les mots de Paul Farhiun journaliste financier chevronné pour le journal Le Washington Post– a été un vrai « catastrophe journalistique ».

Le débat sous-jacent

Ce n’est pas que l’utilisation de l’IA n’est pas passée inaperçue auprès de la concurrence ou des propres lecteurs de CNET. C’est qu’il a laissé des dérapages parfois retentissants que d’autres médias du circuit anglo-saxon n’ont pas tardé à souligner – comme Le Washington Post, gadget, Engadget Soit BuzzFeedActualitésle tout à la suite de Futurisme—, a contraint la rédaction de CNET à sortir pour s’expliquer et, surtout, a placé le médium à l’épicentre d’un débat épineux. L’affaire a été reprise même par le Société des journalistes professionnelscollectif américain de plus de 100 ans.

Les questions que l’affaire laisse rebondir sur plusieurs. L’IA est-elle devenue assez fiable lui confier une tâche aussi sensible que l’information ? Et même si elle l’est déjà ou le devient, demain, dans un mois ou dans trois ans, dois-je assumer cette tâche ? Et comment cela affecte-t-il les journalistes ? Quel rôle jouent-ils ? Cela les libère-t-il du travail mécanique ou les oblige-t-il à assumer le rôle supplémentaire de correcteur d’épreuves ? Les éléments impliquant une IA doivent-ils être identifiés comme tels ?

au début de la semaine dernière Le futurisme fait écho d’une observation qui déjà circulé dans les réseaux: CNET aurait commencé à utiliser l’IA pour produire des articles financiers, des textes au ton explicatif très basique, comme « Qu’est-ce que Zelle et comment ça marche ». Les pièces ont été affichées avec la signature « CNET Money Staff », une identification générique qui n’est devenue claire que si vous avez cliqué dessus. C’est alors que l’explication complète se déroulera : « Cet élément a été généré à l’aide de la technologie d’automatisation. » En garantie du contenu, le site donnait une autre information clé : « Un rédacteur de notre équipe éditoriale l’a édité [el contenido] et vérifié minutieusement.

Le futurisme assuré qu’ils avaient publié quelque chose plus de 70 pièces de cette nature – peu nombreux si l’on tient compte de la vitesse à laquelle CNET génère du contenu – destinés à optimiser le trafic de recherche. La polémique n’a pas sauté uniquement à cause de l’utilisation de l’IA dans les chroniques ou si cela était suffisamment clair pour les lecteurs. Ce qui a ajouté de l’huile sur le feu, alors que The Futurism reprenait, c’est qu’au moins une partie de ce contenu contenait des « bugs stupides ».

A titre d’exemple, il cite l’un des articles, dans lequel il est dit que sur un an le profit généré par 10 000 dollars avec un taux d’intérêt annuel de 3% est de 10 300, au lieu de 300 dollars. L’erreur est basique – son calcul identifie l’argent initialement déposé comme profit – mais ce n’est pas la seule. Une autre des erreurs brouille une explication sur les prêts.

Les critiques sur l’utilisation de l’IA ont suffisamment voyagé pour que la propre rédactrice en chef de CNET, Connie Guglielmo, décidé de publier un article peu de temps après, le 16 janvier, clarifiant ce qui se passait. Au moins en partie. « CNET connaît avec un assistant IA. C’est pourquoi », titrait-il. Dans sa publication, Guglielmo explique qu’en novembre, l’équipe de CNET Money a décidé de tester une IA – il n’identifie pas laquelle – pour voir comment elle fonctionnait pour expliquer les sujets financiers de base. Au total, ils ont façonné environ 75 articles comme celui-ci.

« La nouvelle a suscité l’indignation. Les critiques ont souligné que l’expérience ressemblait à une tentative d’éliminer le travail des écrivains débutants et que la précision des générateurs de texte IA de la génération actuelle est notoirement médiocre. » https://t.co/63T9pBwMTV

—Société des journalistes professionnels (@spj_tweets) 18 janvier 2023

« L’objectif est de voir si la technologie peut aider notre équipe de journalistes et de rédacteurs dans leur travail à couvrir les problèmes dans une perspective à 360º », commentaires Guglielmo, qui manie délibérément le terme « assistance IA ». Comme il l’explique, « bien que le moteur d’IA ait compilé le brouillon de l’histoire ou collecté une partie des informations », chaque article est « révisé, vérifié et édité par un éditeur expérimenté ». La question, alors que le professeur d’ingénierie Hany Farid la confie à TWSP, est de savoir si « la voix apparemment autoritaire de l’IA a conduit les rédacteurs en chef à baisser leur garde ».

Après les rapports qui remettaient en question la transparence avec laquelle ils utilisaient l’IA, le site Web a également décidé changer de signature « CNET Money Staff » pour « CNET Money » et présenter plus en évidence l’explication de l’origine de l’article. Ce n’était pas son seul mouvement pendant la polémique. Après que Futurism ait signalé des erreurs de contenu, le point de vente est allé plus loin, s’engageant à examiner « activement » toutes ses pièces assistées par l’IA pour s’assurer qu’il n’y a pas « d’autres inexactitudes d’édition ». Ils font également des erreurs. » souligne l’équipe.

CNET n’est pas le seul point de vente à avoir utilisé l’IA. L’Associated Press (AP) profite de son potentiel depuis des années, quoique de manière plus rudimentaire, TWSP sécurisé, en insérant des données dans des formats préparés. « Cela va de la transcription vidéo automatique à l’expérimentation de la génération automatique de listes de plans vidéo et de résumés d’histoires. Aujourd’hui, nous automatisons les histoires à la fois dans les sports et les bénéfices des entreprises », précise l’agence.

L’affaire CNET le place désormais à l’épicentre du débat. Celui de l’IA et celui de la profession.

« Ces outils ne peuvent pas sortir et signaler ou poser des questions, » met en garde Matt MacVeydirigeant un projet d’IA et d’actualités locales au NYC Media Lab de l’Université de New York.

Image de couverture: Markus Winkler (Unsplash)