Selon Pangram, « Where Water Works » de David Silva Rojas est composé à 99 % d’IA. Le problème est toujours le même : qu’une IA n’est pas infaillible

Le roman « Où fonctionne l’eau » a remporté en juillet le premier Prix international du roman court Almadía Ventosa-Arrufat, d’une valeur de 20 000 euros et devant plus de 2 200 écrits provenant de 22 pays. À la base, une condition très claire : participer impliquait de déclarer que l’œuvre n’avait pas été écrite, ni partiellement ni totalement, avec des outils d’IA. En cas d’indice ou de suspicion, l’œuvre serait disqualifiée quelle que soit la phase du processus.

Eh bien, après sa publication en septembre et en pleine présentation en Espagne, l’auteur péruvien David Silva Rojas, l’éditeur et le jury du concours (qui ont loué l’utilisation de ses silences et sa construction) ont été frappés par un scandale : El País a découvert qu’après avoir passé tout le livre par le détecteur Pangram, le roman primé contient 99 % de texte généré par une IA.

Qu’est-ce que Pangram et que promet-il ? Tout d’abord, les présentations : Pangram est un classificateur de texte basé sur des réseaux de neurones qui tente de distinguer si un texte est rédigé par un humain ou par un modèle de langage. Sous le capot, une technique de formation conçue pour réduire les faux positifs et qui, selon ses auteurs, ne discrimine pas les anglophones non natifs, utilise des invites miroir et discerne également par sections.

Pangram Labs, la société à l’origine de ce projet et principalement intéressée par la fiabilité et l’apparence de son détecteur, parle de 0,0041 % de faux positifs et de 0,34 % de faux négatifs. Une étude indépendante de l’Université de Chicago a comparé Pangram à d’autres détecteurs commerciaux et est parvenue à la conclusion suivante : Pangram est moins susceptible que les autres de classer le texte humain comme IA.

La méthode de détection. L’expérience d’El País ne vient pas de nulle part et n’utilise pas seulement « Là où l’eau fonctionne » : comme le dit Kiko Llaneras (ingénieur de données et l’un des auteurs de l’article) dans son

Leur méthode de contrôle comporte trois contrôles : ils ont utilisé 56 livres de 2019 – 2020, c’est-à-dire avant ChatGPT (le BC), qui donnaient 0 % d’IA, des textes synthétiques réalisés avec l’IA que le détecteur identifiait comme tels et d’autres d’auteurs établis comme Javier Cercas, Isabel Allende, Antonio Muñoz Molina, etc., qui donnaient tous 0 %. L’étalonnage promet.

L’ombre d’un doute. Pour paraphraser le film d’Hitchcock, douter d’un détecteur d’IA reste pour l’instant une bonne idée. Il existe des preuves sérieuses qui montrent les limites du détecteur : si un essai sur des humains est passé par une IA grand public et substantiellement modifié, Pangram les a étiquetés comme humains dans 41 % des cas. Et une réalité du secteur : OpenAI a fini par retirer son détecteur après avoir reconnu son faible taux de réussite et bien qu’il en ait un autre qui en théorie est très bon, il ne se lance pas sur le marché.

Le journal lui-même reconnaît que Pangram n’est pas infaillible et que, de plus, n’importe qui peut se procurer le détecteur et tenter de le chatouiller. Ángel L. Fernández Recuero explique étape par étape dans Jot Down comment un simple espace ajouté dans un texte modifie le verdict. Le célèbre architecte et vulgarisateur Pedro Torrijos l’a également mis à l’épreuve le mois dernier, lorsque des soupçons ont surgi avec le roman francophone à la mode, le laissant au plus fort de la boue sur la base d’un simple texte manuscrit. Il est vrai que le texte fait environ une page (avec un échantillon plus petit, c’est plus difficile à détecter), mais cela vaut la peine de lire attentivement son expérience en variant quelques mots.

Le problème sous-jacent. Un pourcentage, même 99 %, ne constitue pas une preuve de paternité. Bien que cela éveille évidemment des soupçons et ouvre au moins une enquête et demande des ébauches du projet. Après tout, ces systèmes estiment la probabilité qu’un texte ait été généré avec l’IA, mais ils ne disent pas quel rôle la personne a joué et quelle machine : l’œuvre peut avoir été écrite ou corrigée par l’IA, ou l’IA peut avoir inventé des intrigues ou des personnages.

La frontière est fine et parfois floue. Il existe un cas extrême qui n’est pas machine-humain, mais humain-humain : celui des mémoires d’Agassi, que le journaliste JR Moehringer a rédigées après 250 heures d’interviews en trois ans et que l’ancien joueur de tennis a signées. La question n’est pas de savoir si l’IA existe, mais plutôt de savoir dans quelle mesure et comment elle a été utilisée. Bien sûr, il y a une chose indéniable : le règlement du concours ne laisse place à aucun doute. En tout cas, c’est un peu dystopique que ce soit une IA qui détermine si une œuvre est réalisée avec l’IA et que son verdict fonctionne comme une épée de Damoclès : un faux positif peut détruire une réputation, mais un faux négatif ne coûte rien.

À Simseo | Un chercheur, fatigué des textes écrits avec l’IA, a créé un détecteur qui promet une précision de 98 %

À Simseo | Anthropic explique comment fonctionne le nouveau filigrane de Claude : ça ne se voit pas, ça ne se remarque pas, ça ne s’efface (presque) pas, et ça ne prouve rien.

Couverture | ChatGPT