Résoudre le talon d'Achille de l'intelligence artificielle : pourquoi ils ne peuvent pas dessiner des mains humaines

Il y a un nouvel écrivain vedette dans la boutique Kindle d’Amazon. Ça s’appelle ChatGPT et ça n’arrête pas de publier des livres

Une ère complexe s’annonce. Celui dans lequel en lisant un livre, en regardant une œuvre d’art ou en écoutant une chanson on ne saura pas si elle a été créée par un être humain. C’est déjà le cas dans la boutique Kindle d’Amazon : des livres écrits par ChatGPT sont constamment publiés, et le phénomène fait des ravages chez d’autres éditeurs.

Que s’est-il passé. Comme indiqué à Reuters, il existe déjà plus de 200 e-books sur Amazon Kindle écrits ou co-écrits par ChatGPT. Le nombre augmente chaque jour, et « il y a même un nouveau sous-genre sur Amazon : des livres sur l’utilisation de ChatGPT, écrits par ChatGPT ».

Il y en aura probablement beaucoup d’autres. Évidemment, ce nombre de 200 titres correspond à ceux qui reconnaissent officiellement qu’ils ont été totalement ou partiellement écrits avec ChatGPT. La vérité est qu’il y a beaucoup d’auteurs qui ne le reconnaîtront même pas et publieront sous leur nom ou pseudonyme.

La nouvelle façon de gagner de l’argent sans effort. N’importe qui pouvait écrire un livre avant, mais bien sûr, il le fallait. Maintenant même pas ça : un moteur d’intelligence artificielle comme ChatGPT peut le faire, ce qui provoque une nouvelle ruée vers l’or. Les livres illustrés pour enfants – avec des images générées avec Midjourney, DALL-E 2 ou Stable Diffusion, par exemple – sont particulièrement populaires en ce moment, et il existe des centaines de tutoriels en ligne. Youtube, Reddit soit TIC Tac qui expliquent comment écrire et publier ces livres (et peut-être devenir riche ?) presque sans effort.

Transparence. Dans l’article susmentionné, ils ont cité les paroles de Mary Rasenberger. Le conseil d’administration de la Guilde des auteurs – une association bien connue d’écrivains et d’auteurs – a expliqué que « c’est quelque chose dont nous devons vraiment nous inquiéter, ces livres vont inonder le marché et beaucoup d’auteurs seront au chômage ». Il a appelé à la transparence de la part des auteurs, qui devraient expliquer « comment ces livres ont été créés, sinon nous nous retrouverons avec un tas de livres de mauvaise qualité ».

Amazon ne dit rien pour le moment. Les Conditions d’utilisation de la boutique Kindle ou vous obliger à révéler si un livre a été écrit ou non par une machine, mais cela peut être une solution pour l’avenir. Pour le moment, c’est la personne qui le publie qui peut l’avouer ou non.

Chez Simseo, nous avons essayé d’entrer en contact avec les responsables d’Amazon mais pour le moment nous n’avons aucun commentaire de la part de l’entreprise. À Reuters, une porte-parole a simplement déclaré que « Tous les livres du magasin doivent respecter nos directives de contenu, y compris le respect des droits de propriété intellectuelle et toutes les autres lois applicables ».

De Cervantès, rien ?. Au-delà du débat sur le droit d’auteur – ChatGPT a été formé sur des millions de textes, et OpenAI n’a pas été particulièrement transparent à ce sujet – se trouve la discussion sur la qualité des livres générés par ChatGPT. Ces systèmes d’intelligence artificielle finiront-ils par écrire des chefs-d’œuvre ? Aujourd’hui, les textes publiés ils peuvent être décents et même assez drole, mais certainement pas magistral. Matin? Qui sait.

Les critiques et les avis devraient aider, mais ils sont aussi un problème. Un auteur du nom de Mark Dawson, qui a vendu des millions d’exemplaires sur la boutique Kindle, a expliqué que ces romans sont souvent « ennuyeux » et que « le mérite joue un rôle dans la recommandation d’un livre à d’autres lecteurs. Si un livre reçoit de mauvaises critiques parce que l’écriture est ennuyeux, il coulera rapidement au fond. » Le problème dont Dawson ne parle pas – et celui qui a tourmenté Amazon dans le passé – est celui des fausses critiques qui peuvent également rendre ces critiques (qu’elles soient positives ou non) peu fiables.

Le magazine Clarkesworld en danger. Pendant ce temps, il existe d’autres segments éditoriaux dans lesquels le danger guette. Le magazine clarkesworld, bien connu dans le monde de la science-fiction pour publier des nouvelles et ouvrir les portes à de nouveaux écrivains, a temporairement cessé d’accepter de nouvelles histoires. Dans les dernières semaines ont détecté comment le nombre de « spam littéraire » grandi de façon alarmante et a atteint 38% de toutes les histoires envoyées au magazine.

Il n’y a pas de solution. Le problème est important, et la vérité est qu’il n’existe pas d’outils fiables pour détecter le texte généré par l’IA. Neil Clarke lui-même, rédacteur en chef du magazine, a expliqué que « 

« Nous n’avons pas de solution au problème. Nous avons quelques idées pour le minimiser, mais le problème ne disparaît pas. Les détecteurs ne sont pas fiables. Le paiement par soumission sacrifie trop d’auteurs légitimes. Les soumissions imprimées ne sont pas viables pour Les différents outils tiers de confirmation d’identité sont plus chers que les revues ne peuvent se le permettre et présentent souvent des lacunes régionales, les adopter reviendrait à interdire la publication dans des pays entiers.

Nous pourrions facilement mettre en place un système qui n’admettrait que les auteurs qui nous avaient déjà soumis des travaux. Cela reviendrait à interdire l’entrée de nouveaux auteurs, ce qui est inacceptable. Ils sont une partie essentielle de cet écosystème et de notre avenir. »

L'identifiant AI d'OpenAI a un problème : ils mettent le renard et ils surveillent les poulets

Mauvaise nouvelle pour les auteurs. clarkesworld payer 12 cents par mot si vous publiez ces histoires, et interdit actuellement les histoires « écrites, co-écrites ou assistées par l’IA ». Ils ont banni 500 utilisateurs soupçonnés d’avoir publié des histoires écrites par ces systèmes. Tout ce qu’ils veulent, a expliqué l’éditeur, « c’est gagner rapidement de l’argent ». Le message indiquait qu’ils accepteraient à nouveau les histoires d’utilisateurs, mais ils ne savent pas quand.

Image: Lucas Benvenuto