L’IA générative est en train de le tuer
Comme nous étions tous heureux avant 2023. Avant que les ChatGPT et les DALL-E du monde n’entrent dans nos vies. Avant que leurs capacités « magiques » ne commencent à nous étonner alors qu’ils faisaient autre chose :
Tuez Internet.
C’est du moins ce que pensent des analystes comme Ed Zitron. Selon lui, nous sommes peut-être en train de regarder Internet mourir tel que nous le savions. Et le pire dans tout, c’est qu’il a un argument puissant pour le croire.
Cet argument n'est autre que la façon dont L’IA générative contamine tout. Cela a commencé à le faire en 2023, lorsque les images et les textes générés par des modèles d’IA comme ceux d’OpenAI ont commencé à infiltrer les réseaux sociaux.
Cela semblait même merveilleux : à quel point l'IA écrivait bien. Comme les images étaient cool, à condition de ne pas lui demander de dessiner des mains. Nous avons partagé ces créations sur Twitter, Facebook ou Instagram, et nous n'avons pas réalisé quelque chose d'important.
Nous nourrissions un monstre.
Nous continuons à le faire, mais nous le faisons aussi avec plus d’intensité. Et le danger est que ces modèles d'IA qui jusqu'en 2023 étaient alimentés uniquement par des textes et des images générés par les humains, maintenant les cannibales sont revenus.
Ils consomment les données générées par eux-mêmes, se nourrissant mutuellement encore et encore dans un cercle vicieux dangereux. Une boucle infinie qui pourrait aboutir à des modèles mutants inquiétants d’IA générative. Ce n’est pas quelque chose que nous découvrons maintenant : il était clair que l’IA remplissait Internet de contenu. La question était de savoir ce qui se passerait lorsque cette IA répondrait à ce contenu.
Jathan Sadowski, chercheur dans le domaine de l'économie politique des technologies de l'information, avait anticipé la réflexion en février 2023, lorsqu'il a inventé le terme « »IA des Habsbourg« , c'est:
« Un système tellement entraîné avec les résultats d'autres IA génératives qu'il devient un mutant consanguin, probablement avec des caractéristiques exagérées et grotesques. »
La situation commence à inquiéter beaucoup comme Zitron, qui indique que nous n'avons pas affaire à des modèles d'IA génératifs, mais plutôt dégénératifs : la qualité d'Internet est en train de se dégrader, dit-il. Et il y a des exemples partout.
Vous ouvrez Instagram et tu te racontres avec une merveilleuse image d'un manoir. Les commentaires le disent clairement : c’est merveilleux. Puis, avec un autre originaire d'une petite ville italienne, mais avec un nom de famille : IA.
L'auteur a eu le détail d'avertir que l'image n'est pas réelle, mais dans les commentaires les gens —ou les bots, à savoir– semble ignorer le détail. Une fois de plus, tout le monde souligne que l'image est magnifique.
Une boule de neige qui ne s'arrête pas
L'écrivain Carmen Pacheco partagé cela et d'autres exemples dans un fil de discussion sur X/Twitter ces jours-ci, et parmi ces démonstrations d'un Internet contaminé par l'IA, il y en avait une autre dangereuse : celle du résultats de recherche Google, qui montrent déjà dans leurs premières positions non pas des images générées par des êtres humains, mais des créations d'une IA. Ce n'est pas non plus quelque chose de nouveau : on l'a vu avec la fille à la perle.
Ce premier résultat n’est pas celui auquel on s’attendrait en recherchant la célèbre œuvre de Vermeer. C'est une image générée par l'IA. Mal.
Le problème est que personne ne semble vouloir (ou pouvoir) arrêter cette boule de neige géant qui se forme. Les entreprises ne semblent certainement pas à la hauteur : comme le dit Zitron, LinkedIn « permet de générer des messages, des profils et des descriptions d'offres d'emploi grâce à l'IA », et toutes ces publications finissent par alimenter les modèles OpenAI, car Microsoft a investi des milliards en elle et ils ont des accords à ce sujet.
Google permet à ses modèles d'IA de rédiger pour vous des brouillons d'e-mails sur sa plateforme Google Workspace Labs, et les responsables de WordPress disposent de leur Jetpack AI Assistant pour que les articles de votre publication soient rédigés par une machine – attention, cela risque de ne pas se passer bien pour vous .
Ethan Mollick est professeur et chercheur à Wharton, ainsi qu'un écrivain bien connu. Il y a quelques jours, il est tombé sur une biographie (terrible, en raison de la qualité et des erreurs) non autorisée de lui, générée par l'IA.
Cette fièvre de laisser les machines écrire pour nous – pouah, comme c'est paresseux d'écrire soi-même – a également un impact terrible sur Amazon, qui a bien sûr vu des modèles d'IA Ils n'ont pas arrêté de publier des ouvrages gauche et droite. Et nous ne parlons pas de belles épopées ou d'essais, non : nous parlons de résumés de vrais livres, biographies non autorisées et des textes qui (du moins pour le moment) n'ont aucune valeur et ne servent qu'à contaminer l'offre existante.
Le danger s'étend à la génération de contenus bon marché et trompeurs qui continuent d'inonder des réseaux comme TikTok, où certains jeunes enseignent comment gagner de l'argent avec des mini-vidéos qui sont une ode au clickbait et qui, grâce à des millions de vues, peuvent être très rentable.
Et comme nous l’avons dit, personne ne semble faire face à cette dynamique inquiétante. Google est probablement le premier à réagir, d’autant plus que pour beaucoup, Internet et Google sont synonymes.
L'entreprise dirigée par Sundar Pichai a bien d'autres problèmes, mais sa propre réputation est en danger si son moteur de recherche commence à cesser d'afficher des contenus pertinents.
Han comenzado a mover ficha con cambios en su algoritmo que teóricamente castiga contenidos pobres, de spam y generados por IA (ellos lo llaman contenidos automatizados de baja calidad), pero como dice Zitron, llevan años ganando mucho dinero gracias a ese mundo SEO paralelo creado pour eux: ça ne semble pas facile à croire cela résoudra vraiment le problème à court terme.
Pendant ce temps, le reste des entreprises semble satisfait de ce flot de contenu car cela fonctionne tout simplement. Les demeures générées par l'IA dont nous parlions au début de cet article triomphent sur Instagram, tout comme les étonnantes vidéos de Sora, qui constituent une révolution tout aussi dangereuse pour TikTok ou YouTube.
Celui dans lequel les futures vidéos seront nourries par celles qui ont déjà été générées par une IA et que tout finira par devenir de pire en pire jusqu'au bout. transformer Internet en un dépotoir pour le contenu généré par l'IA.
Il restera cependant un refuge. Celui de chercher sur Internet avant l’IA. Comme? Facile:
Comme le disait Dennis Müller sur X (Twitter)en mettant un « avant : 2022 » dans le moteur de recherche Google afin que les résultats n'incluent pas ceux générés par les machines.
Phew.
Images | Twister graphique | Google
À Simseo | Un ingénieur Microsoft est terrifié par l'IA de son entreprise. Il fait tout ce qu'il peut pour le désactiver.
