Lorsqu'on leur a demandé de créer des pages Web, les LLM ont découvert qu'ils incluaient des pratiques de conception manipulatrices.

Une équipe d'informaticiens de l'Université technique de Darmstadt, travaillant avec un collègue de l'Université de Glasgow et un autre de l'Université Humbold de Berlin, a découvert, grâce à des expériences qu'ils ont menées, que lorsqu'on leur demande de créer une page Web, les LLM incluent souvent des éléments de manipulation. pratiques de conception. Le groupe a publié ses recherches sur le arXiv serveur de préimpression.

Des études antérieures ont montré que de nombreux développeurs Web utilisent ce que l'on appelle des « modèles sombres » comme moyen de manipuler les visiteurs pour qu'ils fassent des choses, ou pour éviter de faire d'autres choses, lorsqu'ils sont sur un site Web. Un exemple serait de rendre la couleur d'un bouton demandant à l'utilisateur de s'abonner ou d'acheter quelque chose de lumineux et invitant, tout en utilisant une couleur sombre, voire grise, pour un bouton qui mettra fin à un abonnement.

Dans cette nouvelle étude, les chercheurs, constatant que les LLM ont mûri au point de pouvoir être incités à concevoir une page Web, ont voulu savoir s'ils utiliseraient de telles pratiques dans leurs conceptions. Pour le savoir, ils ont mené une expérience consistant à demander à 20 participants à l’étude de demander à ChatGPT de concevoir une page Web pouvant servir de site de commerce électronique. Il a également été demandé à chacun d'utiliser un langage « neutre » lorsqu'il expliquait au LLM ce qu'il recherchait dans une conception.

L'équipe de recherche a découvert que chaque page Web générée par le LLM utilisait des motifs sombres dans le cadre de sa conception. Les exemples comprenaient des messages d’urgence, des mises en évidence manipulatrices et de faux documents. Le plus inquiétant était peut-être les fausses critiques générées par le LLM. En outre, ils ont noté qu’il n’y avait qu’un seul cas d’avertissement adressé aux utilisateurs concernant quoi que ce soit sur le site. Les chercheurs ont répété l’expérience avec plusieurs autres LLM et ont trouvé des résultats similaires.

Les chercheurs concluent en suggérant que leurs découvertes mettent en évidence la mesure dans laquelle les pages Web générées par les humains utilisent des modèles sombres pour manipuler les visiteurs de leur site – les LLM ont appris leurs compétences grâce à eux, après tout. Ce résultat, suggèrent-ils, montre que la pratique est devenue normalisée. Ils suggèrent aux utilisateurs d'exiger une réglementation des pages Web afin d'empêcher de telles manipulations à l'avenir.