un conseil municipal approuve une ordonnance rédigée par le robot IA (sans un seul changement)
ChatGPT vient d’avoir un an, mais on a l’impression qu’il existe depuis bien plus longtemps. Cela peut être dû à l’énorme impact que chatbot d’intelligence artificielle (IA) a causé dans le monde. Avant son arrivée, rappelons-le, il n’existait pas de technologie similaire accessible au grand public, c’est pourquoi son émergence a été considérée par certaines personnalités comme Bill Gates comme une révolution.
Aujourd’hui, nous pouvons utiliser le produit phare d’OpenAI pour apprendre à programmer ou réviser notre code, réfléchir, créer des modèles, générer des explications sur des sujets complexes avec des analogues de la vie quotidienne et rédiger des documents. Les possibilités sont immenses. Et bien sûr, il y a aussi ceux qui ont utilisé le chatbot pour préparer une ordonnance municipale qui a été approuvée sans modification.
Une « expérience » d’un conseiller municipal de Porto Alegre
Ce curieux épisode nous emmène à Porto Alegre, au Brésil, où les législateurs municipaux ont approuvé en octobre dernier une ordonnance qui consistait à empêcher la ville de facturer aux contribuables le remplacement des compteurs d’eau volés. Or, ce que personne ne savait, c’est que le texte n’avait pas été préparé par son auteur, l’échevin Ramiro Rosariosi ce n’est entièrement via ChatGPT, collecte des AP.
La véritable nature du document a été révélée par Rosário lui-même cette semaine. Le législateur affirme que s’il avait initialement affirmé que le projet avait été préparé par ChatGPT, ses pairs en séance plénière municipale auraient refusé de l’examiner. Au contraire, le projet a non seulement été approuvé à l’unanimité, mais a également été adopté le 23 novembre et est donc déjà en vigueur.
L’édile n’a pas été explicite sur les raisons qui l’ont amené à réaliser cette expérience, mais a déclaré qu’« il serait injuste » qu’un projet ne soit pas approuvé parce qu’il avait été écrit par une IA. Les personnes intéressées peuvent consulter en détail toutes les étapes du projet de loi PLCL 010/23 sur le site Internet de la Mairie de Porto Alegre. Or, tout cela laisse des questions ouvertes.
Une partie du texte du projet de loi
Il n’est pas clair si la séance plénière, qui représente les 1,3 millions d’habitants de Porto Alegre, entreprendra un quelconque type d’action après avoir appris que l’une des ordonnances approuvées a été entièrement rédigée par ChatGPT. Ce qui se passe ici peut créer un précédent pour la réaction des législateurs et de la communauté face à la contribution de l’IA dans le secteur public, ce qui peut être d’une grande importance.
Au milieu de cette année aux États-Unis, un avocat a utilisé ChatGPT pour rédiger un document comprenant une série de faits inexistants qui l’outil d’IA avait inventé. Steven Schwartz risquait d’être sanctionné pour ses actes. Bien que le texte de Rosário ne semble contenir aucune erreur, nous ne savons pas s’il expose également une certaine forme de sanction de la part du corps législatif auquel il appartient.
Celles-ci nous rappellent également que les outils d’IA peuvent également tromper ou reproduire des préjugés sociaux, même si les géants de la technologie s’efforcent d’améliorer la sécurité et la fiabilité de leurs modèles. Comme nous le disons, nous sommes témoins de l’évolution de produits comme ChatGPT et de son impact sur la société. Quelle sera la prochaine étape pour le chatbot ? Avec le temps, nous le saurons.