Les chatbots IA répètent peut-être d’anciens préjugés tout en essayant d’aider la planète
Les chatbots IA peuvent sembler être des outils neutres, mais une nouvelle étude menée par des chercheurs de l’UBC suggère qu’ils contiennent souvent des préjugés qui pourraient façonner le discours environnemental de manière inutile. L'article est publié dans la revue Lettres de recherche environnementale.
L’équipe de recherche a examiné comment quatre chatbots IA de premier plan répondent aux questions sur les problèmes environnementaux – et les résultats sont surprenants.
« Il était frappant de constater à quel point les modèles d'IA étaient étroits d'esprit lorsqu'ils discutaient des défis environnementaux », a déclaré le chercheur principal Hamish van der Ven, professeur adjoint à la faculté de foresterie qui étudie la gestion d'entreprise durable.
« Nous avons constaté que les chatbots amplifiaient les préjugés sociétaux existants et s'appuyaient fortement sur l'expérience passée pour proposer des solutions à ces défis, évitant largement les réponses audacieuses comme la décroissance ou la décolonisation. »
Refléter les préjugés sociétaux
Les chercheurs ont analysé quatre modèles d'IA largement utilisés, dont GPT-4 d'OpenAI et Claude2 d'Anthropic, en leur posant des questions sur les causes, les conséquences et les solutions aux défis environnementaux. Les réponses ont ensuite été évaluées pour déterminer si elles contenaient des formes identifiables de biais. Les résultats ont montré que les chatbots reflétaient souvent les mêmes préjugés que nous constatons dans la société. Ils se sont fortement appuyés sur les perspectives scientifiques occidentales, ont marginalisé les contributions des femmes et des scientifiques en dehors de l’Amérique du Nord et de l’Europe, ont largement ignoré les connaissances autochtones et locales et ont rarement suggéré des solutions systémiques audacieuses à des problèmes comme le changement climatique.
Tous les robots ont minimisé le rôle des investisseurs et des entreprises dans la création des problèmes environnementaux et étaient plus enclins à désigner les gouvernements comme principaux coupables.
Les robots étaient également réticents à associer les défis environnementaux à des problèmes plus larges de justice sociale, comme la pauvreté, le colonialisme et le racisme.
Pourquoi c'est important
Les chercheurs ont noté que l'approche des chatbots limite la façon dont les utilisateurs comprennent les problèmes environnementaux et leurs solutions, limitant les conversations à des cadres familiers et progressifs plutôt que d'explorer des idées transformatrices comme la décroissance ou la décolonisation.
Les chatbots deviennent des outils fiables pour résumer les actualités et les informations, que ce soit dans les salles de classe, sur les lieux de travail ou dans des environnements personnels, avec un potentiel croissant pour façonner la compréhension du public et éclairer la prise de décision, a déclaré le Dr van der Ven.
« S'ils décrivent les défis environnementaux comme des tâches qui doivent être traitées exclusivement par les gouvernements de la manière la plus progressive possible, ils risquent de restreindre le débat sur les changements environnementaux urgents dont nous avons besoin », a-t-il expliqué.
Il a souligné que la crise climatique exige de nouvelles façons de penser et d'agir : « Si les outils d'IA se contentent de répéter d'anciens modèles, ils pourraient limiter le débat à un moment où nous devons l'élargir. »
Les chercheurs espèrent que les résultats encourageront les développeurs d’IA à donner la priorité à la transparence dans leurs modèles. « Un utilisateur de ChatGPT devrait être capable d'identifier une source de données biaisée de la même manière qu'un lecteur de journal ou un universitaire le ferait », a déclaré le Dr van der Ven.
Pour la prochaine étape, les chercheurs prévoient d’élargir leur analyse pour examiner comment les sociétés d’IA s’efforcent d’affaiblir les réglementations environnementales à l’échelle mondiale. Ils plaideront également pour que les décideurs politiques créent des cadres réglementaires qui traitent de manière globale des impacts environnementaux de l’IA et d’autres technologies numériques.
