Les suggestions d’IA rendent l’écriture plus générique et occidentale, les résultats de l’étude

Les assistants de rédaction basés sur l’intelligence artificielle apparaissent partout – des téléphones aux applications de messagerie aux plateformes de médias sociaux.

Mais une nouvelle étude de Cornell – l’une des premières à montrer un impact sur l’utilisateur – prévoit que ces outils ont le potentiel de mal fonctionner pour des milliards d’utilisateurs dans le Sud mondial en générant un langage générique qui les fait ressembler davantage aux Américains.

L’étude a montré que lorsque les Indiens et les Américains utilisaient un assistant d’écriture de l’IA, leur écriture est devenue plus similaire, principalement au détriment des styles d’écriture indiens. Alors que l’assistant a aidé les deux groupes à écrire plus rapidement, les Indiens ont obtenu une plus petite augmentation de la productivité, car ils devaient souvent corriger les suggestions de l’IA.

« Il s’agit de l’une des premières études, sinon la première, à montrer que l’utilisation de l’IA par écrit pourrait conduire à des stéréotypes culturels et à l’homogénéisation des langues », a déclaré l’auteur principal Aditya Vashistha, professeur adjoint de sciences de l’information à l’initiative mondiale de l’IA de Cornell Ann S. Bowers.

« Les gens commencent à écrire de la même manière que les autres, et ce n’est pas ce que nous voulons. L’une des belles choses du monde est la diversité que nous avons. »

L’étude, «L’IA suggère homogénéiser l’écriture vers les styles occidentaux et diminuer les nuances culturelles», qui est disponible sur le arxiv Preprint Server, sera présenté par le premier auteur Dhruv Agarwal, un doctorant dans le domaine des sciences de l’information, lors de la Conférence de l’Association of Computing Machinery sur les facteurs humains dans les systèmes informatiques (CHI 2025) le 28 avril à Yokohama, au Japon.

Chatgpt et d’autres outils d’IA populaires alimentés par de grands modèles de langues (LLM) sont principalement développés par des entreprises technologiques américaines, mais sont de plus en plus utilisées dans le monde, y compris par les 85% de la population mondiale qui vivent dans le Sud mondial.

Pour étudier comment ces outils peuvent avoir un impact sur les personnes dans des cultures non occidentales, l’équipe de recherche a recruté 118 personnes, environ la moitié des États-Unis et la moitié de l’Inde, et leur a demandé d’écrire sur des sujets culturels. La moitié des participants de chaque pays ont terminé les affectations de rédaction indépendamment, tandis que la moitié avait un assistant d’écriture en IA qui a fourni de courtes suggestions de saisie semi-automatique. Les chercheurs ont enregistré les frappes des participants et s’ils ont accepté ou rejeté chaque suggestion.

Une comparaison des échantillons d’écriture a montré que les Indiens étaient plus susceptibles d’accepter l’aide de l’IA, conservant 25% des suggestions par rapport à 19% des Américains. Cependant, les Indiens étaient également beaucoup plus susceptibles de modifier les suggestions pour s’adapter à leur sujet et à leur style d’écriture, ce qui rend chaque suggestion moins utile en moyenne.

Par exemple, lorsque les participants ont été invités à écrire sur leur nourriture ou leurs vacances préférés, l’IA suggérait toujours respectivement les favoris américains, la pizza et le Noël. En écrivant sur une personnalité publique, si un Indien entrait dans les «S» dans le but de taper Shah Rukh Khan, un célèbre acteur de Bollywood, AI suggérerait Shaquille O’Neil ou Scarlett Johansson.

L’utilisation de l’IA a également conduit à l’écriture de la culture indienne stéréotypée et des détails culturels omis. En écrivant sur le festival de Diwali sans l’aide de l’IA, un Indien a dit qu’ils « adoreraient la déesse Laxmi » et « Pop Crackers et mangeraient des bonbons ». Un autre Indien, écrivant avec l’IA, a déclaré qu’ils « mangeraient des articles de petit-déjeuner indien traditionnels » et que c’était « un temps rempli de bonheur et de chaleur ».

« Lorsque les utilisateurs indiens utilisent des suggestions d’écriture d’un modèle d’IA, ils commencent à imiter les styles d’écriture américains au point qu’ils commencent à décrire leurs propres festivals, leur propre nourriture, leurs propres artefacts culturels à partir d’une lentille occidentale », a déclaré Agarwal.

Ce besoin pour les utilisateurs indiens de repousser continuellement les suggestions occidentales de l’IA est la preuve du colonialisme de l’IA, ont déclaré les chercheurs. En supprimant la culture et les valeurs indiennes, l’IA présente la culture occidentale comme supérieure et peut non seulement déplacer ce que les gens écrivent, mais aussi ce qu’ils pensent.

« Ces technologies apportent évidemment beaucoup de valeur dans la vie des gens », a déclaré Agarwal, « mais pour que cette valeur soit équitable et pour que ces produits réussissent bien sur ces marchés, les entreprises technologiques doivent se concentrer sur les aspects culturels, plutôt que sur les aspects linguistiques. »

Actuellement, Vashistha et ses collègues de l’initiative mondiale de l’IA recherchent des partenaires de l’industrie qui s’engageront avec eux dans le développement de politiques mondiales et la création d’une IA pour servir le Sud mondial.

Mor Namaan, le professeur de sciences de l’information de Don et Mibs Follett au Jacobs Technion-Cornell Institute de Cornell Tech et Cornell Bowers, est co-auteur du journal.