Comment le biais de l’IA façonne tout, de l’embauche aux soins de santé
Des outils d’IA génératifs comme Chatgpt, Deepseek, Google’s Gemini et le copilote de Microsoft transforment les industries à un rythme rapide. Cependant, à mesure que ces modèles de grande langue deviennent moins chers et plus largement utilisés pour la prise de décision critique, leurs biais intégrés peuvent fausser les résultats et éroder la confiance du public.
Naveen Kumar, professeur agrégé au Price College of Business de l’Université d’Oklahoma, a co-écrit une étude mettant l’accent sur le besoin urgent de répondre aux biais en développant et en déploiement de l’IA éthique et explicable. Cela comprend des méthodes et des politiques qui garantissent l’équité et la transparence et réduire les stéréotypes et la discrimination dans les applications LLM.
« Alors que les joueurs internationaux comme Deepseek et Alibaba publient des plates-formes gratuites ou beaucoup moins chères, il y aura une course mondiale sur les prix de l’IA », a déclaré Kumar. « Lorsque le prix est la priorité, y aura-t-il toujours un accent sur les questions éthiques et les réglementations concernant les biais? Ou, comme il y aura maintenant des entreprises internationales impliquées, y aura-t-il une pression pour une réglementation plus rapide? Nous espérons que c’est ce dernier, mais nous le ferons doivent attendre et voir. «
Selon les recherches citées dans leur étude, près d’un tiers des personnes interrogées estiment avoir perdu des opportunités, telles que les perspectives financières ou d’emploi, en raison d’algorithmes d’IA biaisés. Kumar note que les systèmes d’IA se sont concentrés sur la suppression des biais explicites, mais des biais implicites demeurent. À mesure que ces LLM deviennent plus intelligentes, la détection des biais implicites sera plus difficile. C’est pourquoi le besoin de politiques éthiques est si important.
Leur étude est publiée dans la revue Information et gestion.
« Comme ces LLM jouent un rôle plus important dans la société, en particulier dans la finance, le marketing, les relations humaines et même les soins de santé, ils doivent s’aligner sur les préférences humaines. Sinon, ils pourraient conduire à des résultats biaisés et à des décisions déloyales », a-t-il déclaré. « Les modèles biaisés dans les soins de santé peuvent conduire à des inégalités dans les soins aux patients; les algorithmes de recrutement biaisés pourraient favoriser un sexe ou une race sur un autre; ou des modèles publicitaires biaisés peuvent perpétuer les stéréotypes. »
Bien que des politiques d’IA et éthiques explicables soient établies, Kumar et ses collaborateurs appellent les chercheurs à développer des solutions techniques et organisationnelles proactives pour surveiller et atténuer les préjugés LLM. Ils suggèrent également qu’une approche équilibrée doit être utilisée pour garantir que les applications d’IA restent efficaces, équitables et transparentes.
« Cette industrie évolue très rapidement, il y aura donc beaucoup de tension entre les parties prenantes avec des objectifs différents. Nous devons équilibrer les préoccupations de chaque acteur – le développeur, l’exécutif d’entreprise, l’éthiciste, le régulateur – pour aborder de manière appropriée le biais Dans ces modèles LLM « , a-t-il déclaré. « Trouver le point idéal dans différents domaines commerciaux et les différentes réglementations régionales sera la clé du succès. »
Kumar, qui est professeur agrégé de systèmes d’information de gestion à OU, a co-écrit cet article avec Xiahua Wei de l’Université de Washington, Bothell et Han Zhang de l’Institut de technologie de Georgia et de l’Université baptiste de Hong Kong.
