Les prêts par l'IA pourraient rendre les accords financiers encore plus injustes pour les femmes : voici comment éviter cela

Il est bien connu que les femmes bénéficient en moyenne de conditions de prêt moins favorables que les hommes de la part des vendeurs lorsqu'elles empruntent de l'argent. Une étude récente sur les pratiques de prêt des concessionnaires automobiles américains l'a confirmé. Ce constat est également observé depuis de nombreuses années dans le domaine des prêts bancaires et des prêts hypothécaires partout dans le monde.

Les études universitaires suggèrent que les vendeurs peuvent offrir aux femmes des conditions moins favorables, pensant qu'ils en savent moins sur le marché et qu'ils seront donc moins capables d'évaluer s'ils obtiennent un accord équitable. Il se pourrait également que les femmes soient pénalisées parce qu'elles ne sont pas aussi assertives que les hommes.

Une question de plus en plus pressante est de savoir comment l’intelligence artificielle (IA) affectera ce secteur à mesure qu’elle jouera un rôle plus important dans le secteur des prêts. Bien que les banques et autres prêteurs puissent être timides quant à la mesure dans laquelle ils utilisent l’apprentissage automatique et l’IA générative dans le cadre des prêts, cela se produit déjà en coulisses et devrait devenir beaucoup plus important au cours des deux prochaines années.

On pourrait penser que l’IA pourrait réduire la discrimination à l’égard des femmes en matière de crédit, peut-être en neutralisant les préjugés des représentants commerciaux. En fait, une nouvelle étude de mon groupe de recherche indique que la situation pourrait s’aggraver. Alors pourquoi en est-il ainsi et peut-on l’éviter ?

Notre étude a porté sur plus de 50 000 prêts automobiles au Canada et a mis en évidence une discrimination supplémentaire à l'égard des femmes. Dans le domaine de la recherche sur le crédit, la méthode standard de comparaison des prêts est connue sous le nom d'« utilité espérée ».

Cette mesure permet de mesurer l’utilité d’un prêt pour un emprunteur en prenant en compte des facteurs tels que le taux d’intérêt, la probabilité d’approbation et l’effort que le vendeur consacre à l’emprunteur. Nous avons constaté que l’utilité espérée des prêts était 68 % inférieure pour les femmes que pour les hommes.

Pour voir comment l’IA pourrait changer l’industrie automobile, qui n’en est qu’aux premiers stades de son adoption, nous avons étudié comment l’apprentissage automatique pourrait optimiser les commissions que les prêteurs versent aux vendeurs pour l’organisation des prêts aux acheteurs de voitures. Les commissions jouent un rôle essentiel dans les prêts automobiles, influençant les décisions des représentants commerciaux en matière de tarification des prêts et représentant une part substantielle des revenus des concessionnaires.

Dans un monde idéal, l’intégration de l’IA dans ce processus permettrait d’automatiser la tarification des prêts, de supprimer l’implication des vendeurs et de supprimer leurs commissions. En réalité, la concurrence entre les prêteurs est suffisamment forte et les concessionnaires gagnent tellement d’argent grâce aux commissions qu’ils se tourneraient probablement vers d’autres prestataires. Il est donc peu probable que le modèle de commission des prêts change, que ce soit dans le secteur automobile ou dans le secteur des prêts à la consommation en général.

Les prêteurs pourraient plutôt utiliser l’apprentissage automatique pour optimiser les commissions afin que les représentants commerciaux choisissent des taux de prêt qui génèrent des profits escomptés plus élevés pour le prêteur et soient motivés à consacrer suffisamment d’efforts au client pour l’amener à accepter l’accord. En procédant ainsi, nous avons constaté que les prêteurs pourraient augmenter leurs profits de 8 %. Cela se fait bien sûr aux dépens des clients. Nous avons constaté que l’utilité attendue des prêts pour les clients diminue de 20 % dans ce scénario.

Cependant, lorsque nous avons comparé les emprunteurs hommes et femmes, nous avons constaté que la baisse était de 42 % pour les femmes, contre seulement 17 % pour les hommes. Nous n'avons pas testé ce qui se passait exactement, mais il est raisonnable de supposer que, puisque les données rétrospectives étaient « contaminées » par des offres de prêts douteuses pour les femmes, l'IA a aggravé ce phénomène en supposant que les femmes sont plus tolérantes aux offres pires que les hommes.

La solution de contournement

Cela confirme les craintes de longue date de certains observateurs du secteur selon lesquelles l’IA pourrait finir par élargir la discrimination dans les prêts, non seulement aux femmes mais aussi à d’autres groupes qui bénéficient de conditions de prêt moins favorables, comme certaines minorités ethniques.

On pourrait soutenir que la prudence serait de la part des prêteurs de se tenir à l’écart de l’IA. Mais nous nous sommes demandés si un compromis était possible. Pourrions-nous encourager les prêteurs à utiliser l’IA de manière plus responsable, afin de modifier le compromis entre profits et justice sociale ?

Nous avons testé cette théorie dans notre étude en programmant l’algorithme d’apprentissage automatique pour maximiser les profits sans dégrader l’utilité attendue des prêts pour les femmes. En d’autres termes, l’utilité n’a diminué que pour les hommes. Sous cette restriction, nous avons constaté que les prêteurs pouvaient encore augmenter leurs profits de 4 %.

Cela montre que, si elle est utilisée de manière réfléchie, l’IA peut à la fois bénéficier aux prêteurs et protéger les groupes défavorisés. En réponse à ceux qui préféreraient éloigner l’IA des services financiers, il serait peut-être préférable d’accepter son caractère inévitable et de l’utiliser plutôt comme un outil pour rendre les prêts plus équitables.