L'intelligence artificielle dans les banques peut exacerber les inégalités sociales

Peu importe ce que nous faisons, nous laissons derrière nous des données sur qui nous sommes. Cela est également vrai dans le secteur bancaire. Dans de nombreux cas, ces données sont utilisées d’une manière qui nous est utile. Par exemple, c'est bien pour les quinquagénaires de ne pas recevoir de publicité sur l'épargne logement pour les jeunes.

« Ce qui est dangereux, c'est lorsque des banques ou d'autres entreprises utilisent des données pour vous catégoriser et limiter vos choix à votre insu. L'intelligence artificielle peut définir certaines personnes comme des 'initiés' et en exclure d'autres. C'est là que les choses peuvent mal tourner », explique Elisabeth Austad Asser.

Elle a récemment soutenu sa thèse de doctorat à l'Université d'Agder (UiA). Elle y a examiné comment l'utilisation de l'intelligence artificielle peut entraver ou promouvoir les valeurs de Sparebanken Sør, où elle est responsable du développement durable.

Dans sa thèse de doctorat, elle a dressé une liste de 13 recommandations sur la manière dont les banques devraient utiliser l’intelligence artificielle. Nous y reviendrons plus tard, mais d’abord, pourquoi est-ce un problème ?

Tri invisible

Prenons par exemple le cas d'un candidat à un emploi de sexe masculin qui ne voit aucune annonce pour des postes d'aidant parce que quelqu'un a décidé que cela ne l'intéresserait pas. Ou si vous recherchez des places scolaires disponibles et que certaines écoles d'élite sont omises des résultats de recherche en raison de votre code postal.

« Nous pensons que nous sommes libres lorsque nous effectuons des recherches sur Internet, mais derrière Google, par exemple, il y a des algorithmes qui créent un profil de nous qui détermine ce que nous voyons et quelles offres nous recevons », explique Asser.

Lorsque de telles technologies sont déployées dans le secteur bancaire, la région dans laquelle vous vivez peut déterminer si vous êtes admissible à un prêt immobilier ou à une carte de crédit.

Auparavant, ces décisions étaient prises par les employés de la banque. Ils ont compris que les individus pouvaient avoir des modes de paiement différents même s’ils avaient des voisins pauvres.

Peut renforcer les inégalités

« C'est dangereux quand tout est transformé en données. Une fois que vous avez été défini dans une catégorie, celle-ci peut être exploitée par de nouveaux algorithmes. Si les banques ne gèrent pas cela correctement, elles peuvent contribuer à renforcer les inégalités sociales. Et dans le pire des cas, à les exacerber. « , dit Asser.

Selon elle, cela devrait particulièrement inciter à la réflexion les caisses d'épargne, initialement créées pour promouvoir la stabilité économique.

« Une caisse d'épargne porte une responsabilité historique envers la communauté locale. Elle ne doit pas se contenter de succomber à la recherche de l'efficacité créée par la technologie », déclare Asser.

Toutefois, les caisses d’épargne ont également l’obligation de fonctionner efficacement et de générer des bénéfices. Et si les caisses d’épargne ne souhaitent pas adopter les nouvelles technologies, elles risquent d’être concurrencées par d’autres banques plus efficaces qui le font.

« L'intelligence artificielle a déclenché un jeu commercial dans le secteur bancaire. Cette technologie nécessite une prise de responsabilité sociétale. Mais peu en parlent », dit-elle.

13 recommandations

Dans sa thèse de doctorat, Asser a dressé une liste de 13 recommandations sur la manière dont les banques peuvent aborder l'intelligence artificielle (IA) de manière à promouvoir leurs valeurs.

1. Soyez attentif : élaborez un plan d’utilisation de l’intelligence artificielle qui correspond aux valeurs et aux objectifs de la banque. Soyez clair sur le but des différentes technologies.
2. Comprendre les lois et réglementations : assurez-vous que les employés de la banque connaissent les lois et réglementations en vigueur concernant l’IA.
3. Concentrez-vous sur la qualité des données : assurez-vous que les données sont justes, équilibrées et de haute qualité. Évitez les biais dans les données en utilisant les informations provenant de différents départements de la banque. Testez les biais des systèmes d’IA et travaillez pour y remédier.
4. Gérer les préjugés : faites appel à une équipe diversifiée pour développer des algorithmes. Collaborez avec des groupes souvent exclus lors du développement de modèles d’IA. Soyez transparent sur les données utilisées.
5. Sélectionnez les bons algorithmes : utilisez des algorithmes aussi justes et impartiaux que possible. Utilisez votre expertise pour sélectionner et évaluer des algorithmes, en particulier pour les tâches sensibles telles que l'évaluation du crédit.
6. Éduquer l'organisation sur les préjugés : formez l'ensemble de l'organisation sur les préjugés dans les ensembles de données et les stratégies pour les évaluer.
7. Exploitez les connaissances internes : impliquez les employés dans le développement de modèles d’IA et utilisez leur expertise bancaire pour réduire les préjugés et améliorer la mise en œuvre de l’IA.
8. Renforcer la formation : investissez dans une formation approfondie des employés de la banque lors de l’adoption de la technologie de l’IA.
9. Impliquer la direction : veillez à ce que les responsables techniques et non techniques travaillent de manière inclusive et basée sur la valeur avec l'IA.
10. Surveillez les systèmes : soyez conscient des effets inattendus après la mise en œuvre de l’IA. Soyez ouvert aux audits externes des systèmes d’IA.
11. Comprendre la responsabilité : soyez clair sur la responsabilité de la banque dans les processus d'IA et envisagez d'utiliser le terme « machine dans la boucle » lorsque cela est pertinent.
12. Mettre en place un conseil d'éthique de l'IA : le conseil d'administration peut relever les défis et garantir que la banque reste à jour dans le domaine de l'IA.
13. Soyez transparent sur les décisions prises par l’IA : soyez clair et ouvert sur les décisions prises à l’aide de l’IA.

Des changements rapides

Asser souligne que la technologie a toujours changé la façon dont nous, les humains, interagissons avec le monde. En ce sens, l’intelligence artificielle n’a rien de nouveau.

Ce qui est nouveau, c’est la rapidité avec laquelle les changements se produisent. L'imprimerie a mis 200 ans pour atteindre la Norvège. Le téléphone a mis 75 ans pour atteindre 50 millions d'utilisateurs. Lorsque ChatGPT a été lancé, il a atteint 100 millions d'utilisateurs en une semaine.

« La technologie qui nous impacte et nous façonne est adoptée très rapidement aujourd'hui. Nous devons comprendre cette technologie pour garantir que la façon dont nous l'utilisons est durable et contribue à créer un monde dans lequel nous pouvons et voulons tous vivre », dit-elle. .