L’utilisation de l’IA pendant la pandémie de COVID-19 a nécessité d’adapter la technologie à son contexte, selon un chercheur

La fracture de l’intelligence artificielle (IA) entre les pays industrialisés et les pays en développement ne concerne pas seulement la capacité d’accéder aux nouvelles technologies et de les utiliser. Il s’agit également pour les gouvernements et les entreprises locales du monde entier de pouvoir créer leurs propres outils d’IA, à la fois pour tirer parti de leur potentiel et mieux atténuer leurs risques.

Un problème clé avec l’IA qui doit être résolu est la propriété équitable des systèmes d’IA et l’accès aux avantages. Cette question est en phase avec le défi posé par la fracture numérique, car l’accélération de la numérisation a creusé le fossé social et économique entre ceux qui peuvent accéder à Internet et ceux qui ne le peuvent pas.

Les politiques liées à la normalisation et à la réglementation de l’intelligence artificielle sont définies par des initiatives de la société civile, des entreprises du secteur privé et des gouvernements nationaux. Cependant, depuis 2021, les efforts en faveur de la gouvernance mondiale se sont multipliés. Plus récemment, un organe consultatif multipartite des Nations Unies sur l’intelligence artificielle a été annoncé.

Approches modèles

Bon nombre des risques observés dans l’IA – discrimination, stéréotypes, manque général d’adéquation aux différents contextes géographiques et culturels spécifiques – sont dus à l’utilisation de la modélisation informatique par les systèmes d’IA. La modélisation informatique fournit une représentation simplifiée de la réalité qui est ensuite utilisée pour faire des prédictions.

L’utilisation de modèles a une riche lignée dans les traditions de pensée occidentales. Il évoque la théorie des formes de Platon, qui suggère que le domaine matériel est une pâle imitation du domaine des concepts ou des formes, qui représentent l’essence intangible.

Aujourd’hui, le mot « modèle » est associé à un large éventail d’idéaux auxquels nous devrions aspirer – le terme « modèle de rôle » vient à l’esprit. Même le métier de mannequin est devenu un archétype à refléter, les mannequins professionnels étant considérés comme représentant un idéal de beauté.

Le problème des modèles

Dans les années 1980 et 1990, on a beaucoup critiqué les modèles économiques promus dans les pays en développement par les institutions financières internationales. Celles-ci ont notamment été critiquées par l’économiste américain et lauréat du prix Nobel Joseph Stiglitz pour avoir utilisé une approche « taille unique » qui a eu des effets néfastes sur les économies de plusieurs pays.

Non seulement les actifs financiers liés à l’IA sont concentrés dans quelques pays, mais les façons de penser à l’IA elle-même sont également centralisées. La plupart des grands modèles d’IA sont conçus par quelques entreprises aux États-Unis et en Chine, à l’aide de données de formation qui reflètent largement leur propre culture, et souvent par des développeurs qui ne comprennent pas les circonstances locales au-delà des leurs.

Par exemple, alors que plus d’un tiers de la population mondiale utilise Facebook, les algorithmes qui le pilotent, tels que les recommandations de contenu, les suggestions de contacts et la reconnaissance faciale, ont été principalement conçus à partir de données accessibles aux développeurs américains.

Cela signifie que, comme de nombreux autres modèles défectueux dans le passé, les modèles d’IA biaisés peuvent ne pas refléter avec précision le contexte dans lequel ils sont appliqués, car les données sous-jacentes utilisées pour les construire sont elles-mêmes non représentatives.

Au fil des ans, les biais inclus dans ces modèles sont devenus apparents. Ces problèmes vont de l’incapacité à identifier avec précision les individus aux couleurs de peau différentes, à la production de résultats discriminatoires pour différents groupes et à l’exclusion de populations spécifiques.

De tels résultats ne sont pas tout à fait inattendus, compte tenu du contexte historique et géopolitique de l’impact des modèles. Comme nous l’avons observé, les modèles de toutes sortes, qu’ils se rapportent à l’économie ou à la technologie, peuvent être potentiellement dangereux s’ils sont mal appliqués.

Localisation des modèles

L’IA a poussé le concept de modèles assez loin – le potentiel social et économique est énorme, mais seulement si les modèles sont correctement calibrés. Une solution essentielle à cela tourne autour de l’idée de localisation du modèle : les systèmes d’IA les plus adaptés et les plus pertinents doivent être ancrés dans les contextes locaux.

Cela nécessite de décoloniser les données et l’IA. Ce sentiment reflète également l’inclinaison croissante vers la souveraineté numérique, permettant aux nations de gérer indépendamment leur infrastructure numérique, leur matériel, leurs réseaux et leurs installations.

Ma recherche sur les approches de transplantation, d’adaptation et de création (TAC) étudie les utilisations de l’IA en santé publique à l’échelle mondiale. Pendant la pandémie de COVID-19, des modèles d’IA ont été utilisés pour planifier les services de santé, communiquer avec le public et suivre la propagation de la maladie.

La pandémie a mis en évidence les variations du paysage géographique et culturel qui ont nécessité une approche nuancée de la modélisation. L’approche TAC examine chaque application de l’IA en considérant si elle a été transplantée directement à partir d’un autre contexte sans modification ; adapté ou modifié à partir d’un autre modèle ; ou créé localement.

Comprendre le défi

Pour remédier à la fracture mondiale de l’IA, il faut comprendre que nous sommes confrontés, au moins en partie, à un problème de modélisation, similaire aux problèmes de modélisation passés. L’un des défis auxquels les décideurs politiques seront donc confrontés est d’évaluer comment s’assurer que les modèles d’IA peuvent être développés et déployés par autant de pays que possible, leur permettant de bénéficier de leur potentiel.

Des solutions, telles que l’application du cadre TAC, nous amènent vers la localisation des modèles, garantissant que les applications de l’IA s’adaptent autant que possible aux diverses réalités mondiales.