Il existe des risques majeurs, mais aussi des solutions pour l’IA dans les pays du Sud

Si l’intelligence artificielle (IA) promet d’immenses avantages, elle comporte également d’énormes risques. Certains d’entre eux – accélération de la désinformation, cyberattaques sophistiquées et hausse de la consommation d’énergie – sont déjà arrivés. D’autres, notamment des machines super intelligentes qui prennent des décisions indépendamment de la surveillance humaine, seront probablement encore d’ici quelques années. Même si la prise de conscience de ces risques s’accroît, il en reste bien d’autres qui restent encore à définir. Et malgré toutes les opportunités incalculables offertes par l’IA, en particulier dans les pays en développement, il s’agit d’une entreprise risquée.

Les inquiétudes grandissent quant à la manière dont l’adoption rapide de l’IA aura un impact négatif sur les sociétés, y compris dans les pays du Sud. L’année dernière, mon institut, en collaboration avec New America, a convoqué un groupe de travail mondial composé de spécialistes de l’IA des Amériques, d’Afrique et d’Asie pour examiner les moyens d’améliorer la sécurité et l’alignement de l’IA. Et en 2024, le groupe de travail a publié une introduction pour atténuer pratiquement les risques et améliorer la résilience tout en comblant les écarts en matière de gouvernance et de réglementation entre le Nord et le Sud du monde.

Risques liés à l'IA

L’un des risques les plus importants identifiés par le groupe est l’automatisation massive et la suppression d’emplois. L’IA devrait avoir un impact sur un grand nombre de travailleurs dans des secteurs allant de l’agriculture à l’industrie manufacturière, en passant par la vente au détail, le droit, la médecine et la finance. Même si de nouvelles formes d’emploi vont sans aucun doute émerger, les emplois de 800 millions de personnes risquent d’être automatisés d’ici 2030, dont 300 millions dans les pays riches. L'Organisation internationale du travail estime que plus de 56 pour cent de tous les emplois dans les pays à revenu faible ou intermédiaire courent un « risque élevé » d'automatisation. Sans mesures de protection, cela pourrait aggraver les inégalités économiques et exclure les travailleurs peu qualifiés.

Un autre risque concerne l’aggravation des fractures numériques et l’aggravation des inégalités. L’écart entre ceux qui ont accès aux technologies avancées et ceux qui ne le peuvent pas devrait se creuser dans les années à venir, entraînant une baisse de la productivité, une réduction de la croissance économique et une plus grande inégalité sociale et économique. Cela est particulièrement vrai dans les pays à revenus faibles et intermédiaires, déjà confrontés à une pénurie de talents numériques et de services associés.

Les préjugés et la discrimination constituent un autre risque associé à l’IA. Les technologies et modèles avancés conçus aux États-Unis, en Chine et dans l’UE peuvent perpétuer et amplifier les biais déjà présents dans les données de formation. Cela peut conduire à des résultats discriminatoires dans tous les domaines, depuis les cotes de crédit jusqu’au maintien de l’ordre. Cela peut également entraîner une exclusion injuste des opportunités sur le marché du travail, du crédit et des prêts, ainsi que des services de santé, en raison d’algorithmes biaisés.

L’intensification de la surveillance et des violations de la vie privée est également permise par l’IA. L’intégration de l’IA dans tous les domaines, depuis les villes intelligentes jusqu’aux forces de l’ordre, peut porter atteinte à la vie privée, aux libertés civiles et aux droits de l’homme. Cela est particulièrement vrai dans les pays dotés d’institutions démocratiques plus faibles. En effet, les régimes autoritaires déploient déjà des systèmes basés sur l’IA pour traquer les opposants politiques, réprimer la dissidence et cibler les communautés marginalisées sur la base de motifs ethniques, religieux ou idéologiques.

Qui plus est, la dépendance à l’égard de technologies et d’expertises étrangères constitue également un risque dans les pays du Sud. La dépendance excessive à l’égard des innovations américaines, chinoises et européennes peut potentiellement réduire les incitations à développer des secteurs technologiques nationaux dans les pays à faibles revenus. Cela peut également dégrader le pouvoir de négociation des gouvernements locaux, contribuant ainsi à une hausse des coûts de la technologie tout en réduisant le contrôle sur les normes. La dépendance à l’égard de fournisseurs étrangers peut également rendre les données plus facilement accessibles, contrôlées, manipulées et exploitées par des acteurs étrangers, ce qui soulève des inquiétudes en matière de confidentialité, de vol de propriété et d’intégrité des infrastructures critiques.

Solutions émergentes

Face à tous ces risques, quelles sont les solutions envisagées dans les pays du Sud ? D’une part, il y a un chœur de plus en plus nombreux en faveur d’une plus grande implication des gouvernements et des experts des pays en développement dans la formulation des normes mondiales. Il s’agit d’un appel repris dans une récente résolution de l’Assemblée générale des Nations Unies de 2024 sur l’inclusion de l’IA et dans un pacte numérique récemment convenu visant à surmonter les fractures en matière de numérique, de données et d’innovation. Un consensus se dessine pour garantir que l’IA soit plus équitable, inclusive et sensible aux défis spécifiques du Sud.

En pratique, il est essentiel d’investir davantage dans l’éducation et la formation professionnelle pour se préparer à l’automatisation et aux pertes d’emplois à venir. Cela nécessite de développer des centres de formation et des cours en ligne, des bourses de reconversion, des services de placement et des allocations de chômage progressives ainsi que des programmes de revenu de base universel (UBI). Et des exemples prometteurs émergent : l'initiative indienne AI for All, les ambassadeurs numériques du Rwanda et le programme Conecta du Brésil aident tous les personnes et les entreprises à faire la transition vers l'économie numérique. Et des pays aussi divers que le Kenya, la Namibie et l’Inde testent l’UBI, même si des mesures supplémentaires sont nécessaires.

Les acteurs publics et privés devront augmenter considérablement leurs investissements dans les infrastructures numériques pour réduire la fracture numérique dans les pays du Sud. Cela implique d’étendre l’accès à Internet et au haut débit aux 2,6 milliards de personnes qui ne sont toujours pas connectées. Des politiques favorisant les pôles numériques, l’accès équitable aux services numériques et les programmes technologiques à moindre coût sont essentielles. Un exemple de la manière d'amplifier de telles activités est le programme AI for Development (AI4D) de Smart Africa Alliance, qui construit des cadres éthiques d'IA pour la gouvernance, l'agriculture et les soins de santé.

Les préjugés et la discrimination peuvent être minimisés grâce à de meilleures orientations et normes pour le développement et le déploiement de l’IA. Les pays, les entreprises et les activistes du numérique doivent élaborer et appliquer des cadres réglementaires qui imposent la transparence algorithmique et des audits réguliers. Il existe également d’importantes opportunités pour exiger que les données utilisées pour former les systèmes d’IA soient plus diversifiées et représentatives. Le Groupe de travail mondial a identifié près de 700 stratégies de ce type, bien que plus des deux tiers soient formulées dans des pays riches, ce qui suggère qu'il reste encore beaucoup à faire pour combler l'écart.

Réduire la surveillance et les violations de la vie privée nécessite des lois solides en matière de protection des données et de confidentialité pour protéger les informations personnelles. L'Union européenne et des pays comme le Brésil, l'Inde, le Kenya, l'Afrique du Sud et la Tanzanie développent des cadres réglementaires agiles adaptés à leurs réalités spécifiques. Il faut également une réglementation claire régissant l’utilisation de l’IA à des fins de surveillance afin de minimiser les pratiques invasives, ainsi que des campagnes de sensibilisation du public ainsi qu’un plaidoyer de la société civile en faveur de protections plus renforcées.

Et réduire la dépendance excessive à l’égard des fournisseurs de technologies étrangers nécessite des investissements dans la politique et la recherche locales en matière d’IA, ainsi que des subventions et des incitations pour les accélérateurs, les start-ups et les laboratoires locaux. Les partenariats et la collaboration internationaux jouent également un rôle clé, comme les programmes de perfectionnement des législateurs et des fonctionnaires dirigés par l'UIT, l'UNESCO et le PNUD, tout comme les centres dédiés à la formation et à l'éducation de la main-d'œuvre fournis par des groupes tels que Google, Intel et Microsoft. .

Les mesures visant à réduire les risques liés à l’IA doivent remédier au fossé béant en matière de gouvernance de l’IA entre le Nord et le Sud. Cet écart s’exprime non seulement en termes de data scientists et de centres de données, mais également en termes de réglementation. Une priorité clé consiste à intensifier la participation des décideurs et des experts des pays du Sud à l’élaboration des politiques en matière d’IA, y compris dans les contextes du G20 et de l’OCDE. Malgré les préoccupations légitimes liées à la fragmentation de la réglementation, les cadres de gouvernance de l’IA doivent également être alignés sur les contextes locaux. La stratégie d’IA et la stratégie de transformation numérique récemment adoptées par l’Union africaine offrent des indications prometteuses.

La bonne nouvelle est qu’une récente résolution des Nations Unies sur l’IA inclusive, un groupe de haut niveau sur l’IA et le Pacte numérique mondial tracent une voie positive. Le pacte appelle explicitement à l’élaboration d’une politique plus inclusive en matière d’IA, à la création d’un groupe scientifique indépendant sur l’IA et à un dialogue mondial pour ancrer l’IA dans les droits de l’homme. Peut-être plus important encore, il recommande également le lancement d’un fonds mondial pour soutenir les infrastructures numériques et le développement des compétences. Un tel fonds devra faire de gros paris (similaires à ceux définis dans des initiatives privées telles que le récent fonds lancé par IBM et Blackrock s’il veut contribuer à combler le déficit de gouvernance et de capacités de l’IA.