L’intelligence artificielle en Afrique du Sud s’accompagne de dilemmes particuliers, auxquels s’ajoutent les risques habituels

Lorsque les gens pensent à l’intelligence artificielle (IA), ils peuvent avoir des visions de l’avenir. Mais l’IA est déjà là. À la base, c’est la recréation d’aspects de l’intelligence humaine sous forme informatisée. Comme l’intelligence humaine, il a une large application.

Des assistants personnels à commande vocale comme Siri, des voitures autonomes et texte et les générateurs d’images utilisent tous l’IA. Il gère également nos flux de médias sociaux. Il aide les entreprises à détecter fraude et embaucher des employés. Il sert à gérer bétail, améliorer les rendements des cultures et aide aux diagnostics médicaux.

Parallèlement à sa montée en puissance et son potentiell’IA soulève questions morales et éthiques. La technologie a déjà été au centre de plusieurs scandales: la violation des lois et des droits, ainsi que racial et le sexe la discrimination. En bref, cela s’accompagne d’une litanie de risques et de dilemmes éthiques.

Mais quels sont exactement ces risques ? Et comment diffèrent-ils d’un pays à l’autre ? Découvrir, j’ai entrepris une revue thématique de la littérature des pays les plus riches pour identifier six thèmes de risque éthique universels de haut niveau. J’ai ensuite interrogé des experts impliqués ou associés à l’industrie de l’IA en Afrique du Sud et évalué en quoi leurs perceptions du risque lié à l’IA différaient ou résonnaient avec ces thèmes.

Les résultats reflètent des similitudes marquées dans les risques d’IA entre le nord global et l’Afrique du Sud en tant qu’exemple d’une nation du sud global. Mais il y avait des différences importantes. Ceux-ci reflètent l’Afrique du Sud société inégale et le fait qu’il se situe à la périphérie du développement, de l’utilisation et de la réglementation de l’IA.

D’autres pays en développement qui partagent des caractéristiques similaires – un vaste fracture numériquehaute inégalité et chômage et basse qualité l’éducation – ont probablement un profil de risque similaire à celui de l’Afrique du Sud.

Il est important de savoir quels risques éthiques peuvent se produire au niveau d’un pays, car cela peut aider les décideurs et les organisations à ajuster leurs politiques et pratiques de gestion des risques en conséquence.

Thèmes universels

Les six thèmes universels de risque éthique que j’ai tirés de l’examen de la littérature sur le Nord global étaient :

• Responsabilité: On ne sait pas qui est responsable des résultats des modèles et des systèmes d’IA.

• Biais: Lacunes des algorithmes, des données ou des deux biais enracinés.

• Transparence: Les systèmes d’IA fonctionnent comme une « boîte noire ». Les développeurs et les utilisateurs finaux ont une capacité limitée à comprendre ou à vérifier la sortie.

• Autonomie: Les humains perdent le pouvoir de prendre leurs propres décisions.

• Risques socio-économiques: L’IA peut entraîner des pertes d’emplois et aggraver les inégalités.

• Malfaisance: Il pourrait être utilisé par des criminels, des terroristes et des appareils étatiques répressifs.

Ensuite, j’ai interviewé 16 experts impliqués ou associés à l’industrie sud-africaine de l’IA. Ils comprenaient des universitaires, des chercheurs, des concepteurs de produits liés à l’IA et des personnes qui chevauchaient les catégories. Pour la plupart, les six thèmes que j’avais déjà identifiés résonnaient avec eux.

Préoccupations sud-africaines

Mais les participants ont également identifié cinq risques éthiques reflétant les caractéristiques nationales de l’Afrique du Sud. C’étaient:

• Données et modèles étrangers: Données parachutées et modèles d’IA venus d’ailleurs.

• Limites des données: Rareté des ensembles de données qui représentent, reflètent les conditions locales.

• Aggravation des inégalités: L’IA pourrait approfondir et enraciner les inégalités socio-économiques existantes.

• Parties prenantes non informées: La plupart du public et des décideurs n’ont qu’une compréhension grossière de l’IA.

• Absence de politique et de réglementation: Il n’y a actuellement aucune exigence légale spécifique ou position gouvernementale globale sur l’IA en Afrique du Sud.

Ce que tout cela signifie

Alors, que nous disent ces découvertes ?

Premièrement, les risques universels sont pour la plupart techniques. Ils sont liés aux fonctionnalités de l’IA et disposent de solutions techniques. Par exemple, le biais peut être atténué par des modèles plus précis et des ensembles de données complets.

La plupart des risques spécifiques à l’Afrique du Sud sont plus socio-techniques, manifestant l’environnement du pays. L’absence de politique et de réglementation, par exemple, n’est pas une caractéristique inhérente à l’IA. C’est un symptôme du fait que le pays se trouve à la périphérie du développement technologique et de la formulation des politiques connexes.

Les organisations et les décideurs politiques sud-africains ne devraient donc pas se concentrer uniquement sur les solutions techniques, mais aussi examiner de près les dimensions socio-économiques de l’IA.

Deuxièmement, le faibles niveaux de sensibilisation parmi la population suggèrent qu’il y a peu de pression sur les organisations sud-africaines pour démontrer un engagement envers l’IA éthique. En revanche, les organisations du Nord global doivent montrer qu’elles connaissent l’éthique de l’IA, car leur parties prenantes sont plus attentifs à leurs droits vis-à-vis des produits et services numériques.

Enfin, alors que le UE, ROYAUME-UNI et NOUS ont des règles et réglementations naissantes autour de l’IA, l’Afrique du Sud n’a pas de réglementation et lois limitées pertinent pour l’IA.

Le gouvernement sud-africain a également échoué accorder beaucoup de reconnaissance à l’impact plus large de l’IA et à ses implications éthiques. Cela diffère même de autres marchés émergents comme le Brésil, Egyptel’Inde et Mauricequi ont des politiques et des stratégies nationales qui encouragent l’utilisation responsable de l’IA.

Avancer

L’IA peut, pour l’instant, sembler très éloignée des défis socio-économiques actuels de l’Afrique du Sud. Mais cela deviendra omniprésent dans les années à venir. Les organisations et les décideurs politiques sud-africains devraient gérer de manière proactive les risques éthiques liés à l’IA.

Cela commence par reconnaître que l’IA présente des menaces distinctes de celles de l’hémisphère nord et qu’il faut les gérer. Les conseils d’administration devraient ajouter l’éthique de l’IA à leurs programmes, et les décideurs et les membres des conseils d’administration devraient être formés à la technologie.

De plus, les risques éthiques liés à l’IA devraient être ajoutés aux stratégies de gestion des risques des entreprises et des gouvernements, à l’instar de changement climatiquequi recevait peu d’attention il y a 15 ou 20 ans mais qui occupe aujourd’hui une place prépondérante.

Peut-être plus important encore, le gouvernement devrait s’appuyer sur la récente lancement de l’Institut d’intelligence artificielle d’Afrique du Sud, et introduire une stratégie nationale sur mesure et une réglementation appropriée pour garantir l’utilisation éthique de l’IA.