Comment une licence sociale peut aider les communautés à bénéficier de la réutilisation des données et de l’IA

L’enthousiasme initial suscité par l’influence de l’intelligence artificielle (IA) sur les pays développés se déplace désormais vers la manière dont l’IA pourrait influencer les pays en développement. L'économiste a récemment publié un article de couverture vantant le potentiel de l'IA pour aider les pays à faible revenu dans des secteurs tels que l'éducation, les soins de santé et l'agriculture ; cependant, divers commentateurs ont exprimé leurs inquiétudes quant au fait que l’IA pourrait causer un certain nombre de dommages dans les pays du Sud.

À l’origine de ce problème se trouve une préoccupation fréquente quant à la manière dont les données sont collectées, stockées et utilisées, et réutilisées de manière responsable à des fins autres que celles pour lesquelles elles ont été initialement collectées.

Les données collectées à partir d’images satellite et de capteurs peuvent être réutilisées pour surveiller la déforestation, la qualité de l’air et de l’eau et l’impact du changement climatique. Les données des télécommunications ou des réseaux sociaux peuvent être réutilisées pour les interventions en cas de catastrophe afin de suivre les mouvements des personnes, d'identifier les zones qui ont besoin d'une aide urgente et de coordonner plus efficacement les efforts de secours.

Une réutilisation responsable des données publiques et privées peut également briser les silos. L'accès aux données des téléphones mobiles a été réutilisé pour favoriser la collaboration et l'innovation, comme l'harmonisation de l'accès aux transports publics et les initiatives de covoiturage pour limiter le temps de trajet et réduire l'utilisation de la voiture.

Des données contractuelles ouvertes ont été utilisées pour améliorer l'accès aux médicaments contre le VIH et la tuberculose en Moldavie, un pays qui a l'un des taux de patients les plus élevés d'Europe. Mais la réutilisation comporte ses propres risques, notamment pour la confidentialité et la sécurité des utilisateurs.

Déséquilibres de pouvoir

Promouvoir la réutilisation responsable des données nécessite de remédier aux déséquilibres de pouvoir dans l’écologie des données qui privent les principales parties prenantes de leur pouvoir et sapent la confiance dans les pratiques de gestion des données. Ces déséquilibres pourraient être particulièrement pernicieux dans les pays du Sud. Pour y répondre, il faut élargir les notions de consentement au-delà des approches individualisées actuelles en faveur de ce que nous appelons une autorisation sociale pour la réutilisation.

Il existe un certain nombre de déséquilibres en termes de pouvoir et d’influence entre les différentes parties prenantes de l’écologie des données. Les grands acteurs ou ceux issus de régions plus riches disposent de budgets plus importants, de plus d’expertise, ainsi que de plus de puissance de calcul, pour accéder aux données et les utiliser. Ces déséquilibres prennent une importance particulière lorsque les données sont réutilisées.

Dans de tels cas, les personnes concernées n’ont souvent pas la capacité d’influencer ou même de prendre conscience des utilisations secondaires, et les données pourraient être utilisées d’une manière qui leur serait préjudiciable ou qui profiterait de manière disproportionnée à quelques-uns.

Ces risques sont particulièrement prononcés dans les pays en développement d’Asie, d’Afrique et d’Amérique latine, en partie à cause des déséquilibres de pouvoir entre les gouvernements et les entreprises du Sud et du Nord. Mais de vastes asymétries existent également au sein des pays du Sud eux-mêmes, ce qui nécessite une attention particulière à la manière dont les données sont collectées, utilisées et réutilisées par les gouvernements qui prétendent parler au nom des citoyens.

La nécessité d'un permis social

En théorie, le consentement offre un mécanisme permettant de réduire les déséquilibres de pouvoir. En réalité, les mécanismes de consentement existants sont limités et, à bien des égards, archaïques, basés sur des distinctions binaires – généralement présentées sous forme de formulaires à cocher que la plupart des sites Web utilisent pour vous demander de vous inscrire aux e-mails marketing – qui ne prennent pas en compte le la nature nuancée et contextuelle de la réutilisation des données. Aujourd’hui, le consentement signifie généralement le consentement individuel, une notion qui néglige les besoins plus larges des communautés et des groupes.

Même si nous comprenons la nécessité de protéger les informations sur un individu, comme par exemple son état de santé, ces informations peuvent aider à faire face, voire à prévenir, les crises sanitaires sociétales.

Les notions individualisées de consentement ne prennent pas en compte le bien public potentiel lié à la réutilisation responsable des données individuelles. Cela les rend particulièrement problématiques dans les sociétés aux orientations plus collectives, où la priorisation des choix individuels pourrait perturber le tissu social.

La notion de permis social, qui trouve ses racines dans les années 1990 au sein des industries extractives, fait référence à l'acceptation collective d'une activité, telle que la réutilisation des données, sur la base de son alignement perçu avec les valeurs et les intérêts de la communauté.

Les licences sociales vont au-delà des priorités des individus et aident à équilibrer les risques d'utilisation abusive des données et utilisation manquée (par exemple, les risques de violation de la vie privée par rapport à la négligence d'utiliser des données privées pour le bien public). Les licences sociales permettent une notion plus large de consentement, dynamique, multiforme et sensible au contexte.

Les décideurs politiques, les citoyens, les prestataires de soins de santé, les groupes de réflexion, les groupes d’intérêt et l’industrie privée doivent accepter le concept d’acceptabilité sociale avant de pouvoir l’établir. L’objectif de toutes les parties prenantes est d’établir un large consensus sur les normes communautaires et un équilibre acceptable entre risques et opportunités sociales.

L’engagement communautaire peut créer une base consensuelle pour les préférences et les attentes concernant la réutilisation des données. L'engagement pourrait avoir lieu via des « assemblages de données » dédiés ou des délibérations communautaires sur la réutilisation des données à des fins particulières et dans des conditions particulières. Le processus devrait impliquer des voix aussi représentatives que possible des différentes parties impliquées, et inclure celles qui sont traditionnellement marginalisées ou réduites au silence.

Innovation institutionnelle

Au-delà de l’engagement communautaire, l’adhésion de la communauté juridique et politique est nécessaire pour traduire les choix collectifs en instruments et mécanismes applicables. Cette étape cruciale nécessite des approches innovantes pour développer des moyens d’encadrer et des véhicules pour contenir de nouvelles fonctions de gouvernance.

Un programme de recherche interdisciplinaire dédié couvrant les données, le droit, la politique et les sciences sociales aidera à relier la théorie de l'autorisation sociale et sa mise en œuvre pratique.

La mise en œuvre réussie des licences sociales nécessitera très probablement également une innovation institutionnelle, ce qui pourrait inclure la mise en évidence du rôle des gestionnaires de données ou d'autres personnes chargées de promouvoir de manière responsable le partage de données. Nous avons constaté des appels croissants en faveur du rôle de Chief AI Officer (CAIO) pour diriger l'intégration des technologies d'IA afin de stimuler l'innovation et d'obtenir un avantage concurrentiel.

Nous pensons qu'il devrait y avoir un rôle dédié dans tous les domaines de la collecte de données, publiques et privées, pour identifier la manière dont les données peuvent être utilisées dans une organisation.

Mais nous pensons également que cette portée est trop limitée. Un tel rôle peut également inclure l’identification d’opportunités basées sur d’autres données disponibles ou qui devraient l’être. Cela peut en outre inclure l'identification d'opportunités basées sur les propres données d'une organisation qui peuvent être partagées, non seulement à des fins lucratives, mais également pour le bien public.