Le développement de l’IA ne peut pas être laissé aux caprices du marché, avertissent les experts de l’ONU

Le développement de l'intelligence artificielle ne doit pas être guidé uniquement par les forces du marché, ont averti jeudi des experts de l'ONU, appelant à la création d'outils de coopération mondiale.

Mais ils se sont abstenus de suggérer la formation d’un organisme directeur mondial musclé pour superviser le déploiement et l’évolution de la technologie, dont la prolifération a suscité des craintes concernant les préjugés, les abus et la dépendance.

Le groupe d'environ 40 experts des domaines de la technologie, du droit et de la protection des données a été créé par le secrétaire général de l'ONU, Antonio Guterres, en octobre.

Leur rapport, publié quelques jours avant le début du très médiatisé « Sommet du futur » de l’ONU, tire la sonnette d’alarme quant au manque de gouvernance mondiale de l’IA ainsi qu’à l’exclusion des pays en développement des débats autour de cette technologie.

« Il y a aujourd’hui un déficit de gouvernance mondiale en matière d’IA », qui par nature est transfrontalière, avertissent les experts dans leur rapport.

« L’IA doit servir l’humanité de manière équitable et sûre », a déclaré Guterres cette semaine.

« Si rien n’est fait, les dangers posés par l’intelligence artificielle pourraient avoir de graves conséquences pour la démocratie, la paix et la stabilité. »

« Trop tard » ?

Dans le contexte de cet appel clair, les experts ont appelé les membres de l’ONU à mettre en place des mécanismes pour faciliter la coopération mondiale sur la question, ainsi que pour prévenir toute prolifération involontaire.

« Le développement, le déploiement et l’utilisation d’une telle technologie ne peuvent pas être laissés aux seuls caprices des marchés », indique le rapport.

Elle appelle tout d’abord à la création d’un groupe d’experts scientifiques en IA qui s’inspirerait du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC), dont les rapports sont le dernier mot sur la question du changement climatique.

Le groupe informerait la communauté internationale sur les risques émergents, identifierait les besoins en matière de recherche et étudierait comment ces connaissances pourraient être utilisées pour réduire la faim, la pauvreté et les inégalités entre les sexes, entre autres objectifs.

Cette proposition est incluse dans le projet de Pacte numérique mondial, toujours en discussion, qui doit être adopté dimanche lors du « Sommet du futur ».

Le rapport préconise la mise en place d’une structure de « coordination » souple au sein du Secrétariat de l’ONU.

Mais cela ne va pas jusqu’à créer un organe de gouvernance internationale à part entière – comme celui souhaité par Guterres – basé sur le modèle de l’organisme de surveillance nucléaire de l’ONU, l’AIEA.

« Si les risques liés à l’IA deviennent plus graves et plus concentrés, il pourrait devenir nécessaire pour les États membres d’envisager la création d’une institution internationale plus solide, dotée de pouvoirs de surveillance, de rapport, de vérification et d’application », indique le rapport.

Guterres a néanmoins salué le rapport et ses recommandations, affirmant dans une vidéo qu'ils constituaient « un modèle pour s'appuyer sur les efforts existants et façonner ensemble une architecture internationale de l'IA qui soit inclusive, agile et efficace ».

Les auteurs ont reconnu qu’en raison de la vitesse fulgurante des changements dans l’IA, il serait inutile de tenter de dresser une liste exhaustive des dangers présentés par une technologie en constante évolution.

Mais ils ont souligné les dangers de la désinformation pour la démocratie, les deepfakes de plus en plus réalistes (en particulier ceux qui sont pornographiques), ainsi que l’évolution des armes autonomes et l’utilisation de l’IA par les groupes criminels et terroristes.

« Toutefois, compte tenu de la rapidité, de l’autonomie et de l’opacité des systèmes d’IA, attendre qu’une menace apparaisse peut signifier que toute réponse arrivera trop tard », indique le rapport.

« Des évaluations scientifiques et un dialogue politique continus permettraient de garantir que le monde ne soit pas surpris. »