Intelligence artificielle responsable : le rôle de la norme ISO/IEC 42001

Je pars d’un fait : l’intelligence artificielle a déjà transformé et change, en profondeur et continuellement, la manière dont les organisations complexes fonctionnent, prennent des décisions et interagissent avec la société.

Si l’intelligence artificielle pose des défis, nous, « l’humanité », restons responsables de les surmonter. Et cela en particulier dans le domaine de l’éthique, qui doit aller de pair avec l’IA, car elles sont toutes deux protagonistes de la révolution industrielle profonde et omniprésente à laquelle nous sommes confrontés. En tant qu’entrepreneur dans le secteur de l’innovation numérique à la frontière de l’IA, je la considère comme un élément essentiel.

La dignité humaine, la vie privée, la protection des données sensibles, le respect des droits et des valeurs fondamentales de notre culture doivent toujours être sauvegardés, et en particulier ceux d’entre nous qui travaillent dans la production et la mise en œuvre de technologies doivent les considérer comme fondamentaux.

C’est pour cette raison que la souveraineté numérique italienne et européenne est un objectif à poursuivre avec vigueur, selon notre idée d’innovation et de vision, de manière non autoarchique mais pleinement consciente.

Le rôle de la certification ISO/IEC 42001.

Dans ce « scénario liquide » – pour reprendre un concept exprimé par le sociologue Zygmunt Bauman – la certification ISO/IEC 42001 tente de remettre de l’ordre, en listant une norme de comportement, des valeurs techniques et une culture organisationnelle. Ce dernier, entre autres, vise à définir des modèles de gouvernance modernes et à identifier des processus de gestion des risques en mettant en œuvre des critères de raisonnement éthiques et vérifiables.

L’éthique appelle les acteurs impliqués dans la certification à assurer le plus grand effort d’application. La véritable efficacité de la norme ISO/IEC 42001 dépend en effet de la volonté de l’organisation d’appliquer concrètement ses principes, en investissant dans les compétences, la formation et l’amélioration continue.

En ce sens, la reconnaissance des processus représente avant tout un engagement envers une gestion consciente et responsable de l’innovation, capable d’équilibrer le progrès technologique avec la surveillance constante de l’être humain.

Pourquoi la norme ISO/IEC 42001 est importante

L’un des aspects les plus marquants de la norme ISO/IEC 42001 concerne gérer l’inattendu. Les systèmes d’intelligence artificielle, en effet, peuvent générer des conséquences imprévisibles : discrimination algorithmique, erreurs de prise de décision, utilisation inappropriée des données ou manque de transparence dans les processus automatisés.

La certification engage les différentes organisations à identifier, surveiller et atténuer ces problèmes critiques grâce à des procédures documentées et des contrôles continus.

Cela signifie adopter une approche préventive, dans laquelle la technologie n’est pas laissée agir de manière incontrôlable, mais supervisée par des structures de gouvernance, des équipes et des comités capables d’évaluer son impact social, économique et juridique.

ISO/IEC 42001 et loi sur l’IA de l’Union européenne

Parmi toutes les réglementations internationales qui tentent de réglementer l’intelligence artificielle, la loi sur l’IA de l’Union européenne mérite une mention notable. L’action communautaire marque le début d’une phase réglementaire dans laquelle les entreprises doivent démontrer leur conformité, leur transparence et leur responsabilité dans l’utilisation de l’IA.

Nous parlons de l’AI Act avec l’ISO/IEC 42001 car la relation entre les deux réglementations est celle entre objectif et outil. La certification, en effet, apporte un soutien concret à l’adaptation aux nouvelles obligations réglementaires à travers la promotion d’outils ciblés (comme par exemple des audits, de la documentation et des processus standardisés) qui permettent aux organisations de démontrer leur capacité à adopter des pratiques responsables et cohérentes avec les attentes des autorités et du marché.

Tous les marchés peuvent être utiles pour obtenir cette certification. Parmi ceux-ci, pour n’en citer que quelques-uns : les secteurs de la santé et des transports ; gestion des ressources en eau; espace; cybersécurité.

ISO est une norme commune qui s’applique à l’ensemble du marché

La force de l’ISO est de constituer un langage commun de confiance pour un marché fragmenté par des approches propriétaires et des déclarations d’« IA éthique », souvent autoréférentielles. Il ne suffit plus de se déclarer sujets vertueux. Il est nécessaire de suivre une réglementation technique et de bon sens, et pour cela la norme ISO/IEC 42001 introduit un cadre vérifiable par des tiers, conduisant ainsi à un avantage pour le consommateur final mais aussi pour les organisations, car cela signifie pouvoir démontrer – et non seulement affirmer – que leurs systèmes d’IA sont développés et gérés selon des critères mondialement reconnus.

Les enjeux critiques de l’ISO/IEC42001

Bien entendu, il faut l’admettre, la certification présente quelques éléments de faiblesse. De même, la loi européenne sur l’IA présente également certains éléments d’amélioration souhaitables. Le chemin est long mais l’important est de repartir sur des piliers solides et partagés. Pour en revenir à l’ISO, nous pouvons la définir comme un point de départ innovant, utile, souhaité et attendu depuis longtemps, qui établit les exigences du processus. Mais l’absence de normes techniques contraignantes sur les performances des modèles pourrait, à long terme, ne pas suffire à garantir qu’un système d’IA est « bon » dans l’absolu. C’est une codification qui manquait auparavant et qu’il est désormais utile d’avoir.

Encyclique du pape Léon XIV : comment le marché du travail va changer

Dans ce scénario, l’encyclique «Magnifique Humanité » du Pape Léon

Tout d’abord en démontrant la capacité à créer des plateformes et des modèles efficaces, nativement ancrés dans le contexte éthique et culturel et dans le cadre réglementaire qui nous représente le mieux.

Il est également essentiel d’apprendre à utiliser l’IA comme alliée pour l’efficacité et l’amélioration de notre travail.

Je crois que mieux travailler en faisant de l’éthique un élément essentiel de l’IA humaine n’est pas une utopie mais le résultat de choix. L’IA est une grande innovation née de l’ingéniosité humaine, mais comme toutes les technologies très puissantes, il nous appartient de l’utiliser pour améliorer nos vies, dans un sens d’utilité et non d’antagonisme envers la dignité et la valeur de l’humanité.

Ce qui ne peut jamais manquer, c’est l’élément humain, car l’IA – comme le disait le père de l’intelligence artificielle John McCarthy – nécessite une clarté conceptuelle avant la puissance de calcul. Nous avons besoin de confiance dans le numérique, mais aussi dans le numérique.