La technologie derrière la cryptographie peut-elle aider à aligner l’IA sur les valeurs humaines ?

Alors que les gens utilisent de plus en plus l’intelligence artificielle (IA) dans divers domaines de la vie pour gagner du temps ou améliorer leurs performances, l’influence des systèmes d’IA augmente, tout comme le risque de résultats non fiables dans des prises de décision à enjeux élevés, comme celles impliquant des choix médicaux ou financiers.

Les agents d’IA, tels que les robots de trading autonomes ou divers outils de diagnostic, sont conçus pour apprendre, évoluer et fonctionner avec peu ou pas d’implication humaine directe. Alors, que peuvent faire les technologues pour garantir que l’IA soit conforme aux valeurs éthiques pour le bien public ?

Une équipe, comprenant des chercheurs de Penn State, a publié un article dans le Journal de cybersécurité et de confidentialité pour explorer les façons dont la blockchain – la technologie derrière la crypto-monnaie – pourrait aider à faire respecter les limites éthiques des systèmes d’IA.

Dusan Ramljak, co-auteur de l'étude et professeur adjoint de génie logiciel à Penn State Great Valley, discute du cadre que lui et son équipe ont développé pour étudier comment utiliser la blockchain pour aligner l'IA sur l'éthique humaine.

Pourquoi le comportement de l’IA est-il un problème si urgent ?

Les systèmes d’IA sont formés pour agir d’une certaine manière selon des paramètres spécifiques. Si les paramètres changent, par exemple lorsqu’ils sont mis en œuvre dans des systèmes plus larges, ils peuvent agir de manière imprévisible et en contradiction avec les valeurs humaines – par exemple, en faisant de fausses déclarations en manipulant mal des données sensibles sur la santé ou en désinformation en recommandant un mauvais traitement médical. Les conséquences peuvent être dangereuses.

Alors que nous déléguons de plus en plus de tâches à l’IA, nous devons trouver des moyens de garantir que nous maintenons le contrôle sur ces systèmes et de faciliter une conduite éthique. L’IA peut nous aider à accroître l’efficacité de la vie quotidienne, mais nous devons l’utiliser de manière responsable en fournissant un environnement de test approprié, en prédisant son comportement à l’avance et en garantissant l’alignement de l’IA sur les valeurs humaines.

Les gens pensent souvent à la blockchain en relation avec la crypto-monnaie. Comment la blockchain peut-elle aider l’IA à fonctionner de manière éthique ?

La blockchain crée des enregistrements numériques sécurisés et décentralisés qui, grâce à la cryptographie, nécessitent un traçage transparent des données des entrées aux sorties, avec des journaux inviolables. De nombreux systèmes d’IA ne bénéficient pas du type de transparence, de sécurité et de contrôle décentralisé qu’offre la blockchain.

En associant l’IA à la blockchain, nous pouvons créer des systèmes dans lesquels les décisions sont cohérentes et traçables, et où les règles opérationnelles et les données sont plus difficiles à manipuler.

Les mécanismes de consensus basés sur la blockchain permettent à un large éventail de participants de voter sur des règles éthiques, qui sont ensuite stockées sous forme de « contrats intelligents ». Les contrats intelligents sont une éthique exécutoire par machine ou des règles qui s'exécutent automatiquement.

Ces mécanismes favorisent la collaboration décentralisée et la démocratisation dans le développement de systèmes d'intelligence artificielle et garantissent que les machines respectent certaines limites. Les fonctionnalités de sécurité de la blockchain rendent également plus difficile aux acteurs malveillants de manipuler les données de formation, ce qui pourrait amener les systèmes d'IA à donner des résultats non fiables ou nuisibles.

Quel cadre votre équipe a-t-il développé pour étudier les utilisations de la blockchain afin de mettre en place des garde-fous éthiques sur le comportement des systèmes d'IA ?

Nos recherches ont inclus Maryam Roshanaei, professeure adjointe de technologie de l'information et d'analyse et d'opérations de cybersécurité à Penn State Abington, Jainil Kakka, étudiant à la maîtrise en analyse de données, Alexander Neulinger et Lukas Sparer, doctorants à l'Université de Vienne, ainsi que Dragutin Ostojić, doctorant au Département de mathématiques et d'informatique de la Faculté des sciences et du Département de mathématiques et d'informatique de l'Université de Kragujevac.

L’équipe a examiné plus de 7 000 études et développé un cadre pour guider les recherches futures sur la façon dont la blockchain peut faciliter la conformité éthique dans les systèmes d’IA en prenant en charge des opérations sécurisées et transparentes et en assurant la responsabilité.

Une étude a suggéré que la blockchain pourrait être utilisée pour vérifier les données d’entrée de l’IA et enregistrer les sorties de l’IA, ce qui contribuerait à garantir la traçabilité de la prise de décision. Une autre étude a proposé que la blockchain pourrait soutenir les systèmes de réputation des agents d’IA, en offrant des incitations à un comportement éthique et en refusant des ressources pour des actions trompeuses ou non conformes.

Nous avons également noté certaines lacunes dans la littérature, c'est pourquoi nous avons proposé un cadre analytique à trois niveaux pour une exploration plus approfondie des utilisations de la blockchain pour l'alignement de l'IA :

1. Analyse au niveau micro : protocoles techniques et de codage pour sécuriser les données des utilisateurs
2. Analyse de niveau méso : cas d'utilisation de l'IA basée sur la blockchain dans divers secteurs, tels que les services financiers et les soins de santé, avec des exigences spécifiques aux besoins uniques de ces secteurs
3. Analyse au niveau macro : principes moraux et normes juridiques et culturelles internationales qui régissent les utilisations éthiques et durables des technologies émergentes dans l'intérêt public. La loi sur l'intelligence artificielle de l'Union européenne est un exemple de réglementation mondiale destinée à soutenir le développement fiable et l'utilisation responsable des systèmes d'IA grâce à des exigences strictes en matière de gouvernance et de transparence.

Quels sont les inconvénients de l’utilisation de l’IA basée sur la blockchain ?

Les systèmes de blockchain et d’IA à grande échelle peuvent être gourmands en énergie. En outre, la confidentialité doit être protégée afin que rendre l’IA plus transparente ne signifie pas exposer des données sensibles. Et différents pays et régions culturelles peuvent prioriser différemment les valeurs, de la vie privée à l’équité. Les cadres d’alignement doivent donc être suffisamment flexibles pour fonctionner entre les cultures et les systèmes juridiques.

Quelles recherches futures sont nécessaires pour explorer l’alignement de l’IA basée sur la blockchain avec l’éthique ?

Pour les futures orientations de recherche, nous devons développer des cadres à plusieurs niveaux qui intègrent des mécanismes de sécurité et de confidentialité au niveau micro, une gouvernance sectorielle au niveau méso et des contraintes juridiques au niveau macro dans une structure unique et adaptable.

La convergence de la blockchain et de l’IA pourrait nous apporter non seulement une fiabilité accrue des systèmes techniques, mais également de nouveaux modes de gouvernance centrée sur l’humain, garantissant la responsabilité à grande échelle. La blockchain nous offre des outils pour développer et utiliser l’IA de manière à donner la priorité aux valeurs humaines et au bien-être sociétal.