Des chercheurs identifient 6 défis auxquels les humains sont confrontés avec l’intelligence artificielle

Un professeur de l’Université de Floride centrale et 26 autres chercheurs ont publié une étude identifiant les défis que les humains doivent surmonter pour s’assurer que l’intelligence artificielle est fiable, sûre, digne de confiance et compatible avec les valeurs humaines.

L’étude, « Six Human-Centered Artificial Intelligence Grand Challenges », a été publiée dans le Journal international de l’interaction homme-machine.

Ozlem Garibay ’01MS ’08PhD, professeur adjoint au Département de génie industriel et de systèmes de gestion de l’UCF, était le chercheur principal de l’étude. Elle dit que la technologie est devenue plus importante dans de nombreux aspects de nos vies, mais elle a également entraîné de nombreux défis qui doivent être étudiés.

Par exemple, l’intégration généralisée à venir de l’intelligence artificielle pourrait avoir un impact significatif sur la vie humaine d’une manière qui n’est pas encore entièrement comprise, explique Garibay, qui travaille sur les applications de l’IA dans la conception et la découverte de matériaux et de médicaments, et sur l’impact de l’IA sur les systèmes sociaux.

Les six défis identifiés par Garibay et l’équipe de chercheurs sont :

• Défi 1, Bien-être humain : l’IA devrait être capable de découvrir les opportunités de mise en œuvre pour qu’elle profite au bien-être des humains. Il convient également de prendre en compte le bien-être de l’utilisateur lors de l’interaction avec l’IA.

• Défi 2, Responsable : L’IA responsable fait référence au concept de priorisation du bien-être humain et sociétal tout au long du cycle de vie de l’IA. Cela garantit que les avantages potentiels de l’IA sont exploités d’une manière qui s’aligne sur les valeurs et les priorités humaines, tout en atténuant le risque de conséquences imprévues ou de manquements éthiques.

• Défi 3, Confidentialité : La collecte, l’utilisation et la diffusion de données dans les systèmes d’IA doivent être soigneusement étudiées pour assurer la protection de la vie privée des individus et empêcher toute utilisation préjudiciable contre des individus ou des groupes.

• Défi 4, Conception : Les principes de conception centrés sur l’humain pour les systèmes d’IA doivent utiliser un cadre qui peut informer les praticiens. Ce cadre ferait la distinction entre l’IA à risque extrêmement faible, l’IA sans mesures spéciales nécessaires, l’IA à risque extrêmement élevé et l’IA qui ne devrait pas être autorisée.

• Défi 5, Gouvernance et supervision : Un cadre de gouvernance qui prend en compte l’ensemble du cycle de vie de l’IA, de la conception au développement et au déploiement, est nécessaire.

• Défi 6, Interaction homme-IA : Pour favoriser une relation éthique et équitable entre les humains et les systèmes d’IA, il est impératif que les interactions soient fondées sur le principe fondamental du respect des capacités cognitives des humains. Plus précisément, les humains doivent conserver un contrôle et une responsabilité complets sur le comportement et les résultats des systèmes d’IA.

L’étude, qui a été menée sur 20 mois, comprend les points de vue de 26 experts internationaux qui ont des expériences diverses dans la technologie de l’IA.

« Ces défis appellent à la création de technologies d’intelligence artificielle centrées sur l’humain qui donnent la priorité à l’éthique, à l’équité et à l’amélioration du bien-être humain », a déclaré Garibay. « Les défis exigent l’adoption d’une approche centrée sur l’humain qui comprend une conception responsable, la protection de la vie privée, le respect des principes de conception centrée sur l’humain, une gouvernance et une surveillance appropriées et une interaction respectueuse avec les capacités cognitives humaines. »

Dans l’ensemble, ces défis sont un appel à l’action pour que la communauté scientifique développe et mette en œuvre des technologies d’intelligence artificielle qui priorisent et profitent à l’humanité, dit-elle.

Le groupe de 26 experts comprend des membres de la National Academy of Engineering et des chercheurs d’Amérique du Nord, d’Europe et d’Asie qui ont une vaste expérience dans le milieu universitaire, l’industrie et le gouvernement. Le groupe a également des formations diverses dans des domaines allant de l’informatique et de l’ingénierie à la psychologie et à la médecine.

Leurs travaux seront également présentés dans un chapitre du livre Human-Computer Interaction: Foundations, Methods, Technologies, and Applications.