Une étude explore les opportunités et les risques
Une étude récente impliquant l’Université d’Europe centrale (CEU) ouvre la voie à un nouveau domaine de recherche fusionnant l’intelligence artificielle et la science de la complexité pour comprendre comment l’interaction continue entre les humains et les algorithmes peut avoir un impact profond sur la dynamique sociale.
L’étude, publiée par une équipe internationale de scientifiques de l’IA et de la complexité dans la revue Intelligence artificielleintitulé « Human-AI Coevolution », explore comment les processus dans un monde où les algorithmes et les systèmes de recommandation guident de plus en plus les décisions quotidiennes influencent le comportement humain.
Les chercheurs ont découvert que ces processus créent une « boucle de rétroaction » dans laquelle les choix individuels et les suggestions automatisées se renforcent mutuellement et qui, selon les chercheurs, génèrent des effets complexes et imprévisibles qui ne peuvent être expliqués par les modèles traditionnels d’interaction homme-machine. L’article propose un nouveau cadre pour étudier la coévolution de l’IA et de la société, dans le but de façonner leur avenir commun de manière consciente et responsable.
« L’intelligence artificielle a déjà pénétré de nombreux domaines de nos vies, et le processus se poursuit de manière imparable. Un écosystème humain-IA est en train d’émerger, ce qui implique une évolution et une adaptation mutuelles », a déclaré le professeur Janos Kertesz du département de science des réseaux et des données du CEU, auteur. de l’étude.
« Ce processus soulève un certain nombre de questions profondes, depuis la garantie d’un bénéfice social jusqu’à la nécessité d’éviter les inégalités liées à l’accessibilité ou aux biais potentiels de l’IA, et même des dilemmes moraux et philosophiques, par exemple sur la mesure dans laquelle l’IA devrait être tenue responsable des décisions prises par elle-même. « conduire une voiture en une fraction de seconde. De toute évidence, une approche interdisciplinaire est nécessaire, impliquant des informaticiens, des chercheurs en réseaux et des spécialistes des sciences sociales », a-t-il ajouté.
L’équipe de recherche de l’étude souligne l’importance d’une nouvelle perspective interdisciplinaire pour relever les défis de la coévolution. Ils présentent des exemples concrets d’écosystèmes d’IA humaine – non seulement des médias sociaux et des marchés numériques, mais aussi d’autres grandes plateformes en ligne, telles que les services de cartographie géographique et de navigation, ainsi que des chatbots basés sur l’IA générative. Les auteurs soulignent également la nécessité de nouveaux outils réglementaires et politiques pour surveiller et gérer la boucle de rétroaction qui régit nos interactions numériques.
« La boucle de rétroaction entre les humains et l’IA crée des formes d’interaction sans précédent, et la complexité des écosystèmes humain-IA est en constante expansion », a déclaré Dino Pedreschi, professeur d’informatique à l’Université de Pise et co-auteur de l’étude.
Les systèmes complexes sont constitués de nombreuses unités en interaction et sont connus pour produire un comportement inattendu, dit émergent, qui ne peut être expliqué par les caractéristiques de leurs constituants. La boucle de rétroaction est basée sur de telles interactions entre de nombreux humains et unités d’IA et peut donc produire des effets inattendus.
« Si nous voulons comprendre l’impact réel de l’IA sur notre société », a déclaré Luca Pappalardo, chercheur au CNR et professeur à l’École normale supérieure de Pise et co-auteur de l’étude, « nous devons réinterpréter notre compréhension des systèmes complexes. à la lumière de ce feedback continu entre les humains et les algorithmes. »
Selon les auteurs, de nouveaux outils réglementaires et politiques sont donc nécessaires pour atténuer les inégalités et garantir l’évolution de l’écosystème pour le bien public. Emanuele Ferragina, professeur de sociologie à Sciences Po à Paris et co-auteur de l’étude, a souligné l’urgence de s’attaquer aux obstacles juridiques et politiques. « Pour bien comprendre la coévolution homme-IA, nous avons besoin d’une plus grande transparence de la part des principales plateformes en ligne », a-t-elle déclaré.
« Des initiatives telles que la loi européenne sur les services numériques peuvent faire la différence, mais elles sont également essentielles pour garantir une répartition équitable des ‘outils de recommandation’ dans un marché plus compétitif. »
Fourni par l’Université d’Europe centrale
