De plus en plus de décisions du secteur public sont prises par l’IA, mais qu’en pensent les gens ?
Les aides techniques progressent et la prise de décision automatisée devient de plus en plus courante dans le secteur public, mais que pensent vraiment les gens de cette tendance ? Une nouvelle étude de l’Université de Södertörn en Suède a fait la lumière sur la question.
« Notre analyse montre que les gens ne sont généralement pas conscients de leurs droits concernant la manière dont ils fournissent des données à utiliser dans la prise de décision automatisée. Cependant, les attitudes des gens à l’égard d’utilisations spécifiques diffèrent considérablement entre les pays inclus dans l’étude : l’Estonie, la Suède et l’Allemagne », dit Anne Kaun, professeur d’études sur les médias et la communication.
La prise de décision automatisée utilise des algorithmes et l’intelligence artificielle pour prendre des décisions qui étaient auparavant prises par des administrateurs et d’autres fonctionnaires. Par exemple, en Suède, la municipalité de Strängnäs a travaillé à la production d’un modèle linguistique pour aider les administrateurs à hiérarchiser les rapports concernant les services sociaux.
Différences de confiance
L’étude, récemment publiée dans le Information, communication et société journal montre également que les citoyens estoniens et suédois sont plus positifs que ceux de l’Allemagne en ce qui concerne l’automatisation. Selon Anne Kaun et ses collègues, Anders Olof Larsson et Anu Masso, cela pourrait être dû aux différences culturelles entre les pays et aux variations du niveau de confiance des gens envers les autorités.
« L’automatisation peut conduire à des processus plus efficaces et à des coûts réduits, mais elle peut également entraîner moins de transparence et moins d’exigences de responsabilité. Lorsque les décisions sont prises par des algorithmes plutôt que par des personnes, comprendre la base de la prise de décision peut être difficile, et même faire les gens perçoivent la décision comme injuste », déclare Anne Kaun.
Informer le public
Les chercheurs perçoivent un besoin d’informer le public sur les enjeux liés à la prise de décision automatisée et d’accroître l’implication dans ces enjeux. Les citoyens doivent être informés de leurs droits lorsqu’il s’agit de fournir des données au système. Ils devraient également, selon les chercheurs, avoir la possibilité d’influencer le format des systèmes et la manière dont ils sont mis en œuvre.
« Il est important que nous voyions non seulement les avantages de la numérisation, mais aussi les défis, voire ses inconvénients », dit-elle.
La question de l’attitude des gens à l’égard de ces questions a récemment été mise en évidence lors d’un événement sur l’IA durable, qui a examiné comment l’UE peut promouvoir l’innovation dans l’IA pour aider à résoudre la crise climatique. Les participants étaient une combinaison de décideurs, de développeurs technologiques et de chercheurs, ainsi que de représentants de la société civile, dont l’ancien archevêque d’Uppsala Antje Jackelen.
« Des réunions comme celle-ci démontrent l’importance de rassembler un éventail de points de vue sur la technologie : du milieu universitaire, de la politique et de l’industrie et, surtout, de la société civile. Cependant, trouver un moyen d’expression partagé est un défi, tout comme ne pas rester bloqué dans des discussions très abstraites. Ce que j’en ai retenu, c’est que nos recherches apportent une perspective souvent oubliée, à savoir celle des gens ordinaires et de la société civile, et, malheureusement, que dans certains contextes, il est difficile de mettre l’accent sur cette perspective », conclut Kaun.
Fourni par l’Université de Södertörn