Renégociation de la relation entre citoyens et développement de la prise de décision automatisée

On nous dit que l’intelligence artificielle et les décisions automatisées qu’elle permet nous offriront une meilleure gouvernance publique. L’intelligence artificielle fournira de manière flexible des décisions cohérentes et rapides, et des économies considérables pourront être réalisées grâce à l’automatisation.

Selon la stratégie nationale finlandaise en matière d’IA, le secteur public doit être modernisé pour faire face à la pression exercée par le vieillissement démographique. La prise de décision automatisée est déjà utilisée par des organisations telles que l’administration fiscale et Kela, l’institution finlandaise d’assurance sociale.

Cependant, les efforts visant à numériser l’administration publique semblent négliger le point de vue des citoyens ordinaires. Dans leur étude publiée dans Mégadonnées et société, la professeure agrégée de droit Riikka Koulu et la chercheuse postdoctorale Terhi Esko, avec sa formation en sociologie, ont passé au peigne fin toutes les déclarations soumises lors de l’élaboration de la législation administrative générale concernant la prise de décision automatisée. Ils ont eu l’impression d’une initiative législative menée selon les conditions de l’administration.

« Nous voulions simplement voir si le point de vue des citoyens était présent et comment ils étaient discutés en tant que cibles d’une prise de décision automatisée. Nous avons conclu que les points de vue des citoyens étaient manifestement absents », explique Esko, résumant les résultats.

L’initiative législative s’appuie sur le règlement général de l’UE sur la protection des données ainsi que sur les déclarations de la commission du droit constitutionnel du Parlement et sur les avis des contrôleurs suprêmes de la légalité, selon lesquels les procédures automatisées utilisées depuis plusieurs années par diverses autorités manquaient de fondement juridique. base. Les chercheurs ont perçu un processus qui visait effectivement à garantir l’utilisation continue des procédures de prise de décision automatisées précédemment adoptées. L’initiative législative n’a fait l’objet d’aucun débat critique.

Pour leur étude, les chercheurs ont examiné les types d’opinions et les visions futures de la prise de décision automatisée véhiculées par les déclarations. Les questions ont été principalement abordées du point de vue des autorités, en se concentrant sur la nature de la bonne gouvernance et les avantages attendus de l’administration et de l’automatisation numériques. Les réponses reflétaient l’idée selon laquelle les citoyens n’étaient pas censés comprendre la technologie complexe utilisée dans la prise de décision. Leur rôle se réduit avant tout à être la cible de la prise de décision.

Le citoyen oublié mais digne de confiance

Le citoyen, ignoré lors de l’élaboration des lois, se voit accorder une grande importance en tant que contrôleur de la qualité des systèmes d’information. La numérisation comporte le risque que les citoyens deviennent de plus en plus responsables, non seulement de la protection de leurs propres droits, mais également du fonctionnement global du système.

Par exemple, les utilisateurs sont de plus en plus sollicités pour donner leur avis sur différents systèmes et les problèmes associés. De nombreux sites Internet proposent désormais un formulaire de réclamation permettant de signaler des défauts d’accessibilité du site. Un moyen simple de déposer une plainte constitue une évolution positive en soi, mais cela peut également conduire à ce que des manquements ne soient pas détectés si les citoyens ne les signalent pas activement.

La responsabilité de déposer des plaintes concernant la prise de décision automatisée incombe généralement aux personnes personnellement concernées par les décisions. Cependant, si vous ne comprenez pas comment une décision vous concernant a été prise, comment savoir quand porter plainte contre une décision ?

« Cela soulève la question des compétences et des connaissances que les gens sont censés posséder », explique Esko.

Si notre système juridique fonctionne comme il le devrait, les gens se plaignent des décisions erronées. Cela garantit que les risques matérialisés de la numérisation sont révélés et que les problèmes peuvent être résolus. Cependant, à mesure que les systèmes d’information deviennent de plus en plus complexes, il existe un risque que de moins en moins de citoyens se plaignent des systèmes et des décisions qu’ils prennent. Cela rendra notre système juridique édenté.

Des études montrent que nous avons tendance à faire confiance aux ordinateurs : nous supposons qu’ils prennent des décisions correctes et objectives. Cela soulève la question de savoir si le seuil de plainte concernant, par exemple, une décision fiscale deviendra plus élevé si la décision est prise par un algorithme.

Osez remettre en question la foi dans la numérisation

Les Finlandais sont depuis longtemps convaincus que nous devons rechercher un avantage concurrentiel en étant innovant. Rares sont ceux qui ont osé remettre en question ce récit ou notre politique technologique.

« Et si nous ne numérisions pas tout ? C’est une question qui ne reçoit pas beaucoup d’attention nulle part. Il n’y a pas de débat de politique juridique en Finlande sur les limites de la numérisation », déclare Koulu.

Selon les statistiques de l’UE, notre société occupe la première place en Europe en matière de numérisation de l’administration publique. C’est naturellement une belle réussite, mais d’un autre côté, celui qui se trouve en tête du peloton est aussi le premier à faire face aux risques et aux problèmes.

« Cela signifie que nous ne pouvons pas copier les meilleures pratiques d’autres pays. En d’autres termes, d’autres pays n’ont pas encore rencontré les problèmes auxquels nous sommes confrontés. Nous sommes plutôt aveugles à ces risques. »

Les discussions sur les problèmes liés à l’accessibilité des systèmes dans l’administration numérique donnent facilement l’impression que les systèmes posent principalement des problèmes aux seniors mais pas aux jeunes, qui ont grandi avec la technologie. Cela implique que les problèmes seront automatiquement résolus, à mesure que les personnes qui utilisent des appareils numériques depuis leur enfance représenteront une part plus importante de la population.

Toutefois, les chercheurs mettent en garde contre le fait de compter sur les jeunes comme étant des natifs du numérique. La dextérité technique à elle seule ne mènera pas très loin si le jeune utilisateur ne comprend pas le système social sous-jacent et ne sait pas comment traiter avec les autorités.

« Les compétences numériques sont encore considérées comme quelque chose de différent des compétences civiques. Si vous interagissez avec l’administration numérique, il ne suffit pas de savoir utiliser un ordinateur, il faut aussi comprendre comment fonctionnent les autorités », explique Koulu.

Une législation rigide peut être un atout

Dans les débats sur la politique de l’innovation et de la technologie, la législation finlandaise est souvent qualifiée d’obstacle dépassé, créant des obstacles inutiles au développement. Dans ces discussions, la législation habilitante de l’Estonie est souvent citée comme un exemple que la Finlande devrait également viser.

L’agilité très appréciée de l’Estonie repose en grande partie sur le fait que le pays a réformé sa législation lorsqu’il est devenu indépendant et s’est débarrassé des lois de la période soviétique.

« Nous avons une tradition constitutionnelle vieille de plusieurs centaines d’années, qui remonte à l’époque de la domination suédoise. La tradition finlandaise peut aussi être un facteur de protection, et j’espère qu’elle pourra contribuer à remettre en question l’idée selon laquelle tout doit être numérisé », déclare Koulu. .

L’histoire commune de la Finlande et de la Suède et leurs structures administratives similaires jettent les bases d’un projet finno-suédois commun portant sur la prise de décision automatisée dans l’administration publique.

Le projet ADM-Gov (The Automated Administration: Governance of ADM in the Public Sector) cherche à déterminer comment la prise de décision publique automatisée peut être mise en œuvre sans compromettre la bonne administration publique ou les droits fondamentaux des citoyens et la confiance dans les institutions publiques. Le projet implique également des comparaisons entre la Finlande et la Suède, par exemple sur les tensions provoquées par la future réglementation européenne sur l’IA dans les deux pays. Les pays voisins se prêtent parfaitement aux comparaisons : s’ils ont résolu beaucoup de problèmes de la même manière, ils présentent également des différences.

En Suède, la prise de décision automatisée a été rendue possible dans l’administration publique en ajoutant simplement une disposition à la loi sur la procédure administrative stipulant que les décisions peuvent être prises automatiquement. La réforme parallèle intervenue en Finlande était beaucoup plus vaste et comprenait plusieurs nouveaux articles dans les lois. L’approche suédoise s’est rapidement révélée trop simpliste et avait besoin d’être réparée. Dans le cadre du projet, les chercheurs espèrent trouver des réponses simples sur la manière dont les autorités ont adopté la nouvelle législation finlandaise dans la pratique.

Une nouvelle branche de recherche : la recherche sur les interfaces utilisateur juridiques

Lorsque les étudiants ont besoin d’aide pour demander une aide financière aux étudiants, ils ne se dirigent plus vers le bureau Kela le plus proche mais vers le site Internet de Kela. Notre administration publique est passée au numérique, ce qui signifie que les gens n’interagissent plus avec un agent public mais avec une interface utilisateur technique.

Les interfaces utilisateur sont devenues un élément clé de notre vie quotidienne et pratiquement une nécessité. L’interface utilisateur est la partie du système d’information visible par l’utilisateur. Il peut s’agir d’un chatbot, d’un portail en ligne ou de toute solution informatique que les citoyens utilisent pour gérer leurs affaires avec l’administration publique.

Puisque les interfaces utilisateur sont conçues par des personnes, elles ne peuvent pas être neutres. Les solutions de conception efficaces offrent aux utilisateurs des informations sur leurs droits et obligations et fournissent un canal fonctionnel que les citoyens peuvent utiliser pour soumettre leurs affaires au traitement par les autorités. Des solutions techniques plus faibles peuvent violer la loi et la bonne gouvernance.

« Nous pensons que les interfaces utilisateur et leur conception doivent également être discutées en tant que phénomènes juridiques car elles ont un impact direct sur la manière dont les gens exercent leurs droits. Nous souhaitons savoir quelles hypothèses sur les utilisateurs, tant les citoyens que les autorités, sont formulées dans les rapports d’utilisation. interfaces et quelles actions elles demandent aux gens d’entreprendre pour contacter les autorités », explique Koulu, décrivant les bases de leurs recherches.

Koulu dirige le projet de recherche DARE (Digital Administration Redesigned for Everyone), qui explore l’interaction entre la conception technologique et le droit. Le projet applique des méthodes issues de domaines variés : sciences juridiques, sciences sociales et informatique.

Le projet de recherche vise entre autres à déterminer dans quelle mesure les interfaces utilisateur techniques utilisées par les autorités sont réellement conformes à la loi. Le projet cherche également à créer les bases d’une nouvelle branche de recherche : la recherche sur les interfaces utilisateur juridiques.