Les gouvernements locaux utilisent l’IA sans règles ni politiques claires, et le public n’en a aucune idée

En 2017, la ville de Rotterdam aux Pays-Bas a déployé un système d’intelligence artificielle (IA) pour déterminer la probabilité que les bénéficiaires de l’aide sociale commettent une fraude. Après avoir analysé les données, le système a développé des biais : il a signalé comme « à haut risque » les personnes identifiées comme étant des femmes, jeunes, avec des enfants et ayant une faible maîtrise de la langue néerlandaise.

Le système de Rotterdam a été suspendu en 2021 après un examen éthique externe, mais il montre ce qui peut mal tourner lorsque les gouvernements adoptent des systèmes d'IA sans surveillance appropriée. Alors que de plus en plus de gouvernements locaux se tournent vers l'IA dans le but de fournir des services personnalisés en temps réel aux résidents, un environnement « plus intelligent » et des systèmes meilleurs et plus sûrs, les risques augmentent.

Dans le cadre de nos recherches en cours, nous avons étudié 170 gouvernements locaux à travers le monde qui utilisent divers systèmes d’IA.

Nous avons constaté que l’IA touche déjà presque tous les aspects de la prestation de services publics, et que la plupart des gouvernements n’avaient même pas publié de politique à ce sujet.

L'IA dans la gouvernance quotidienne

Les applications de l’IA affectent profondément la gouvernance locale. Notre enquête internationale a révélé 262 cas d’adoption de l’IA dans 170 conseils locaux, couvrant un large éventail de technologies et de services.

Nous avons constaté que ces technologies sont déployées dans cinq domaines clés.

1. Services administratifs. Par exemple, le chatbot touristique VisitMadridGPT à Madrid, en Espagne, fournit des recommandations personnalisées, une assistance en temps réel et des informations culturelles aux visiteurs.

2. Soins de santé et bien-être. Par exemple, au plus fort de la pandémie de COVID en 2021, le bureau du maire de Boston aux États-Unis a lancé un chatbot piloté par l'IA pour la livraison de nourriture sans contact, répondant simultanément aux problèmes de faim et de sécurité.

3. Transports et urbanisme. Logan City, en Australie, a mis en place un système d'IA en temps réel qui informe les conducteurs des endroits où un parking est disponible, réduisant ainsi les embouteillages et la frustration. Parallèlement, l’optimisation des itinéraires des transports publics basée sur l’IA est largement adoptée pour gagner du temps et réduire les émissions.

4. Gestion environnementale. À Hangzhou, en Chine, un système d’IA est utilisé pour classer les déchets plus efficacement, augmentant ainsi les taux de recyclage.

5. Sécurité publique et application de la loi. Chicago, aux États-Unis, a utilisé des capteurs et l'automatisation de l'IA pour façonner ses stratégies d'application de la loi. En identifiant les points chauds de la criminalité, la ville aurait réduit la violence armée de 25 % en 2018. Cependant, cette technologie a également soulevé des préoccupations éthiques concernant le profilage racial.

L’épée à double tranchant de l’IA

Notre étude utilisant l’IA a révélé que seuls 26 pays avaient publié des politiques en matière d’IA en mai 2023, soit moins de 16 %. La plupart déploient de puissants systèmes d’IA sans aucun cadre accessible au public pour la surveillance ou la responsabilité publique.

Cela soulève de sérieuses inquiétudes quant aux violations éthiques, aux préjugés systémiques et à l’utilisation non réglementée des données.

Sans politiques solides, les gouvernements locaux risquent de déployer de puissants systèmes d’IA sans contrôles critiques ni supervision externe. Les algorithmes pourraient involontairement discriminer certaines populations lors de l’attribution de ressources telles que des logements sociaux ou des services de santé. Les enjeux pourraient être incroyablement élevés, comme en témoignent les scores de risque de fraude sociale à Rotterdam.

Parmi les conseils dotés de politiques en matière d’IA, l’accent a été clairement mis sur la collaboration avec les parties prenantes, la sensibilisation des employés et des citoyens et la garantie de la transparence et de la réglementation.

Parmi celles-ci, la politique de la Mairie de Barcelone en matière d'IA se démarque. Sa politique comprend des principes tels que la transparence en matière d'IA, la garantie que les décisions en matière d'IA peuvent être expliquées et équitables, et constitue une référence pour les autres municipalités.

Public dans le noir

Une récente enquête menée par notre équipe en Australie, en Espagne et aux États-Unis montre un écart important entre la sensibilisation du public et l'action des gouvernements locaux en matière d'IA. Plus de 75 % des personnes interrogées étaient conscientes des technologies de l'IA et de leur présence croissante dans la vie quotidienne, mais pas lorsqu'il s'agissait d'initiatives des gouvernements locaux.

En moyenne, la moitié des personnes interrogées ne savaient pas que leurs gouvernements locaux utilisaient activement l'IA dans les services publics. Plus inquiétant encore, 68 % ont déclaré qu’ils ne savaient pas que les gouvernements locaux avaient – ​​ou pourraient avoir – des politiques régissant l’utilisation de l’IA.

Ce manque de sensibilisation frappant soulève des questions pressantes sur la transparence et la communication des conseils locaux. Alors que l’IA est de plus en plus intégrée à la gestion urbaine – de la surveillance du trafic à la sécurité publique et à la durabilité environnementale – il est essentiel de mieux informer le public.

Sans compréhension et engagement du public, les efforts visant à instaurer la confiance, la responsabilité et la surveillance éthique de l’IA dans la gouvernance pourraient se heurter à des obstacles importants.

L'avenir auquel nous sommes confrontés

Il ne fait aucun doute que les systèmes d’IA ont un grand potentiel pour améliorer la gouvernance urbaine. Mais sans politiques qui donnent la priorité à la transparence, à la responsabilité et à une utilisation éthique, les villes risquent de déclencher un système qui pourrait nuire plus qu’il n’aiderait.

Cependant, il n'est pas trop tard pour que les gouvernements locaux – et les citoyens – évitent ce sombre avenir. Les gouvernements locaux peuvent créer des politiques solides en matière d’IA qui garantissent l’équité, la transparence et l’utilisation éthique des données. Les citoyens peuvent être sensibilisés au rôle de l’IA dans la gouvernance locale. p

Les applications d’IA remodèlent et transforment notre monde. Mais la manière dont nous choisirons de guider leur intégration dans nos communautés déterminera si elles sont une force du bien ou si elles mettront simplement en œuvre des préjugés et des agendas cachés.

Notre projet travaille avec les gouvernements locaux d'Australie, des États-Unis, d'Espagne, de Hong Kong et d'Arabie saoudite pour créer des principes directeurs en matière d'IA que nous visons à finaliser d'ici la fin de 2025.