L’IA pourrait rendre les villes autonomes, mais cela ne veut pas dire que nous devrions laisser cela se produire

Vous rentrez chez vous à pied. Soudain, le sol semble s’ouvrir et un drone de sécurité émerge, vous bloquant le chemin pour vérifier votre identité. Cela peut sembler tiré par les cheveux, mais cela repose sur une technologie existante : un système de drone fabriqué par la société d’IA Sunflower Labs.

Dans le cadre d’un projet international portant sur l’impact de l’IA sur les villes, nous avons récemment « innové » dans un nouveau domaine de recherche appelé l’urbanisme de l’IA. Ceci est différent du concept de « ville intelligente ». Les villes intelligentes collectent des informations issues de technologies, telles que les systèmes de capteurs, et les utilisent pour gérer les opérations et exécuter les services de manière plus fluide.

L’urbanisme IA représente une nouvelle façon de façonner et de gouverner les villes, grâce à l’intelligence artificielle (IA). Il s’écarte considérablement des modèles contemporains de développement et de gestion urbains. S’il est essentiel que nous surveillions de près ce domaine émergent, nous devrions également nous demander si nous devrions d’abord impliquer si étroitement l’IA dans la gestion des villes.

Le développement de l’IA est intrinsèquement lié au développement des villes. Tout ce que font les citadins enseigne à l’IA quelque chose de précieux sur notre monde. La façon dont vous conduisez votre voiture ou faites du vélo aide à former l’IA derrière un véhicule autonome au fonctionnement des systèmes de transport urbain.

Ce que vous mangez et ce que vous achetez indique aux systèmes d’IA vos préférences. Multipliez ces enregistrements individuels par les milliards de personnes qui vivent dans les villes et vous aurez une idée de la quantité de données que l’IA peut récolter en milieu urbain.

Police prédictive

Dans le cadre du concept traditionnel de ville intelligente, des technologies telles que l’Internet des objets utilisent des capteurs connectés pour observer et quantifier ce qui se passe. Par exemple, les bâtiments intelligents peuvent calculer la quantité d’énergie que nous consommons et la technologie en temps réel peut quantifier le nombre de personnes qui utilisent le métro à un moment donné. L’urbanisme de l’IA ne se contente pas de quantifier, il raconte des histoires, expliquant pourquoi et comment certains événements se produisent.

Nous ne parlons pas de récits complexes, mais même une histoire basique peut avoir des répercussions considérables. Prenez par exemple le système d’IA développé par la société américaine Palantir, déjà utilisé dans plusieurs villes, pour prédire où les crimes auront lieu et qui seront impliqués.

Ces prédictions peuvent être prises en compte par les policiers pour déterminer où affecter les ressources. La police prédictive en général est l’un des pouvoirs les plus controversés que les intelligences artificielles acquièrent dans le cadre de l’urbanisme de l’IA : la capacité de déterminer ce qui est bien ou mal, et qui est « bon » ou « mauvais » dans une ville.

C’est un problème car, comme l’a clairement montré l’exemple récent de ChatGPT, l’IA peut produire un compte rendu détaillé, sans en saisir le sens. C’est une intelligence amorale, dans le sens où elle est indifférente aux questions de bien ou de mal.

Et pourtant, c’est exactement le genre de questions que nous déléguons de plus en plus à l’IA dans la gouvernance urbaine. Cela pourrait faire gagner du temps à nos gestionnaires municipaux, compte tenu de la rapidité extraordinaire de l’IA dans l’analyse de grands volumes de données, mais le prix que nous payons en termes de justice sociale est énorme.

Un problème humain

Des études récentes indiquent que les décisions prises par l’IA pénalisent les minorités raciales dans les domaines du logement et de l’immobilier. Il faut également garder à l’esprit un coût environnemental important, car la technologie de l’IA est énergivore. Il devrait contribuer de manière significative aux émissions de carbone du secteur technologique dans les décennies à venir, et les infrastructures nécessaires à son entretien consomment des matières premières essentielles. L’IA semble prometteuse en termes de durabilité), mais lorsque l’on examine ses coûts réels et ses applications dans les villes, les inconvénients peuvent facilement l’emporter sur les positifs.

Ce n’est pas que l’IA devienne incontrôlable, comme nous le voyons dans les films de science-fiction et le lisons dans les romans. Bien au contraire : nous, les humains, prenons consciemment des décisions politiques qui placent l’IA en position de prendre des décisions sur la gouvernance des villes. Nous cédons volontiers certaines de nos responsabilités décisionnelles aux machines et, dans différentes parties du monde, on assiste déjà à la genèse de nouvelles villes censées être entièrement exploitées par l’IA.

Cette tendance est illustrée par Neom, un projet colossal de développement régional actuellement en construction en Arabie Saoudite. Neom présentera de nouveaux espaces urbains, dont une ville linéaire appelée The Line, gérée par une multitude de systèmes d’IA, et elle est censée devenir un modèle de durabilité urbaine. Ces villes du futur comprendront des véhicules autonomes transportant des personnes, des robots cuisinant et servant de la nourriture et des algorithmes prédisant votre comportement pour anticiper vos besoins.

Ces visions résonnent avec le concept de ville autonome qui fait référence à des espaces urbains où l’IA remplit de manière autonome des fonctions sociales et managériales, les humains étant exclus.

Nous devons nous rappeler que l’autonomie est un jeu à somme nulle. À mesure que l’autonomie de l’IA augmente, la nôtre diminue et la montée des villes autonomes risque de sérieusement affaiblir notre rôle dans la gouvernance urbaine. Une ville dirigée non pas par des humains mais par des IA mettrait en cause l’autonomie des acteurs humains, tout comme le bien-être de nombreuses personnes.

Allez-vous être admissible à un prêt hypothécaire et pouvoir acheter une propriété pour élever une famille ? Parviendrez-vous à souscrire une assurance vie ? Votre nom figure-t-il sur une liste de suspects que la police va cibler ? Aujourd’hui, les réponses à ces questions sont déjà influencées par l’IA. À l’avenir, si la ville autonome devenait la réalité dominante, l’IA pourrait devenir l’unique arbitre.

L’IA a besoin que les villes continuent à dévorer nos données. En tant que citoyens, il est désormais temps de remettre en question soigneusement le spectre de la ville autonome dans le cadre d’un débat public élargi, et de poser une question très simple : avons-nous vraiment besoin de l’IA pour rendre nos villes durables ?