Comment un ‘IA-tocratie’ émerge

De nombreux universitaires, analystes et autres observateurs ont suggéré que la résistance à l’innovation est un talon d’Achille’ talon des régimes autoritaires. De tels gouvernements peuvent échouer à suivre les changements technologiques qui aident leurs adversaires ; ils peuvent aussi, en étouffant les droits, inhiber l’activité économique innovante et affaiblir la condition à long terme du pays.

Mais une nouvelle étude co-dirigée par un professeur du MIT suggère quelque chose de tout à fait différent. En Chine, selon la recherche, le gouvernement a de plus en plus déployé la technologie de reconnaissance faciale basée sur l’IA pour réprimer la dissidence ; a réussi à limiter les protestations ; et dans le processus, a stimulé le développement de meilleurs outils de reconnaissance faciale basés sur l’IA et d’autres formes de logiciels.

« Ce que nous avons découvert, c’est que dans les régions de Chine où il y a plus de troubles, cela conduit à une augmentation des achats gouvernementaux d’IA à reconnaissance faciale, par la suite, par des unités gouvernementales locales telles que les services de police municipaux », explique l’économiste du MIT Martin Beraja, qui est co -auteur d’un nouvel article détaillant les résultats.

Ce qui suit, comme le note le document, c’est que « l’innovation en matière d’IA enracine le régime, et le régime’L’investissement de s dans l’IA pour le contrôle politique stimule davantage l’innovation de pointe. »

Les chercheurs appellent cet état de fait une « tocratie de l’IA », décrivant le cycle connecté dans lequel le déploiement accru de la technologie basée sur l’IA réprime la dissidence tout en stimulant le pays.’sa capacité d’innovation.

L’article en libre accès, également appelé « AI-tocracy », paraît dans le numéro d’août du Revue trimestrielle d’économie. Les co-auteurs sont Beraja, professeur associé d’économie Pentti Kouri en développement de carrière au MIT; Andrew Kao, doctorant en économie à l’Université de Harvard ; David Yang, professeur d’économie à Harvard ; et Noam Yuchtman, professeur de gestion à la London School of Economics.

Pour mener l’étude, les chercheurs se sont appuyés sur plusieurs types de preuves couvrant une grande partie de la dernière décennie. Pour répertorier les cas de troubles politiques en Chine, ils ont utilisé les données du projet GDELT (Global Database of Events, Language, and Tone), qui enregistre les flux d’actualités à l’échelle mondiale. L’équipe a recensé 9 267 incidents de troubles entre 2014 et 2020.

Les chercheurs ont ensuite examiné les enregistrements de près de 3 millions de contrats d’approvisionnement émis par le gouvernement chinois entre 2013 et 2019, à partir d’une base de données gérée par la Chine.’s Ministère des Finances. Ils ont constaté que les gouvernements locaux’ l’achat de services d’IA de reconnaissance faciale et d’outils de sécurité publique complémentaires (caméras vidéo haute résolution) a considérablement augmenté au cours du trimestre à la suite d’un épisode de troubles publics dans cette région.

Étant donné que les responsables du gouvernement chinois répondaient clairement aux activités de dissidence publique en intensifiant la technologie de reconnaissance faciale, les chercheurs ont ensuite examiné une question de suivi : cette approche a-t-elle fonctionné pour supprimer la dissidence ?

Les chercheurs pensent que c’est le cas, même si, comme ils le notent dans l’article, ils « ne peuvent pas estimer directement l’effet » de la technologie sur les troubles politiques. Mais comme un moyen d’aborder cette question, ils ont étudié la relation entre le climat et les troubles politiques dans différentes régions de Chine.

Certaines conditions météorologiques sont propices aux troubles politiques. Mais dans les préfectures chinoises qui avaient déjà beaucoup investi dans la technologie de reconnaissance faciale, de telles conditions météorologiques sont moins propices aux troubles que dans les préfectures qui n’avaient pas fait les mêmes investissements.

Ce faisant, les chercheurs ont également pris en compte des questions telles que la question de savoir si des niveaux de richesse relative plus élevés dans certaines régions auraient pu produire des investissements plus importants dans les technologies axées sur l’IA, quels que soient les schémas de protestation. Cependant, les chercheurs sont toujours parvenus à la même conclusion : la technologie de reconnaissance faciale était déployée en réponse aux manifestations passées, puis réduisait davantage les niveaux de protestation.

« Cela suggère que la technologie est efficace pour calmer les troubles », a déclaré Beraja.

Enfin, l’équipe de recherche a étudié les effets de l’augmentation de la demande d’IA sur la Chine’s secteur technologique et a trouvé le gouvernement’s une plus grande utilisation des outils de reconnaissance faciale semble être le moteur du pays’s secteur technologique vers l’avant. Par exemple, les entreprises qui obtiennent des contrats d’approvisionnement pour les technologies de reconnaissance faciale produisent par la suite environ 49 % de produits logiciels de plus dans les deux ans suivant l’obtention du contrat gouvernemental qu’auparavant.

« Nous examinons si cela conduit à une plus grande innovation par les entreprises d’IA de reconnaissance faciale, et c’est effectivement le cas », déclare Beraja.

De telles données—de Chine’s Ministère de l’industrie et des technologies de l’information — indique également que les outils basés sur l’IA n’« évincent » pas nécessairement d’autres types d’innovation de haute technologie.

En additionnant tout cela, le cas de la Chine montre comment les gouvernements autocratiques peuvent potentiellement atteindre un état de quasi-équilibre dans lequel leur pouvoir politique est renforcé, plutôt que renversé, lorsqu’ils exploitent les avancées technologiques.

« En cette ère de l’IA, où les technologies non seulement génèrent de la croissance mais sont aussi des technologies de répression, elles peuvent être très utiles » aux régimes autoritaires, explique Beraja.

La découverte porte également sur des questions plus larges concernant les formes de gouvernement et la croissance économique. Un important corpus de recherches universitaires montre que les institutions démocratiques qui accordent des droits génèrent une plus grande croissance économique au fil du temps, en partie en créant de meilleures conditions pour l’innovation technologique. Beraja note que l’étude actuelle ne contredit pas ces résultats antérieurs, mais en examinant les effets de l’IA en cours d’utilisation, elle identifie une voie par laquelle les gouvernements autoritaires peuvent générer plus de croissance qu’ils n’en auraient autrement.

« Cela peut conduire à des cas où des institutions plus autocratiques se développent parallèlement à la croissance », ajoute Beraja.

D’autres experts des applications sociétales de l’IA affirment que l’article apporte une contribution précieuse au domaine.

« Il s’agit d’un article excellent et important qui améliore notre compréhension de l’interaction entre la technologie, la réussite économique et le pouvoir politique », déclare Avi Goldfarb, titulaire de la chaire Rotman en intelligence artificielle et soins de santé et professeur de marketing à la Rotman School of Management de l’Université de Toronto.

« L’article documente une boucle de rétroaction positive entre l’utilisation de la technologie de reconnaissance faciale de l’IA pour surveiller la suppression des troubles locaux en Chine et le développement et la formation de modèles d’IA. Cet article est un pionnier de la recherche sur l’IA et l’économie politique. ce domaine de recherche à prendre de l’importance. »

Pour leur part, les chercheurs continuent de travailler sur des aspects connexes de cette question. Un de leurs articles à paraître examine dans quelle mesure la Chine exporte des technologies avancées de reconnaissance faciale dans le monde entier, mettant en évidence un mécanisme par lequel la répression gouvernementale pourrait se développer à l’échelle mondiale.