Les politiciens et les dirigeants terroristes vivront-ils éternellement à l’ère de l’IA ?

Yahya Sinwar, l'ancien chef de l'organisation militante Hamas, a été tué par l'armée israélienne dans la ville de Rafah, au sud de Gaza, en octobre 2024. Compte tenu du rôle joué par Sinwar dans la planification et l'exécution de l'attaque terroriste du 7 octobre, ainsi que de son rôle important dans le développement de la branche militaire du Hamas, son assassinat a été considéré comme une victoire potentiellement révolutionnaire pour le Premier ministre israélien Benjamin Netanyahu.

Mais, pour toutes les parties au conflit, le débat s’est rapidement tourné vers les conséquences de sa mort. Cela changerait-il les possibilités politiques d’une résolution de la guerre à Gaza ? Et cela le transformerait-il en un martyr puissamment symbolique, inspirant de nouvelles générations de militants ?

Mes recherches et mon enseignement à l'Université de Lancaster développent ce que l'on pourrait décrire comme un « futurisme de guerre ». Il explore les futurs possibles qui nous attendent à une époque qui pourrait être façonnée de manière dramatique et imprévisible par l’IA, les urgences climatiques, les guerres spatiales et la transformation technologique du corps « cyborg ».

En 2023, j'ai écrit un livre intitulé « Théoriser les conflits futurs : la guerre jusqu'en 2049 ». Il comprenait un scénario fictif impliquant un leader d’une organisation terroriste qui, selon les rumeurs, aurait été généré par l’IA afin de produire une figure de proue puissante pour un groupe qui perdait des dirigeants à cause des frappes de drones.

La mort de Sinwar m'a incité à réfléchir à nouveau à ce que l'ère des outils d'IA générative pourrait signifier pour la réflexion et la planification stratégiques au sein des organisations perdant des chiffres clés.

Y aura-t-il bientôt une situation dans la vie réelle dans laquelle les dirigeants morts seront remplacés par des outils d’IA qui pourraient produire des personnages virtuels qui circulent à travers de fausses vidéos et des interactions en ligne ? Et pourraient-ils être utilisés par les membres de l’organisation à des fins d’orientation stratégique et politique ?

L'auteur cyberpunk américain Rudy Rucker a déjà écrit sur la possibilité de produire ce qu'il appelle une « boîte de vie », dans laquelle une personne pourrait être simulée dans des mondes numériques. Des films comme le thriller de science-fiction américain « Transcendence » de 2014 ont également exploré la possibilité pour les gens de « télécharger » leur conscience dans les mondes numériques.

L’idée de Rucker ne consiste pas tant à télécharger de la conscience. Il s'agit plutôt de créer la simulation d'une personne à partir d'une grande base de données sur ce qu'elle a écrit, fait et dit.

Dans son roman de 2021 intitulé « Juicy Ghosts », Rucker explore les problèmes éthiques et économiques qui pourraient résulter du fait que des personnes produisent des boîtes de sauvetage pour vivre après leur mort. Celles-ci vont de la façon dont vous pourriez payer pour votre « vie » numérique après votre décès, et si vous seriez en mesure de contrôler la façon dont votre lifebox pourrait être utilisée.

L’ère de l’immortalité numérique

La possibilité d’une boîte de vie assistée par l’IA dans le futur n’est pas si farfelue. L’évolution technologique se produit à un rythme rapide et il existe déjà des outils qui utilisent l’IA pour la planification et l’orientation stratégiques.

Nous avons déjà une idée des défis éthiques, juridiques et stratégiques qui pourraient nous attendre en raison des inquiétudes suscitées par l’utilisation par l’armée israélienne d’outils d’IA dans la guerre à Gaza. En novembre, par exemple, l’armée a affirmé qu’elle utilisait un système basé sur l’IA appelé Habsora – qui signifie « l’Évangile » en anglais – pour « produire des cibles à un rythme rapide ».

Il va sans dire que l’utilisation de l’IA pour identifier et suivre des cibles est très différente de son utilisation pour créer un leader numérique. Mais, étant donné la vitesse actuelle de l'innovation technologique, il n'est pas invraisemblable d'imaginer un leader générer une identité d'IA après la mort dans le futur, basée sur les livres d'histoire qui l'ont influencé, les événements qu'ils ont vécus ou les stratégies et missions auxquelles ils ont participé. Les e-mails et les publications sur les réseaux sociaux peuvent également être utilisés pour entraîner l'IA lors de la création de la simulation du leader.

Si la simulation de l’IA fonctionne de manière utile et convaincante, nous pourrions arriver à une situation où elle deviendra même le leader de l’organisation. Dans certains cas, s’en remettre au leader de l’IA aurait un sens politique étant donné la manière dont le leader virtuel non humain peut être blâmé pour des erreurs stratégiques ou tactiques.

Il se pourrait également que le leader de l’IA puisse penser d’une manière qui dépasse l’origine humaine et disposera de capacités et de capacités stratégiques, organisationnelles et techniques considérablement améliorées. C’est un domaine déjà envisagé par les scientifiques. L’initiative du défi Nobel Turing, par exemple, vise à développer un système d’IA autonome capable de mener des recherches dignes de remporter le prix Nobel et au-delà d’ici 2050.

Un leader politique ou terroriste virtuel n’est bien entendu actuellement qu’un scénario tiré d’un film ou d’un roman cyberpunk. Mais combien de temps faudra-t-il avant que les dirigeants commencent à expérimenter les possibilités émergentes de l’immortalité numérique ?

Il se peut que quelque part au Kremlin, l’un des nombreux projets développés par Poutine en préparation de sa mort soit l’exploration d’une boîte de vie IA qui pourrait être utilisée pour guider les dirigeants russes qui le suivront. Il pourrait également explorer des technologies qui lui permettront d'être « téléchargé » dans un nouveau corps au moment de sa disparition.

Ce n'est probablement pas le cas. Quoi qu’il en soit, les outils stratégiques d’IA seront probablement utilisés à l’avenir : la question sera de savoir qui pourra les concevoir et les façonner (et éventuellement les utiliser). Il est également probable qu’il y ait des limites à l’importance politique et organisationnelle des dirigeants décédés.

Des craintes peuvent surgir quant au fait que les pirates pourraient manipuler et saboter le leader de l’IA. Il y aura un sentiment d’incertitude quant au fait que l’IA sera manipulée par le biais d’opérations visant à influencer et à subvertir d’une manière qui efface toute confiance dans les « esprits » numériques qui existent après la mort. On pourrait craindre que l’IA développe ses propres désirs politiques et stratégiques.

Et il se pourrait bien que ces tentatives d’immortalité de l’IA soient considérées comme une obstruction inutile et inutile par quiconque remplace des personnalités comme Sinwar et Poutine. Le leader immortel pourrait rester simplement un fantasme technologique de politiciens narcissiques qui veulent vivre éternellement.