Ce « film B » de science-fiction façonne encore notre perception de la menace de l’IA

Le 26 octobre 2024 marque le 40e anniversaire du classique de science-fiction du réalisateur James Cameron, The Terminator, un film qui a popularisé la peur de la société face aux machines avec lesquelles on ne peut pas raisonner, et qui « ne s'arrêtera absolument pas… jusqu'à votre mort », comme le dit un personnage le dit de façon mémorable.

L'intrigue concerne un système d'IA super intelligent appelé Skynet qui a conquis le monde en déclenchant une guerre nucléaire. Au milieu de la dévastation qui en résulte, les survivants humains organisent une riposte réussie sous la direction du charismatique John Connor.

En réponse, Skynet envoie un assassin cyborg (joué par Arnold Schwarzenegger) en 1984, avant la naissance de Connor, pour tuer sa future mère, Sarah. L'importance de John Connor dans la guerre est telle que Skynet compte l'effacer de l'histoire pour préserver son existence.

Aujourd’hui, l’intérêt du public pour l’intelligence artificielle n’a sans doute jamais été aussi grand. Les entreprises qui développent l’IA promettent généralement que leurs technologies effectueront les tâches plus rapidement et avec plus de précision que les humains. Ils affirment que l’IA peut détecter des modèles dans les données qui ne sont pas évidents, améliorant ainsi la prise de décision humaine. Il existe une perception largement répandue selon laquelle l’IA est sur le point de tout transformer, de la guerre à l’économie.

Les risques immédiats incluent l’introduction de biais dans les algorithmes de sélection des candidatures et la menace d’une IA générative supplantant les humains de certains types de travail, comme la programmation de logiciels.

Mais c’est le danger existentiel qui domine souvent le débat public – et les six films Terminator ont exercé une influence démesurée sur la manière dont ces arguments sont formulés. En effet, selon certains, la description par les films de la menace posée par les machines contrôlées par l'IA détourne l'attention des avantages substantiels offerts par la technologie.

The Terminator n'était pas le premier film à s'attaquer aux dangers potentiels de l'IA. Il existe des parallèles entre Skynet et le supercalculateur HAL 9000 dans le film de Stanley Kubrick de 1968, 2001 : L'Odyssée de l'espace.

Il s'inspire également du roman de Mary Shelley de 1818, Frankenstein, et de la pièce de Karel Čapek de 1921, RUR. Les deux histoires concernent des inventeurs qui perdent le contrôle de leurs créations.

À sa sortie, il a été décrit dans une critique du New York Times comme un « film B avec du flair ». Dans les années qui ont suivi, il a été reconnu comme l’un des plus grands films de science-fiction de tous les temps. Au box-office, il a réalisé plus de 12 fois son modeste budget de 6,4 millions de dollars (4,9 millions de livres sterling au taux de change actuel).

Ce qui était sans doute le plus nouveau dans The Terminator, c'est la manière dont il réinventait les craintes de longue date d'un soulèvement des machines à travers le prisme culturel de l'Amérique des années 1980. Tout comme le film WarGames de 1983, où un adolescent a failli déclencher la Troisième Guerre mondiale en piratant un superordinateur militaire, Skynet met en lumière les craintes d'anéantissement nucléaire de la guerre froide, associées à l'anxiété face aux changements technologiques rapides.

Quarante ans plus tard, Elon Musk fait partie des leaders technologiques qui ont contribué à maintenir l’attention sur le risque existentiel supposé de l’IA pour l’humanité. Le propriétaire de X (anciennement Twitter) a fait référence à plusieurs reprises à la franchise Terminator tout en exprimant ses inquiétudes quant au développement hypothétique d'une IA superintelligente.

Mais de telles comparaisons irritent souvent les défenseurs de la technologie. Comme l'a déclaré l'ancien ministre britannique de la Technologie, Paul Scully, lors d'une conférence à Londres en 2023 : « Si vous parlez uniquement de la fin de l'humanité à cause d'un scénario sordide de type Terminator, vous allez passer à côté de tous les bons côtés du monde. cette IA [can do] ».

Cela ne veut pas dire qu’il n’y a pas de véritables inquiétudes concernant les utilisations militaires de l’IA – des inquiétudes qui peuvent même sembler parallèles à la franchise cinématographique.

Systèmes d'armes contrôlés par l'IA

Au grand soulagement de nombreuses personnes, les responsables américains ont déclaré qu’AI ne prendrait jamais de décision concernant le déploiement d’armes nucléaires. Mais combiner l’IA avec des systèmes d’armes autonomes est une possibilité.

Ces armes existent depuis des décennies et ne nécessitent pas nécessairement d’IA. Une fois activés, ils peuvent sélectionner et attaquer des cibles sans être directement actionnés par un humain. En 2016, le général de l'US Air Force, Paul Selva, a inventé le terme « énigme Terminator » pour décrire les défis éthiques et juridiques posés par ces armes.

Stuart Russell, un éminent informaticien britannique, a plaidé en faveur d'une interdiction de toutes les armes mortelles entièrement autonomes, y compris celles dotées de l'IA. Le principal risque, affirme-t-il, ne vient pas d’un système sensible de type Skynet qui deviendrait voyou, mais de la capacité des armes autonomes à suivre nos instructions, tuant avec une précision surhumaine.

Russell envisage un scénario dans lequel de minuscules quadricoptères équipés d’IA et de charges explosives pourraient être produits en masse. Ces « robots de massacre » pourraient ensuite être déployés en essaims comme « armes de destruction massive sélectives et bon marché ».

Des pays, dont les États-Unis, précisent la nécessité pour les opérateurs humains de « faire preuve de niveaux appropriés de jugement humain sur le recours à la force » lorsqu'ils utilisent des systèmes d'armes autonomes. Dans certains cas, les opérateurs peuvent vérifier visuellement les cibles avant d'autoriser les frappes et peuvent « repousser » les attaques si la situation change.

L’IA est déjà utilisée pour soutenir le ciblage militaire. Selon certains, il s'agit même d'une utilisation responsable de la technologie, puisqu'elle pourrait réduire les dommages collatéraux. Cette idée évoque l’inversion du rôle de Schwarzenegger en tant que « gardien de la machine » bienveillant dans la suite du film original, Terminator 2 : Judgment Day.

Cependant, l’IA pourrait également miner le rôle que jouent les opérateurs de drones humains dans la contestation des recommandations émises par les machines. Certains chercheurs pensent que les humains ont tendance à faire confiance à tout ce que disent les ordinateurs.

« Munitions errantes »

Les militaires engagés dans des conflits utilisent de plus en plus de petits drones aériens bon marché, capables de détecter et de percuter des cibles. Ces « munitions errantes » (ainsi nommées parce qu'elles sont conçues pour survoler un champ de bataille) présentent différents degrés d'autonomie.

Comme je l’ai soutenu dans une recherche co-écrite avec la chercheuse en sécurité Ingvild Bode, la dynamique de la guerre en Ukraine et d’autres conflits récents dans lesquels ces munitions ont été largement utilisées soulève des inquiétudes quant à la qualité du contrôle exercé par les opérateurs humains.

Les robots militaires basés au sol, armés d'armes et conçus pour être utilisés sur le champ de bataille, pourraient rappeler les implacables Terminators, et les drones aériens armés pourraient, avec le temps, ressembler aux « chasseurs-tueurs » aéroportés de la franchise. Mais ces technologies ne nous détestent pas comme Skynet, et elles ne sont pas non plus « super intelligentes ».

Cependant, il est d'une importance cruciale que les opérateurs humains continuent d'exercer un pouvoir d'action et un contrôle significatif sur les systèmes des machines.

On peut dire que le plus grand héritage de Terminator a été de déformer la façon dont nous pensons et parlons collectivement de l’IA. Cela est plus important que jamais, car ces technologies sont devenues centrales dans la compétition stratégique pour la puissance et l’influence mondiales entre les États-Unis, la Chine et la Russie.

L’ensemble de la communauté internationale, depuis les superpuissances comme la Chine et les États-Unis jusqu’aux petits pays, doit trouver la volonté politique de coopérer et de gérer les défis éthiques et juridiques posés par les applications militaires de l’IA en cette période de bouleversement géopolitique. La façon dont les nations relèveront ces défis déterminera si nous pouvons éviter le futur dystopique si vivement imaginé dans The Terminator, même si nous ne voyons pas de cyborgs voyager dans le temps de si tôt.