que l'IA ne contrôle pas le bouton nucléaire rouge

Si l'avenir guerrier est marqué par la technologie et les progrès de l'IA, il est possible de penser que la soi-disant « guerre autonome » que nous avons vue dans des films comme « Terminator » n'est pas aussi lointaine que nous le pensions. Cela est inquiétant dans le scénario actuel, où il n’existe aucune réglementation claire délimitant les lignes rouges sur le champ de bataille. Sans supervision humaine, le terrain fertile pour donner les clés d’un algorithme conduit à imaginer des scénarios dantesques. C'est le but d'une rencontre entre 90 pays, et tous sont parvenus à la même conclusion sauf un.

Ne laissez pas l'IA appuyer sur le bouton. L’histoire s’est déroulée très récemment lors du sommet sur l’intelligence artificielle responsable dans le domaine militaire (REAIM) qui s’est tenu à Séoul. L'enjeu sous-jacent n'était pas tellement régulier, en effet, la signature finale n'est pas contraignante, mais il s'agissait d'un premier et important rapprochement tacite entre pays face à un problème qui nous touche presque le bout des doigts.

Les machines devraient-elles prendre des décisions concernant l’utilisation des armes nucléaires ? C’était la grande question et le débat, et tout le monde, sauf la Chine, semblait avoir une idée assez claire : ce sont les humains, et non l’intelligence artificielle, qui devraient prendre les décisions clés concernant l’utilisation des armes nucléaires, a-t-on convenu mardi dans un communiqué.

L'accord. Ces près d'une centaine de pays, dont les États-Unis, la Chine, le Royaume-Uni, les Pays-Bas et l'Ukraine, ont adopté le « Plan d'action » après deux jours de négociations. Comme nous l'avons dit, l'accord, qui n'est pas juridiquement contraignant et n'a pas été signé par la Chine, stipule qu'il est essentiel de « maintenir le contrôle humain et la participation à toutes les actions… liées à l'utilisation des armes nucléaires ».

En outre, l'accord ajoute que les capacités de l'IA dans le domaine militaire « doivent être appliquées conformément au droit national et international applicable. Les applications de l'IA doivent être éthiques et centrées sur l'humain ».

Non de Chine. La réponse de la Chine est un symptôme du long chemin à parcourir et des tensions géopolitiques que l’on connaît actuellement. Il n’y a pas non plus de réponse de la part de la Russie, qui a été exclue du sommet en raison de la guerre en Ukraine. Quoi qu’il en soit, l’utilisation rapide de systèmes militaires basés sur l’IA dans les conflits récents, ainsi que leur importance croissante dans les plans futurs, ont souligné la nécessité urgente d’évaluer les éventuelles conséquences involontaires d’une mauvaise utilisation de cette technologie.

Un exemple en est le développement et l’utilisation non réglementés de drones sur le champ de bataille, où la seule véritable limite est la peur des erreurs algorithmiques, telles que celles qui entraînent des tirs amis.

Incitations à adhérer. C’est une autre étape à gérer. Les pays directement impliqués dans des conflits sont peu incités à ralentir cette évolution, comme le montre la guerre entre la Russie et l’Ukraine, où les deux parties utilisent de plus en plus de drones améliorés par l’IA pour des actions avec une supervision humaine minimale.

Comme l’a expliqué lors du sommet Kateryna Bondar, experte en technologies avancées au Centre d’études stratégiques et internationales, « ces pays sont réticents à imposer des restrictions, car ils considèrent l’IA militaire comme un avantage essentiel. « En matière de survie nationale, aucune déclaration ou accord, aussi bien intentionné soit-il, n'empêchera un pays de faire le nécessaire pour garantir sa propre sécurité », a-t-il assuré.

La technologie toujours en avance. Un autre problème abordé lors du sommet était celui de la législation sur l’IA. À cet égard, Manoj Harjani, coordinateur du programme de transformations militaires à l'École d'études internationales, a déclaré qu'« il s'agit d'un jeu constant de rattrapage, dans lequel la technologie évolue à un rythme beaucoup plus rapide que le processus de réglementation gouvernementale. progresse souvent lentement.

En arrière-plan : la Chine encore. Alors que les États-Unis jouissent d’une supériorité en matière de technologie militaire depuis la fin de la guerre froide, cet avantage ne l’est plus dans la course pour devenir le leader mondial des technologies d’IA et d’apprentissage automatique susceptibles de révolutionner la guerre, et c’est ici que la Chine apparaît à l’horizon. encore.

En fait, il existe des données pour étayer sa position de leader. Selon un rapport publié en août par l'Australian Strategic Policy Institute, la Chine a accru son avance en tant que premier pays mondial en matière de recherche, en prenant en charge près de 90 % des 64 catégories examinées par le groupe de réflexion, notamment l'analyse avancée des données, les algorithmes d'IA, apprentissage automatique et IA contradictoire. À cela, il faut ajouter que des entreprises chinoises telles que Tencent Holdings, Alibaba Group Holdings et Huawei Technologies font partie des 10 premières entreprises qui mènent des recherches sur l’IA.

Conclusion. Le sommet n’a jamais été contraignant et n’a jamais été prévu pour l’être. Il s'agissait d'une approche semblable à celle d'un plateau où chaque nation déplaçait son jeton, révélant une partie de ses cartes. Les experts affirment que malgré les faibles chances de parvenir à un accord international contraignant pour réglementer l’IA militaire à court terme, une telle réalisation devrait être « extrêmement importante, si possible » à l’avenir.

Comme l’a déclaré Bondar, l’IA est, par essence, un produit de conception humaine, « un logiciel qui peut être programmé pour se conformer aux règles et réglementations ». Le problème est que ces règles et réglementations pourraient bien se traduire par des failles et/ou une vengeance les unes des autres. Il nous appartient de parvenir à un consensus pour minimiser et anticiper toute catastrophe inutile.

Images | włodi

À Simseo | La Chine est le pays qui a le plus augmenté son arsenal nucléaire. Il demande maintenant aux États-Unis et à leurs alliés de faire preuve de retenue.

À Simseo | La Chine se tourne vers l'énergie nucléaire pour stimuler son économie. Il investira 28 milliards de dollars dans 11 réacteurs