La Chine disposait déjà de l’un des systèmes de surveillance les plus sophistiqués au monde. Maintenant, il va mettre une IA en orbite

L’intelligence artificielle (IA) comporte de nombreux avantages, mais aussi de nombreux risques. Par conséquent, éliminer la supervision humaine peut être une très mauvaise idée. C’est un sujet assez récurrent qui a été remis sur la table après que la Chine a annoncé qu’elle testait l’utilisation de l’IA pour faire progresser ses systèmes de surveillance par satellite.

De nombreux experts ont exprimé leur inquiétude quant à la possibilité que ces systèmes soient utilisés à des fins militaires. D’autres pays, comme les États-Unis et Israël, ont créé un précédent inquiétant, ce qui fait craindre que ces technologies ne soient utilisées à mauvais escient et finissent par être mortelles.

Les pas de la Chine. La Chine souligne depuis longtemps l’importance que l’IA soit toujours sous surveillance humaine. Cependant, l’annonce reprise par les médias repose sur une prémisse différente. Le pays asiatique souhaite que ses systèmes d’IA par satellite soient capables de décomposer des tâches complexes, de coordonner les flux de travail et de se remettre indépendamment d’éventuelles pannes.

Bref, ils utiliseraient des algorithmes capables d’analyser des informations, de prendre des décisions et d’agir sans avoir recours à l’humain. L’observation par satellite peut avoir de nombreuses utilisations, depuis l’analyse du comportement animal jusqu’à l’aide aux prévisions météorologiques. Cependant, cette insistance sur la capacité de l’IA à agir de manière autonome rappelle inévitablement ce que nous observons déjà aux États-Unis à des fins militaires.

Le cas des États-Unis. L’armée américaine est soupçonnée de disposer de plusieurs systèmes de ciblage basés sur l’IA, bien qu’il existe de nombreuses informations classifiées à ce sujet. D’une manière générale, ceux-ci utiliseraient les données obtenues grâce à des caméras optiques, infrarouges, radars, LIDAR et autres capteurs pour localiser des cibles militaires et ensuite tirer si cela est jugé nécessaire. En février dernier, l’attaque d’une école classée erronée avait ouvert le débat sur cette question. 175 personnes y sont mortes, pour la plupart des filles. Comme il s’agissait d’une attaque malavisée, les soupçons se sont accrus selon lesquels l’IA était derrière cette attaque. Comme il s’agit d’informations classifiées, on ne peut pas en être sûr, mais il s’agit d’un risque plus que tangible.

Les États-Unis ont actuellement engagé SpaceX pour améliorer la connectivité des tireurs afin qu’ils reçoivent dès que possible des informations sur l’opportunité de tirer ou non. Il est clair qu’ils veulent continuer à progresser dans ce domaine et c’est quelque chose qui, logiquement, préoccupe beaucoup les experts.

Le cas d’Israël. Ce n’est pas exactement la même chose, mais Israël a également laissé les décisions de guerre entre les mains d’IA, avec des résultats inquiétants. Par exemple, ils disposent d’un système qui utilise les données des appels téléphoniques, des réseaux sociaux, des métadonnées, des informations visuelles ou des contacts, entre autres sources, pour déterminer qui peut être une cible. Selon une enquête menée par , au cours des premières semaines de la guerre contre la Palestine, 37 000 cibles ont été détectées comme membres du Hamas. L’armée elle-même a reconnu que l’algorithme avait 90 % de chances d’avoir raison. Cela nous donne des indices sur la gravité de la situation.

Plus de transparence ? La Chine a assuré qu’elle ferait preuve de plus de transparence que les autres pays en introduisant l’IA dans la gestion de ses satellites. Cela ne minimise toutefois pas les inquiétudes des experts. Pour l’instant, il semble que les algorithmes aient réussi à éviter les obstacles de manière indépendante lors de la phase de test. Pour qu’ils puissent tirer, s’ils sont utilisés à cette fin, il reste encore un long chemin à parcourir. Mais c’est viable. Il est donc urgent de prendre des mesures pour réglementer autant que possible l’utilisation de l’IA sans surveillance humaine.

Il y a trop d’êtres humains qui ont peu de scrupules, mais même ceux-là peuvent avoir plus de scrupules que les machines. Une IA ne peut pas faire preuve d’inquiétude, de conscience ou d’éthique. Il ne demande pas non plus avant de tirer si on ne lui dit pas de le faire. Par conséquent, si nous voulons qu’il exploite des satellites capables d’observer et de contrôler ce que nous faisons sur la planète, il serait souhaitable que nous veillions à ce qu’une personne scrupuleuse reste aux commandes. Bien que dans certains contextes, cela soit difficile à trouver.

Images | Kevin Stadnyk (Unsplash)/Magnifique

À Simseo | Il y a des avions qui larguent de la nourriture à Gaza depuis les airs. C’est une idée pire qu’il n’y paraît pour lutter contre la faim