IA risque la «catastrophe» sans «garanties en fonte»: expert

Les systèmes d’intelligence artificielle (IA) doivent être livrés avec des « garanties en fonte » contre les dommages massives pour les humains, d’autant plus que la probabilité que leur intégration dans les armes augmente, a déclaré un expert de premier plan.

Stuart Russell, professeur en informatique de Berkeley et codirecteur de l’Association internationale pour l’IA sûre et éthique (IASEAI), sera à Paris jeudi pour des pourparlers scientifiques à l’approche d’un sommet mondial sur la technologie de l’IA du 10 au 11 février.

Je pense que c’est malheureux. La raison pour laquelle ils ont instancié leur politique antérieure contre l’utilisation de l’IA dans les armes étaient précisément parce que leurs propres employés se révoltaient … les employés de Google craignaient que leur travail ne soit utilisé dans les armes, non seulement pour la reconnaissance, mais pour tuer des gens.

Maintenant (Google) dit qu’ils sont prêts à l’emporter sur les opinions de leurs employés, également les vues de la grande majorité du public, qui sont également opposées à l’utilisation de l’IA dans les armes.

Le marché militaire de l’IA est minuscule par rapport au marché de la consommation et au marché des entreprises, il ne s’agit donc pas vraiment de l’opportunité de gagner de l’argent. Il s’agit vraiment d’améliorer leur position de négociation avec le gouvernement américain.

Ce n’est pas une coïncidence que ce changement de politique s’accompagne d’une nouvelle administration qui a supprimé toutes les réglementations sur l’IA qui ont été placées par l’administration Biden et met maintenant l’accent sur l’utilisation de l’IA pour les prouesses militaires.

Les petits systèmes d’armes autonomes … sont les plus dangereux dans le sens où ils sont petits et bon marché, les groupes non étatiques, les terroristes, par exemple, peuvent les acheter par million et les utiliser pour effectuer d’énormes massacres.

(Ces armes) pourraient être utilisées de manière beaucoup plus dangereuse et nuisible. Par exemple, « Tuez toute personne qui correspond à la description suivante ». Et cette description pourrait être par âge, par sexe, par groupe ethnique, par affiliation religieuse, ou même un individu particulier.

Il y avait, au dernier décompte, environ 75 pays qui s’étaient développés ou utilisaient des armes pilotées à distance. Et je pense que la plupart de ceux-ci sont en train de réfléchir à la façon de les convertir en armes entièrement autonomes.

L’Ukraine a été un accélérateur … ce conflit a forcé ces systèmes d’armes à évoluer très rapidement. Et tout le monde regarde cela.

Il est tout à fait possible que le prochain conflit majeur après l’Ukraine se déroule en grande partie avec des armes autonomes d’une manière qui n’est pas réglementée. Nous ne pouvons donc imaginer que les types de dévastation et les impacts horribles sur les civils qui pourraient se produire en conséquence.

Mais d’un autre côté, plus de 100 pays ont déjà déclaré leur opposition aux armes autonomes. Et je pense qu’il y a de fortes chances que nous atteignions la majorité nécessaire à l’Assemblée générale des Nations Unies pour avoir une résolution appelant à une interdiction.

L’extinction humaine pourrait résulter de systèmes d’IA qui sont beaucoup plus intelligents que les humains, et donc beaucoup plus capables d’affecter le monde que nous.

Les gouvernements doivent exiger des garanties en fonte sous forme de preuves statistiques ou de preuves mathématiques qui peuvent être inspectées, qui peuvent être vérifiées avec soin. Et tout ce qui ne fait que demander un désastre.