Faut-il donner une conscience aux robots ?

La société moderne repose intrinsèquement sur les systèmes automatisés et l’intelligence artificielle. Il est intégré à nos routines quotidiennes et ne montre aucun signe de ralentissement, en fait l’utilisation de l’assistance robotique et automatisée est en constante augmentation.

Une telle utilisation omniprésente de l’IA place les technologues et les développeurs face à deux dilemmes éthiques : comment construire des robots qui se comportent conformément à nos valeurs et comment les empêcher de devenir des voyous ?

Un auteur suggère qu’une option qui n’est pas suffisamment explorée consiste à coder plus d’humanité dans les robots, en dotant les robots de traits tels que l’empathie et la compassion.

L’humanité est-elle la réponse ?

Dans un nouveau livre intitulé « Robot Souls », publié en août, l’écrivain et universitaire Dr Eve Poole OBE explore l’idée que la solution à l’énigme de la société sur la façon de s’assurer que l’IA est éthique réside dans la nature humaine.

Le Dr Poole soutient que dans sa quête de perfection, les humains ont supprimé le « code indésirable », y compris les émotions, le libre arbitre et le sens du but.

Poole a déclaré: « C’est cette « poubelle » qui est au cœur de l’humanité. Notre code indésirable se compose d’émotions humaines, de notre propension aux erreurs, de notre inclination à raconter des histoires, de notre étrange sixième sens, de notre capacité à faire face à l’incertitude, un sens inébranlable de notre propre libre arbitre et de notre capacité à voir un sens dans le monde qui nous entoure. »

« Ce code indésirable est en fait vital pour l’épanouissement humain, car derrière toutes ces propriétés feuilletées et fantaisistes se cache une tentative coordonnée de protéger notre espèce. Ensemble, ils agissent comme une gamme d’améliorateurs avec un thème commun : ils nous maintiennent dans la communauté afin qu’il y a de la sécurité dans le nombre. »

Âmes robotiques

Alors que l’IA assume de plus en plus de rôles décisionnels dans notre vie quotidienne, ainsi que les préoccupations croissantes concernant les préjugés et la discrimination dans l’IA, le Dr Poole affirme que la réponse pourrait être dans ce que nous avons essayé de supprimer des machines autonomes en premier lieu.

Poole dit: « Si nous pouvons déchiffrer ce code, la partie qui nous donne tous envie de survivre et de prospérer ensemble en tant qu’espèce, nous pouvons le partager avec les machines. En leur donnant à toutes fins utiles une âme. »

Dans le nouveau livre, Poole suggère une série de prochaines étapes pour en faire une réalité, y compris l’accord d’un processus de réglementation rigoureux et une interdiction immédiate des armes autonomes ainsi qu’un régime de licences avec des règles qui réservent toute décision finale sur la vie et la mort de un humain à un autre humain.

Elle soutient que nous devrions également nous mettre d’accord sur les critères de la personnalité juridique et sur une feuille de route pour Al à cet égard.

Le plan humain

« Parce que les humains sont imparfaits, nous avons ignoré de nombreuses caractéristiques lorsque nous avons construit l’IA », explique Poole. « On a supposé que les robots avec des caractéristiques comme les émotions et l’intuition, qui faisaient des erreurs et cherchaient un sens et un but, ne fonctionneraient pas aussi bien. »

« Mais en considérant pourquoi toutes ces propriétés irrationnelles sont là, il semble qu’elles émergent du code source de l’âme. Parce que c’est en fait ce code « poubelle » qui nous rend humains et promeut le type d’altruisme réciproque qui maintient l’humanité en vie et prospère. »

« Robot Souls » se penche sur les développements de l’IA et passe en revue l’émergence des idées de conscience et d’âme.

Il place notre « code indésirable » dans ce contexte et soutient qu’il est temps de mettre ce code au premier plan et de l’utiliser pour revoir la façon dont nous programmons l’IA.