Faire des fac-similés des morts augmente les dilemmes éthiques

Christopher Pelkey ​​a été tué par balle dans un incident de route de route en 2021. Le 8 mai 2025, lors de l'audience de condamnation pour son tueur, une reconstruction vidéo de l'IA de Pelkey ​​a fait une déclaration d'impact sur la victime. Le juge de première instance a déclaré avoir été profondément ému par cette performance et prononcé la peine maximale pour homicide involontaire.

Dans le cadre des cérémonies pour marquer la 77e année d'indépendance d'Israël le 30 avril 2025, les responsables avaient prévu d'organiser un concert mettant en vedette quatre chanteurs israéliens emblématiques. Les quatre étaient morts des années plus tôt. Le plan était de les évoquer en utilisant le son et la vidéo générés par l'IA. Les artistes morts étaient censés chanter aux côtés de Yardena Arazi, un artiste célèbre et toujours très vivant. En fin de compte, Arazi s'est retiré, citant l'atmosphère politique, et l'événement ne s'est pas produit.

En avril, la BBC a créé une version de faux-faux du célèbre écrivain mystère Agatha Christie pour enseigner un «cours de maestro sur l'écriture». Fake Agatha instruireait les auteurs mystères du meurtre en herbe et « inspirerait » leur « voyage d'écriture ».

L'utilisation de l'intelligence artificielle pour «réanim les morts à diverses fins gagne rapidement du terrain. Au cours des dernières années, nous avons étudié les implications morales de l'IA au Center for Applied Ethics à l'Université du Massachusetts, Boston, et nous constatons que ces réanimes d'IA sont moralement problématiques.

Avant de relever les défis moraux que la technologie soulève, il est important de distinguer les réanimations de l'IA, ou les fesses profondes, des soi-disant chagrin. Les GriefBots sont des chatbots formés sur de grandes bandes de données que les morts laissent derrière eux – publications sociales, textes, e-mails, vidéos. Ces chatbots imitent la façon dont les défunts communiquaient et sont censés faciliter la vie des relations survivantes. Les Facefakes de profondeur dont nous discutons ici ont d'autres objectifs; Ils sont censés promouvoir des causes juridiques, politiques et éducatives.

Dilemmes moraux

Le premier dilemme moral que la technologie soulève a à voir avec le consentement: le défunt aurait-il accepté de faire ce que fait sa ressemblance? Les chanteurs israéliens morts auraient-ils voulu chanter lors d'une cérémonie d'indépendance organisée par le gouvernement actuel du pays? Pelkey, la victime de la rage de la route, serait-elle à l'aise avec le script que sa famille a écrit pour son avatar pour réciter? Que penserait Christie de son double enseignement de l'IA à cette classe?

Les réponses à ces questions ne peuvent être déduites que circonstanciellement – en examinant le genre de choses que les morts ont fait et les points de vue qu'ils ont exprimés lorsqu'ils sont vivants. Et on pourrait demander si les réponses comptent même. Si les responsables des domaines acceptent les réanimations, la question n'est-elle pas réglée? Après tout, ces fiduciaires sont les représentants légaux des disparus.

Mais en mettant de côté la question du consentement, une question plus fondamentale demeure.

Que font ces réanimations à l'héritage et à la réputation des morts? Leur réputation ne dépend-elle pas, dans une certaine mesure, de la pénurie de l'apparence, du fait que les morts ne peuvent plus apparaître? Mourir peut avoir un effet salutaire sur la réputation de personnes éminentes; C'était bon pour John F. Kennedy, et c'était bon pour le Premier ministre israélien Yitzhak Rabin.

Le leader athénien du Ve siècle au Ve siècle de la Colombie-Britannique a bien compris cela. Dans sa célèbre oraison funéraire, livrée à la fin de la première année de la guerre du Péloponnèse, il affirme qu'une mort noble peut élever sa réputation et éliminer leurs petits méfaits. C'est parce que les morts sont hors de portée et que leur mystique se développe post-mortem. « Même la vertu extrême ne vous gagnera guère une réputation égale à » celle des morts, insiste-t-il.

Les réanimations de l'IA dévaluent-elles la monnaie des morts en les forçant à continuer à apparaître? Offrent-ils et déstabilisent-ils leur réputation en les faisant commenter les événements qui se sont produits longtemps après leur disparition?

De plus, ces représentations de l'IA peuvent être un outil puissant pour influencer le public à des fins politiques ou juridiques. Ramener un chanteur mort populaire pour légitimer un événement politique et réanimmer une victime morte pour donner des témoignages est destiné à influencer le jugement d'un public.

C'est une chose de canaliser un Churchill ou un Roosevelt lors d'un discours politique en les citant ou même en essayant de leur ressembler. C'est une autre chose de faire parler « eux » à vos côtés. Le potentiel d'exploiter la nostalgie est suralimenté par cette technologie. Imaginez, par exemple, ce que les Soviétiques, qui adoraient littéralement le cadavre de Lénine, auraient fait avec une profondeur de leur ancienne icône.

Bonnes intentions

Vous pourriez affirmer que parce que ces réanimations sont uniquement engageantes, elles peuvent être utilisées à des fins vertueuses. Considérez un Martin Luther King Jr. réanimé, en parlant à notre nation actuellement polarisée et divisée, exhortant la modération et l'unité. Ne serait-ce pas grand? Ou qu'en est-il d'un Mordechai Aneelewicz réanimé, le commandant du soulèvement du ghetto de Varsovie, parlant lors du procès d'un négateur de l'Holocauste comme David Irving?

Mais savons-nous ce que MLK aurait pensé de nos divisions politiques actuelles? Savons-nous ce que Aniewicz aurait pensé aux restrictions sur le discours pernicieux? Est-ce que des campagnes courageusement pour des droits civils signifient que nous devrions faire appel au fantôme numérique de King à commenter l'impact du populisme? Faire craindre sans crainte les nazis signifie-t-il que nous devrions draguer l'ombre de l'IA d'un vieux héros pour commenter la liberté d'expression à l'ère numérique?

Même si les projets politiques que ces avatars de l'IA servaient étaient conformes aux opinions du défunt, le problème de la manipulation – d'utiliser le pouvoir psychologique des Fabriques Deep pour faire appel aux émotions – est resté.

Mais qu'en est-il de l'enrôlement de Ai Agatha Christie pour enseigner un cours d'écriture? Deepfakes peut en effet avoir des utilisations salutaires dans des contextes éducatifs. La ressemblance de Christie pourrait rendre les étudiants plus enthousiastes à l'égard de l'écriture. Fake Aristote pourrait améliorer les chances que les étudiants s'engagent avec son éthique austère de Nicomachean. Ai Einstein pourrait aider ceux qui veulent étudier la physique à se faire la tête autour de la relativité générale.

Mais la production de ces contrefaçons s'accompagne d'une grande responsabilité. Après tout, étant donné leur engagement, il est possible que les interactions avec ces représentations soient tout ce à quoi les étudiants prêtent attention, plutôt que de servir de passerelle pour explorer le sujet.

Vivre dans les vivants

Dans un poème écrit en mémoire de WB Yeats, WH Auden nous dit qu'après la mort du poète, Yeats « est devenu ses admirateurs ». Sa mémoire était maintenant «dispersée parmi une centaine de villes» et son travail soumis à une interprétation sans fin: «Les paroles d'un mort sont modifiées dans les tripes des vivants».

Les morts vivent des nombreuses façons que nous réinterpréterons leurs paroles et leurs travaux. Auden a fait ça à Yeats, et nous le faisons à Auden ici. C'est ainsi que les gens restent en contact avec ceux qui sont partis. En fin de compte, nous croyons que l'utilisation de prouesses technologiques pour les ramener concrètement les manque de respect, et peut-être plus important encore, est un acte de manque de respect pour nous-mêmes – à notre capacité à résumer, à penser et à imaginer.