Il y a des gens qui utilisent l'IA pour « inventer » leurs propres souvenirs de photographies. Et cela a ouvert un débat philosophique

Sur la photo, le gamin sourit, Abholly Happy. Sa mère, souriant également, le serre dans ses bras en regardant la caméra. La photo pourrait être celle de nous avec notre mère, mais avec cela se produit une chose: qu'une IA en a fait une vidéo. Celui qui a immédiatement le potentiel de devenir un souvenir.

Un souvenir de mensonge.

Cette photo a été partagée dans X Alexis Ohanian, co-fondatrice de Reddit, millionnaire et entrepreneur. Ohanian – pris avec Serena Williams depuis 2017 – a raconté dans ce message comment quand il a créé cette vidéo innocemment « Je n'étais pas préparé à la façon dont je me ferais ressentir cela ».

Dans sa famille, ils n'avaient pas de caméra vidéo, donc il n'a jamais eu de vidéo avec sa mère. Donc, presque sans penser, il a utilisé cette photo dans le générateur de vidéos MidJourney nouvellement sorti afin que de celui-ci ait généré une vidéo pour l'IA. Le résultat l'a laissé étonné. « C'est ainsi qu'elle m'a serré dans ses bras », a-t-il expliqué. « Je l'ai revu 50 fois. »

Mais avec ce message Un grand débat moral et philosophique a été déchaîné. Un sur la façon dont quelque chose comme ça peut nous impacter individuellement et en tant que société. Alors qu'Ohanian lui-même s'est défendu à ceux qui ont critiqué l'idée (« Je ne comprends vraiment pas pourquoi vous n'utiliseriez pas l'IA pour cela »), d'autres ont expliqué que ces souvenirs n'étaient pas réels: « Créer une vidéo pour quelqu'un de bien-aimé n'est pas de créer un souvenir d'eux. Vous mettez des mots qu'ils n'ont jamais dit dans leur bouche. » Comme l'a dit un autre utilisateur nommé Erich Thilow, « c'est (une mémoire). Mais le voir le rendra réel dans votre mémoire. Je ne suis pas un fan de quelque chose comme ça. »

D'autres utilisateurs ont profité du cinéma comme centre du débat. Un utilisateur appelé Vanillalle a partagé un cadre révélateur de Harry Potter avec un faux souvenir de ses parents dans le miroir (celui qui a inspiré l'image de ce thème). Un autre utilisateur appelé Andro a fait l'analogie avec «matrice». Dans ce film, a-t-il expliqué, une pour la voir se demandait pourquoi les gens voudraient faire face à la réalité. « Maintenant, il n'a pas à lui demander », a déclaré l'utilisateur.

L'ère des faux souvenirs

Cette nouvelle capacité de l'IA générative Générer de faux souvenirs Il est dérangeant, et cela pourrait bien faire partie de ce concept déjà étudié en psychologie. Ces souvenirs ne se sont pas produits ou sont la distorsion d'un événement réel, et selon des experts, tels que la psychologue américaine Elizabeth Loftus, il est possible de les induire tels que l'hypnose ou avec des techniques telles que l'essai: les répétitions d'un événement qui a été confirmée comme fantastique. En écoutant ou en visualisant le même événement, la personne peut commencer à se rappeler comme si elle s'était réellement produite.

Cette idée lancée par ce psychologue est également collectée par Francisco Tabernero, psychologue clinique à Puertollano (Ciudad Real). Selon lui, « les souvenirs sont généralement assez déformés », mais pour lui, il n'y a pas de risque particulier dans ce type de processus qui convertit une photo en souvenir de mensonge:

« L'expérience générale de la mémoire sera subjective et plus ou moins la même chose. Je ne pense pas que quelques secondes de mouvement changent la mémoire que vous avez déjà.

Loftus – critiqué par le concept pseudoscientifique qu'il a créé, le « False Syndrome » – a publié une étude avec Ira E. Hyman Jr., et les deux ont expliqué comment « la mémoire est toujours constructive. Les gens créent le passé en fonction des informations qui restent en mémoire, en connaissances générales et en demande sociale pour rappeler des situations. »

Les problèmes éthiques et moraux sont définitivement énormes et pour en parler, nous voulions contacter plus d'experts. Santiago Sánchez-Migallón (La machine von Neumann) est définie comme un « philosophe AI » et est le collaborateur habituel de Simseo. Pour lui, « nous devons comprendre l'émergence d'une technologie comme une opportunité et non, a priori, comme quelque chose de pervers uniquement en raison du fait qu'il traite une question délicate car, dans ce cas, la mort ou l'authenticité des souvenirs. »

Sánchez-Migallón indique clairement que la première chose est de rendre la technologie sûre et que l'utilisateur « peut différencier les vraies et faux souvenirs », mais assuré, cet expert pense qu'avec cette technologie, il serait possible d'aider à « effacer les traumatismes » et même imaginer un avenir pas très éloigné dans lequel il était possible de gagner des souvenirs ou des compétences de procédure? « 

Darío Benítez, psychologue et co-fondatrice de Psychoflix et le podcast valablement, est optimiste avec l'IA, mais voit « peu ou pas d'avantage » à ce type d'application parce que « si vous revivez une image d'un être cher que vous avez déjà fait de la poursuite. » Quelque chose comme ça, indique-t-il, peut changer la perception de vos valeurs parce que ce type de souvenirs de mensonges « peut vous faire sentir que vous les avez vécus et que cela s'est produit efficacement ».

C'est comme l'exemple d'Ohanian. Pour Benítez, il pourrait arriver que, dans la vidéo, la vidéo ait généré la mère a regardé l'enfant avec un dédain subtil et a généré une réaction du type « Oui, il est vrai que ma mère ne m'a pas bien traité », générant ainsi une hallucination qui se connecte à une autre idée qui avait peut-être de son passé, qui dans ce cas serait du type « mon enfance n'était pas si bonne ». Tout cela « enchevêtrait encore plus », dit ce psychologue.

Le danger de pouvoir façonner la mémoire

Une technologie a également un autre danger que nous avons déjà perçu dans de nombreux autres domaines technologiques. Surtout dans celui des téléphones portables et des réseaux sociaux, qui ont tendance à nous isoler et à nous attraper.

Avec ces vidéos créées par Generative, « Il pourrait être le cas que les gens Je préférerais de fausses vies, renonçant à la réalité« , dit Sánchez-Migallón. Malgré cela, il continue de le voir comme une opportunité:

« Il y a déjà des gens qui passent plus de temps sur les réseaux sociaux que dans la vraie vie, de sorte que dans leur biographie, cela importe plus leur monde en ligne que leur monde ordinaire. Eh bien, il en va de même: c'est pour ouvrir la porte à une autre option de vie. S'il y a des gens qui détestent leur vie et préfèrent vivre une fausse vie, pourquoi je vais refuser le fait de faire face à la réalité? « Bizarre » ou « étrange » pour créer de faux souvenirs? « 

Pour Sánchez-Migallón, il y a un autre dérivé: les souvenirs contribuent à la formation de notre personnalité et « les choses qui m'ont blessé ont contribué à me faire comme je suis. Je ne sais pas dans quelle mesure je pourrais effacer des choses que je ne pouvais pas créer d'étranges incongrues. »

Pour sa part, Benítez explique que « évoquer la mémoire est très facile et nous savons que l'esprit peut faire de nombreuses erreurs ». C'est pourquoi il souligne que la base de nos décisions ou la réalisation de jugements moraux en fonction de ces faux souvenirs « est dangereux et peut créer des problèmes là où il n'y en a pas ».

C'est quelque chose qui semble également coïncider Tabernero, qui commente comment « il y a des populations de risques » pour ce type d'applications, telles que les personnes présentant un stress post-traumatique ou avec des duels pathologiques. Dans ce dernier cas, si quelqu'un a eu un duel traumatisant pour un être cher qui n'est plus,

« Cet outil pourrait raviver une mémoire d'ancrage qui amène la personne à ressentir des symptômes comme le premier jour. Au moins, il vous ravivera la nostalgie, et vous pouvez passer un temps de pénalité et de tristesse que vous auriez peut-être pu vous sauver. »

Benítez reconnaît que d'autres plateformes technologiques ont aidé dans le passé. WhatsApp et même Tinder aident à connecter les personnes qui ne le feraient pas autrement (ou ne le feraient pas), expliquent, mais ce type de technologies – comme cela se produit malheureusement avec les réseaux sociaux – peut également nous isoler. Selon lui:

« Les gens utilisent des environnements virtuels comme ceux offerts par le jeu » World of Warcraft « parce qu'ils sont plus sûrs est déjà bon, mais cette alternative virtuelle peut vous faire éliminer les autres (réelles) et aussi menacer le contact social. Quelque chose comme ça peut vous faire vivre une réalité qui ne se marie pas et qui n'est pas vraiment tangible. »

Et juste là où le reflet de Tabernero dérive également, ce qui précise qu'il est très difficile de prévoir ce qui se passera, mais cela voit ici deux aspects. Le premier, celui du tweet, « Je le vois très inoffensif, presque comme un passe-temps. » Le second, beaucoup plus dérangeant, est ce qui peut provoquer « Un moment d'évasion dans lequel vous vous sentez bien« Si vous évitez trop, expliquez, votre contact avec la réalité peut être beaucoup plus difficile de ne pas être habitué à des stimuli hostiles.

L'IA devrait ne pas vous décevoir, pour toujours vous soutenir, mais comme le souligne Tabernero, cela peut amener la personne à « ne pas développer de stratégies d'adaptation, et ces expériences hostiles seront alors deux fois plus hostiles ».

Image | Warner Bros.

Dans Simseo | Le grand paradoxe mobile à l'adolescence: ils sont mauvais pour la performance et la santé mentale, mais les interdire à l'école ne fonctionne pas