Les clones d’IA fabriqués à partir de données d’utilisateurs présentent des risques étranges

Imaginez, si vous voulez, un sosie numérique. Un clone qui vous ressemble, parle et se comporte comme vous, créé à partir des profondeurs de l’intelligence artificielle, reflétant toutes vos manières avec une précision étrange. Aussi excitant que cela puisse paraître, qu’en penseriez-vous ?

Nos recherches à l’Université de la Colombie-Britannique braquent les projecteurs sur cette question. Grâce aux progrès des technologies d’apprentissage en profondeur telles que les applications interactives deepfake, la conversion de la voix et les acteurs virtuels, il est possible de reproduire numériquement l’apparence et le comportement d’un individu.

Cette image miroir d’un individu créée par l’intelligence artificielle est appelée « clone de l’IA ». Notre étude plonge dans les eaux troubles de ce que ces clones d’IA pourraient signifier pour notre perception de soi, nos relations et notre société. Dans notre article publié dans le cadre de la Actes de l’ACM sur l’interaction homme-machinenous avons identifié trois types de risques posés par les répliques d’IA : la phobie des sosies, la fragmentation de l’identité et les souvenirs vivants.

Clonage de l’IA

Nous avons défini les clones d’IA comme des représentations numériques d’individus, conçues pour refléter certains ou plusieurs aspects de « l’individu source » du monde réel.

Contrairement aux personnages fictifs dans les environnements numériques, ces clones d’IA sont basés sur des personnes existantes, imitant potentiellement leur ressemblance visuelle, leurs manières conversationnelles ou leurs schémas comportementaux. La profondeur de réplication peut varier considérablement, allant de la réplication de certaines fonctionnalités distinctes à la création d’un jumeau numérique presque parfait.

Les clones d’IA sont également des technologies interactives, conçues pour interpréter les entrées de l’utilisateur et de l’environnement, effectuer un traitement interne et produire une sortie perceptible. Et surtout, ce sont des technologies basées sur l’IA construites sur des données personnelles.

Alors que le volume de données personnelles que nous générons continue de croître, la fidélité de ces clones d’IA à reproduire notre comportement augmente également.

Peurs, fragments et faux souvenirs

Nous avons présenté à 20 participants huit scénarios spéculatifs impliquant des clones d’IA. Les participants étaient d’âges et d’horizons divers et ont réfléchi à leurs émotions et aux impacts potentiels sur leur perception de soi et leurs relations.

Tout d’abord, nous avons constaté que la phobie des doppelgänger était une peur non seulement du clone de l’IA lui-même, mais aussi de son utilisation abusive potentielle. Les participants craignaient que leurs homologues numériques puissent exploiter et déplacer leur identité.

Deuxièmement, il y avait la menace de la fragmentation de l’identité. La création de répliques menace l’individualité unique de la personne clonée, provoquant une perturbation de sa perception de soi cohérente. En d’autres termes, les gens craignent de perdre une partie de leur unicité et de leur individualité dans le processus de réplication.

Enfin, les participants ont exprimé des inquiétudes au sujet de ce que nous avons décrit comme des « souvenirs vivants ». Cela concerne le danger posé lorsqu’une personne interagit avec un clone de quelqu’un avec qui elle a une relation existante. Les participants craignaient que cela ne conduise à une fausse représentation de l’individu, ou qu’ils ne développent un attachement excessif au clone, altérant la dynamique des relations interpersonnelles.

Préserver les valeurs humaines

Il est évident que le développement et le déploiement de clones d’IA ont de profondes implications. Notre étude apporte non seulement des informations précieuses au dialogue critique sur l’IA éthique, mais elle propose également un nouveau cadre pour la conception de clones d’IA qui donne la priorité à l’identité et à l’authenticité.

Il incombe à toutes les parties prenantes, y compris les concepteurs, les développeurs, les décideurs et les utilisateurs finaux, de naviguer de manière responsable sur ce territoire inexploré. Cela implique d’examiner consciencieusement les stratégies de modération et d’expiration des données générées par les utilisateurs afin d’éviter les abus et la dépendance excessive.

De plus, il est impératif de reconnaître que les implications des technologies de clonage d’IA sur l’identité personnelle et les relations interpersonnelles ne représentent que la pointe de l’iceberg. Alors que nous continuons à emprunter le chemin délicat de ce domaine en plein essor, les résultats de notre étude peuvent servir de boussole nous guidant pour donner la priorité aux considérations éthiques et aux valeurs humaines avant tout.