« Est-ce un deepfake ? Pourquoi nous posons la mauvaise question

Au cours de l’année écoulée, la prévalence et les dangers potentiels des deepfakes ont soulevé des inquiétudes liées à la vie privée, à l’éthique des affaires et même à l’ingérence électorale.

En conséquence, des conseils sur la détection des deepfakes ont circulé sur les réseaux sociaux et dans l'actualité, mais le professeur d'ingénierie Aleksander Essex dit que nous devrions commencer à penser au-delà de la détection des deepfakes et commencer à nous poser des questions plus importantes.

Essex dirige Whisper Lab, le laboratoire occidental de recherche sur la sécurité de l'information et la confidentialité, et s'est entretenu avec Western News sur les deepfakes et ce qu'ils signifient pour notre société future.

Qu’est-ce qu’un deepfake ?

Je ne pense pas que nous ayons encore arrêté une définition unique, mais nous parlons de l'utilisation de techniques d'apprentissage profond (un type d'IA) pour appliquer l'image de personnes réelles à des images, audio ou vidéo fictives.

Les deepfakes sont-ils problématiques ?

Certainement. Nous avons de nombreux exemples concrets, comme lorsqu'un travailleur financier a payé 25 millions de dollars (USD) à la suite d'un appel avec un directeur financier truqué. Il y a eu des nouvelles d'un site Web utilisé pour générer de fausses pièces d'identité avec photo, et plus tôt cette année, Twitter a suspendu les recherches de Taylor Swift après que de fausses images de nus ont inondé la plateforme.

Dans votre travail sur la sécurité électorale, les deepfakes deviennent-ils un problème ?

Heureusement, il n’est pas encore pleinement implanté au Canada. Mais nous pouvons nous attendre à ce que cela finisse par se produire, comme c'est déjà le cas aux États-Unis. Nous avons vu plusieurs exemples très médiatisés, comme un deepfake Joe Biden appelant automatiquement les électeurs du New Hampshire. Heureusement, le gouvernement fédéral a récemment déposé une nouvelle loi ciblant les fausses déclarations concernant les pratiques électorales, ce qui couvre les deepfakes.

Quels sont les moyens de détecter les deepfakes ?

À court terme, vous pouvez encore souvent vous fier à votre instinct en matière de deepfakes. La bouche n'est plus synchronisée avec le corps, ou les reflets ont une fréquence d'images différente, etc.

À moyen terme, nous pouvons utiliser un logiciel de détection des deepfakes, mais c'est une course aux armements, et la précision diminuera probablement avec le temps à mesure que les algorithmes des deepfakes s'amélioreront.

À long terme, les deepfakes pourraient éventuellement devenir impossibles à distinguer des images réelles. Lorsque ce jour viendra, nous ne pourrons plus compter sur la détection comme stratégie. Alors, que nous reste-t-il que l’IA ne puisse pas falsifier ? Voici deux choses : la réalité physique elle-même et une cryptographie forte, qui consiste à connecter de manière solide et vérifiable les données à une identité numérique.

La cryptographie est ce que nous utilisons pour garder les historiques de navigation privés et les mots de passe secrets, et elle vous permet de prouver que vous êtes bien vous. L’Internet moderne ne pourrait exister sans lui. Dans le monde de l’informatique, l’IA n’est qu’un algorithme comme tous les autres et la cryptographie est conçue pour être difficile à briser pour n’importe quel algorithme.

On est encore capable de lier une entité physique (une personne) à une notion forte d’identité numérique. Cela suggère que « est-ce un deepfake ? » ce n'est peut-être pas la bonne question que nous devrions poser.

Si « est-ce un deepfake » n’est pas la bonne question, quelle est la bonne ?

Les bonnes questions à se poser sont : d’où vient cette image ? Qui est la source ? Comment puis-je le savoir ?

La sophistication des deepfakes pourrait éventuellement évoluer au point où nous ne pourrons plus faire la distinction entre une vraie photo et un fantasme généré par un algorithme.

Dans ce monde, la conversation devrait moins porter sur le contenu de l'image que sur son origine, c'est-à-dire la source, le canal de communication, le support. En ce sens, la vieille sagesse de Marshall McLuhan selon laquelle « le médium est le message » s’applique toujours, peut-être plus que jamais.

Que diriez-vous à ceux qui s’inquiètent des dangers potentiels de l’IA et des deepfakes ?

Je passe beaucoup de temps à parler à mes étudiants des dangers de la pensée magique en matière de nouvelles technologies. L’IA, du moins celle qui fonctionne sur un ordinateur normal, n’est ni vivante ni consciente. Oui, cela peut être utile. Peut-être même nuisible. Mais ce ne sont que des engrenages qui tournent dans une horloge à coucou élaborée et la société n'a pas besoin de s'enfuir avec elle-même.

En fin de compte, il existe des limites fondamentales au calcul, tout comme la vitesse de la lumière. L'IA ne peut pas tout faire. L’informatique quantique ou les blockchains ne le peuvent pas non plus. N’oubliez pas : l’IA n’est qu’un outil. Notre attention devrait se porter sur ceux qui l’exercent.