Les entreprises technologiques se battent pour endiguer Deepfake Deluge
Les entreprises technologiques combattent le fléau de Deepfakes, ces voix ou vidéos trompeusement réalistes utilisées par des escrocs plus disponibles que jamais grâce à l’intelligence artificielle.
Les outils en constante amélioration de l’intelligence artificielle (Genai) sont devenus des armes entre les mains de mauvais acteurs déterminés à tromper les gens de leur argent ou même de leur identité.
Debby Bodkin raconte que sa mère de 93 ans recevait un appel téléphonique, une voix clonée affirmant: « C’est moi, maman … j’ai eu un accident. »
Lorsqu’on lui a demandé où ils étaient, l’imitateur fabriqué en machine a nommé un hôpital.
Heureusement, c’était une petite-fille qui a répondu au téléphone, choisissant de raccrocher et d’appeler Bodkin au travail où elle était en sécurité et bien.
« Ce n’est pas la première fois que les escrocs appellent grand-mère », a déclaré Bodkin à l’AFP. « C’est quotidien. »
De telles escroqueries par téléphone DeepFake continuent généralement de faire des victimes à payer des soins médicaux ou d’autres urgences inventées.
Utilisé sur les réseaux sociaux pour détourner la notoriété des célébrités ou d’autres personnalités de haut niveau, parfois pour la désinformation, les fesses profondes sont également exploitées par des gangs criminels.
La police de Hong Kong plus tôt cette année a révélé qu’un employé de l’entreprise multinationale avait été amené au câblage de 200 millions de dollars HK (environ 26 millions de dollars) à des escrocs qui ont organisé une vidéoconférence avec des avatars IA de ses collègues.
Une étude récente de la start-up d’identification Iboom a révélé qu’un dixième dixième de 1% des Américains et des Britanniques étaient capables de dire correctement quand une image ou une vidéo était unfake profond.
Il y a dix ans, il y avait un seul outil d’IA pour générer des voix synthétiques – maintenant, il y en a des centaines, selon le spécialiste de l’authentification vocale Vijay Balasubramaniyan, PDG de Pindrop Security.
Genai a changé le jeu, a-t-il déclaré.
« Avant, il a fallu 20 heures (d’enregistrement vocal) pour recréer votre voix », a déclaré l’exécutif à l’AFP.
« Maintenant, c’est cinq secondes. »
Des entreprises telles que Intel ont intensifié des outils pour détecter l’audio ou la vidéo de fabrication de Genai en temps réel.
Intel « Fakecatcher » détecte les changements de couleur dans les vaisseaux sanguins faciaux pour distinguer les images de faux.
Pindrop décompose chaque seconde de l’audio et le compare aux caractéristiques d’une voix humaine.
« Vous devez suivre le Times », explique Nicos Vekiarides, chef d’Attestiv Platform spécialisé dans l’authentification des créations numériques.
« Au début, nous avons vu des gens avec six doigts d’une part, mais les progrès l’ont rendu de plus en plus difficile à dire (Deepfakes) à l’œil nu. »
«Menace mondiale de la cybersécurité»
Balasubramaniyan estime que les logiciels pour repérer le contenu de l’IA deviendront standard dans les entreprises de toutes sortes.
Bien que Genai ait brouillé la frontière entre l’homme et la machine, les entreprises qui rétablissent ce diviseur pourraient monter sur un marché qui vaudra des milliards de dollars, a-t-il déclaré.
Vekiarides a averti que le problème « devient une menace mondiale de cybersécurité ».
« Toute entreprise peut avoir sa réputation ternie par unfake Deep ou être ciblé par ces attaques sophistiquées », a déclaré Vekiarides.
Balasubramaniyan a ajouté que le passage au télétravail offre plus d’opportunités aux mauvais acteurs de se promener dans les entreprises.
Au-delà du monde de l’entreprise, beaucoup s’attendent à ce que les consommateurs cherchent des moyens de combattre les escroqueries Deepfake mettant en danger leur vie personnelle.
En janvier, Honor, basé en Chine, a dévoilé un smartphone Magic7 avec un détecteur DeepFake intégré propulsé par l’IA.
La start-up britannique Surf Security à la fin de l’année dernière a lancé un navigateur Web qui peut signaler la voix ou la vidéo synthétique, visant les entreprises.
Siwei Lyu, professeur d’informatique à l’Université d’État de New York à Buffalo, estime que « Deepfakes deviendra comme un spam », un cauchemar Internet que les gens finissent par prendre le contrôle.
« Ces algorithmes de détection seront comme des filtres de spam dans notre logiciel de messagerie », a prédit Lyu.
« Nous n’y sommes pas encore. »
