La voix dans cette publicité n'est pas réelle, elle a été clonée par le plus grand influenceur technologique utilisant l'IA. Ce n'est pas la première fois que ça arrive

Un échantillon de 15 secondes. C'est tout ce dont un outil comme le générateur de voix développé par OpenAI a besoin pour cloner une voix. Ce n'est pas le seul système de ce type, loin de là, mais il nous donne une idée de ce que l'on peut réaliser avec seulement quelques secondes d'audio. Imaginons maintenant ce qui pourrait arriver si nous étions l'un des plus grands influenceurs du monde de la technologie avec des centaines, des milliers d'heures de contenu publiés et accessibles sur Internet.

Eh bien, qu'est-il arrivé à Marques Brownlee.

C'est moi, mais ce n'est pas moi. Marques Brownlee compte 19,6 millions d'abonnés sur YouTube, 4,9 millions de followers sur Instagram et 6,3 millions sur X. À 30 ans, l'Américain est l'un des créateurs de contenu les plus populaires dans le monde de la technologie et l'un des visages (et voix) les plus reconnaissables ) dans le secteur. Il a une façon de parler, des remplissages, un ton et des phrases qui lui sont plus propres et, bien sûr, des milliers et des milliers d'heures de sa voix publiées sur Internet.

Et que s'est-il passé ? Qu'une entreprise qui fabrique des cartes de visite numériques a cloné sa voix pour l'utiliser dans une publicité publiée sur Instagram. Comme l'explique Brownlee dans un article sur Threads, « il existe de vraies entreprises qui utilisent une copie de ma voix créée par l'IA pour promouvoir leurs produits ». Selon leurs propres mots, « il n'y a vraiment aucune répercussion, à part le fait d'être connu comme une entreprise louche qui est prête à s'abaisser si bas pour vendre un produit ».

Détectable, mais passable. Si nous écoutons la vidéo enregistrée par le créateur lui-même et y prêtons attention, nous remarquerons que la voix est synthétique. Bien que le « ok » initial et la première phrase puissent s'adapter parfaitement, le reste de l'audio manque d'intonation, c'est un discours plat. Avec sa voix, ou plutôt, avec une copie assez passable, mais trop plate. Une oreille plus ou moins exercée ou une personne intéressée par le monde de la technologie pourrait détecter son origine synthétique sans trop de problème, mais ce n'est pas toujours le cas.

C'est quelque chose qu'Internet nous a appris. Sur Facebook, il y a des pages qui publient des images générées par l'IA de personnes faisant des gâteaux ou de grands-mères tricotant, et beaucoup de gens croient qu'il s'agit de vraies photos, commentent, interagissent… Pareil avec ce « coffee shop » qui prétend être le « #1 café à Austin  » et qui, vraiment, regorge de photos de bonbons générées par l'IA. Le compte compte 72 000 abonnés et ses images suscitent d'innombrables interactions.

Ce n'est pas la première fois. Et ce ne sera probablement pas non plus la dernière. Jeff Geerling, un autre YouTuber et programmeur technologique, a également récemment vu sa voix clonée pour être utilisée dans une publicité. Le PDG de l'entreprise annoncée s'est excusé et s'est excusé, affirmant que la vidéo avait été réalisée par un récent diplômé sans expérience et qu'elle avait été publiée sans approbation.

La YouTubeuse ukrainienne Olga Loiek a également été victime de quelque chose de similaire, mais encore plus brutal. Loiek est ukrainienne et étudie à l'Université de Pennsylvanie, mais elle a trouvé un avatar avec son visage et son corps se faisant passer pour une jeune fille russe qui a posté des vidéos sur les réseaux sociaux chinois. Dans les vidéos, cet avatar parlait des bonnes relations entre la Russie et la Chine et affirmait même rechercher un partenaire chinois.

Image de couverture | Marques Brownlee 1, 2

À Simseo | L'IA générative a un énorme problème avec le contenu sans licence pour la formation. Adobe essaie de le réparer