Peut-il aussi aider les Joes moyens?

Les célébrités ne connaissent pas trop le monde de DeepFakes, le terme familier pour des vidéos générées par l'intelligence artificielle qui dépeignent les acteurs et autres talents hollywoodiens qui font ou disant des choses qu'ils n'ont jamais accepté.

Pour se protéger, des acteurs tels que Steve Harvey, l'agence de talents de Beverly Hills WME et les studios ont fait appel à Vermillio, une entreprise basée à Chicago qui suit les ressemblances numériques et la propriété intellectuelle des célèbres. Selon ce que souhaitent ses clients, Vermillio peut faire enlever le matériel.

Mais comme la technologie IA continue de s'améliorer et devient plus largement disponible pour le grand public, les gens ordinaires sont également arnaqués.

Maintenant, Vermillio dit qu'il propose gratuitement une version de son service à tous.

Cette décision intervient alors que De plus en plus convaincant les fers de perfectionnent en ligne, ce qui rend difficile pour les sites de médias sociaux de contrôler une telle activité. En 2019, il y avait environ 18 000 profondeurs dans le monde, et cette année, il y a eu environ 2 billions de créations génératives, a déclaré Dan Neely, directeur général et co-fondateur de Vermillio.

Cela laisse les Joes moyens à un risque croissant d'être issus d'identité en ligne, avec peu de recours.

« Nous avons hâte que les gouvernements résolvent ce problème », a déclaré Neely. « Nous avons hâte que les législateurs résolvent ce problème. Nous avons hâte que d'autres personnes résolvent ce problème. Nous avons juste dit que c'était la bonne chose à faire, donc nous devrions simplement le faire. »

Avec ce mouvement, Vermillio adopte un modèle classique « freemium » – offrant un service partiel pour aucune charge et vente à la hausse pour des fonctionnalités supplémentaires.

Voici comment cela fonctionne.

En utilisant sa technologie TraceID, l'entreprise signale un contenu problématique. Pour les clients payants, Vermillio peut envoyer des demandes de retrait à des sites tels que YouTube ou Instagram. De plus, Vermillio affirme que les clients peuvent monétiser leurs données en les licenciés.

Les personnes qui s'inscrivent à la version gratuite entrent des informations sur elles-mêmes, comme leur nom, leur date de naissance et les poignées des médias sociaux.

Vermillio utilisera ces informations pour créer un « modèle de ressemblance » pour parcourir Internet pour des drapeaux rouges potentiels impliquant l'identité de l'utilisateur. Ensuite, Vermillio alerte l'utilisateur de ce qui existe en ligne. Par exemple, si quelqu'un a créé un faux compte Instagram de cet utilisateur, Vermillio signalerait cela.

Les utilisateurs peuvent décider par eux-mêmes ce qu'ils aimeraient autoriser ou prendre des mesures pour supprimer. Si l'utilisateur veut que Vermillio demande des retraits du contenu inapproprié, les utilisateurs devraient passer à un compte payant, qui commence à 10 $ par mois et comprend cinq demandes mensuelles de retrait.

Alors que de nombreuses plateformes de médias sociaux donnent une option aux utilisateurs pour signaler le contenu problématique, Vermillio a déclaré que son service était plus rapide et plus efficace que le fait que les utilisateurs se rendent directement sur YouTube ou Instagram pour rectifier la situation. Il a construit un réseau de partenaires et peut augmenter les retraits aussi rapidement qu'une heure, a indiqué la société.

Les dirigeants de Vermillio ont déclaré que certains exemples réels de contrefaçons profondes incluent des voix de célébrités utilisées pour collecter des fonds pour de faux organismes de bienfaisance ou des organisations terroristes, et des élèves du secondaire créant une fausse pornographie de leurs camarades de classe.

« Cela affecte les gens ordinaires dans le sens où ils sont arnaqués par Deepfakes, mais cela affecte également les adolescents … Les gens doivent donc comprendre où ils se trouvent », a déclaré Kathleen Grace, directrice de la stratégie de Vermillio. « C'est un moyen facile pour eux de le faire. »

Alors que de faux profils de médias sociaux existent depuis des années, « une IA générative vient de verser de l'essence dessus », a déclaré Grace.

La société a déclaré que des centaines de personnes utilisaient les services de Vermillio, mais n'ont pas précisé les chiffres. À la fin de l'année, la société prévoit d'avoir des milliers.

Neely a déclaré que la société n'était pas rentable et a refusé de partager des chiffres de revenus. Time Magazine a indiqué que les revenus de Vermillio's Traceid ont décuplé de dix ans d'avril 2023 à avril 2024. La société gagne de l'argent grâce aux versions payantes de son service et de ses licences.

Les entreprises et les talents hollywoodiens naviguent de l'intelligence artificielle de différentes manières.

Des groupes tels que les artistes de la Guilde SAG-AFTRA font pression pour plus de protections étatiques et fédérales contre Deepfakes. Certaines célébrités, telles que l'acteur de soutien aux Oscars, Jamie Lee Curtis, ont eu du mal à faire en sorte qu'une fausse annonce sur Instagram lui montre une approi à forte approuver un produit dentaire.

WME a annoncé un partenariat avec Vermillio l'année dernière.

« L'ampleur du problème est extraordinaire, donc si vous êtes un détenteur des droits, essayant simplement de comprendre combien de ces sorties d'IA sont basées ou utilisées mes données, mon IP d'une manière ou d'une forme ou d'une forme, est un besoin énorme », a déclaré Chris Jacquemin, chef de la stratégie numérique de WME.

« Ils ont évidemment prouvé que Traceid peut protéger les personnalités publiques les plus importantes et les plus en vue du monde », a ajouté Jacquemin.

« L'ouvrir dans une application beaucoup plus large, je pense, est un énorme pas en avant dans la démocratisation de la façon dont n'importe qui peut commencer à contrôler l'utilisation de sa ressemblance en ce qui concerne les plateformes de l'IA et de l'IA. »