Cette agence artistique utilisera l'IA pour les combattre

À mesure que les progrès de l’intelligence artificielle se multiplient, les agences artistiques renforcent leurs défenses pour protéger les stars d’Hollywood contre les images ou vidéos trompeuses et manipulées qui peuvent les mettre en danger.

L’essor de l’IA générative et des « deepfakes » – c’est-à-dire des vidéos et des images utilisant faussement l’image d’une personne – a conduit à une large prolifération de clips non autorisés qui peuvent nuire aux marques et aux entreprises des célébrités.

Ces clips prétendent montrer des personnes célèbres disant et faisant des choses qu’elles n’ont jamais dites ou faites. Par exemple : de faux nus d'une personne célèbre ou des vidéos conçues pour donner l'impression qu'une star hollywoodienne approuve un produit qu'elle n'a pas réellement utilisé. Et le problème devrait s’aggraver.

Il existe désormais des outils technologiques qui utilisent l’IA pour lutter contre cette menace, et l’industrie du divertissement est venue frapper à la porte.

L'agence artistique WME a signé un partenariat avec Loti, une société basée à Seattle spécialisée dans les logiciels utilisés pour signaler les contenus non autorisés publiés sur Internet comportant des portraits de clients. L’entreprise, qui compte 25 salariés, envoie alors rapidement des demandes aux plateformes en ligne pour faire supprimer les photos et vidéos contrefaites.

Les détails financiers de l'échange n'ont pas été divulgués.

L’intelligence artificielle est considérée à la fois comme une amie et une ennemie à Hollywood – un outil susceptible de rendre les processus plus efficaces et d’inspirer de nouvelles innovations, mais elle est également considérée comme une tueuse d’emplois et un autre moyen de voler la propriété intellectuelle.

La nécessité de meilleures protections contre l’IA a joué un rôle central dans les grèves de l’été dernier de la Writers Guild of America et de la guilde d’acteurs SAG-AFTRA. Mardi, l'Artist Rights Alliance, une organisation à but non lucratif, a publié une lettre ouverte aux entreprises technologiques exigeant qu'elles « arrêtent de dévaloriser » leur travail, avec les signatures de 200 musiciens, dont Billie Eilish et Elvis Costello. Alors que les deepfakes se multiplient, les agences espèrent utiliser l’IA pour arrêter les mauvais acteurs en ligne.

« Le pire jeu de whack-a-mole auquel vous allez jouer est de résoudre le problème des deepfakes sans un partenaire technologique pour vous aider », a déclaré Chris Jacquemin, partenaire de WME et responsable de la stratégie numérique.

Le co-fondateur de Loti, Luke Arrigoni, a lancé la startup il y a environ un an et demi. Il dirigeait auparavant une société d'intelligence artificielle appelée Arricor AI et était auparavant data scientist chez Creative Artists Agency, le principal rival de WME.

Arrigoni a déclaré que Loti avait commencé à travailler avec WME il y a environ quatre ou cinq mois. Les clients de WME donnent à Loti quelques photos d'eux-mêmes sous différents angles. Ils enregistrent également de courts clips audio qui sont ensuite utilisés pour aider à identifier le contenu non autorisé. Le logiciel de Loti effectue des recherches sur le Web, signale aux clients ces images non autorisées et envoie des demandes de retrait aux plateformes.

« Il y a de plus en plus le sentiment qu'il s'agit d'un problème impossible », a déclaré Arrigoni. « Il y a presque un adage maintenant où les gens disent : 'Une fois que c'est sur Internet, c'est sur Internet pour toujours.' Toute notre entreprise dissipe ce mythe. »

Arrigoni a refusé de préciser les conditions financières du partenariat ou le nombre de clients de WME qui utilisent la technologie de Loti.

Avant d'utiliser la technologie de Loti, a déclaré Jacquemin, le personnel de son agence devrait lutter contre le problème des deepfakes de manière beaucoup plus ponctuelle. Ils devraient demander aux plateformes Web, telles que YouTube et Facebook, de supprimer les contenus non autorisés en fonction de ce qu'ils ont vu lors de leur navigation ou de ce qu'ils ont entendu par l'intermédiaire de leurs clients, dont les fans signaleraient les contenus falsifiés.

La technologie de Loti offre plus de visibilité sur le problème. Il peut y avoir des circonstances dans lesquelles tous les contenus non autorisés ne seront pas supprimés, selon les souhaits du client. Mais au moins les artistes sauront ce qui se passe.

En 2022, des entreprises telles que Meta et Google étaient déjà confrontées au retrait de milliards de publicités ou de comptes publicitaires qui violaient leurs politiques de tromperie, a déclaré Jacquemin.

Aujourd’hui, de plus en plus de gens à Hollywood s’inquiètent de la manière dont les nouveaux modèles d’IA, dont certains sont en partie formés à partir de données accessibles au public, pourraient potentiellement utiliser des œuvres protégées par le droit d’auteur. Ces technologies pourraient brouiller davantage les frontières entre ce qui est réel et ce qui est faux.

Si un faux contenu préjudiciable devait être conservé trop longtemps, cela pourrait nuire aux opportunités commerciales et aux mentions commerciales d'un client.

« Ils sont si réalistes qu'il serait difficile pour la plupart des gens de faire la différence », a déclaré Arrigoni.

Il s’agit du dernier partenariat que WME et sa société mère Endeavour ont conclu avec une entreprise liée à l’IA. En janvier, WME s'est associé à la startup Vermillio, basée à Chicago, pour protéger les clients contre le vol de propriété intellectuelle, en détectant lorsque le contenu génératif de l'IA utilise l'image ou la voix d'un client.

Endeavour est un investisseur minoritaire dans Speechify, qui fabrique une technologie de synthèse vocale. Le directeur général d'Endeavour, Ari Emanuel, a utilisé l'outil Speechify pour créer une version synthétique de sa voix, qui a prononcé le discours d'ouverture lors d'une conférence téléphonique sur les résultats d'Endeavour l'année dernière.

Jusqu'à présent, Loti est autofinancée, a déclaré Arrigoni. Il a déclaré qu’il avait lui-même investi 1 million de dollars dans l’entreprise. La société est actuellement en train de lever un montant non divulgué pour un tour de table.