OpenAI arrête les vidéos MLK alors que les deepfakes suscitent l'indignation
OpenAI a suspendu son outil d'intelligence artificielle Sora 2 de la création de vidéos de l'icône des droits civiques Martin Luther King Jr. après que sa succession se soit plainte de représentations irrespectueuses.
La succession du leader des droits civiques assassiné et OpenAI ont annoncé la décision dans une déclaration commune jeudi soir, affirmant que la société mettrait sur pause les générations représentant King pendant qu'elle « renforce les garde-fous pour les personnages historiques ».
Cette décision intervient alors que les familles de célébrités et de dirigeants décédés ont exprimé leur indignation face à l'outil vidéo Sora 2 d'OpenAI, qui permet aux utilisateurs de créer des clips réalistes de personnages historiques sans le consentement de la famille.
Certains utilisateurs avaient généré des vidéos montrant King faisant des bruits de singe pendant son discours « J'ai un rêve » et d'autres contenus humiliants, selon le Washington Post.
Des vidéos réanimant d'autres personnages morts, dont Malcolm X, Michael Jackson, Elvis Presley et Amy Winehouse, ont inondé les réseaux sociaux depuis le lancement de Sora 2 le 30 septembre.
« Bien qu'il existe un fort intérêt pour la liberté d'expression dans la représentation de personnages historiques, OpenAI estime que les personnalités publiques et leurs familles devraient en fin de compte avoir le contrôle sur la manière dont leur image est utilisée », indique le communiqué commun.
La société a déclaré que les représentants autorisés ou les propriétaires fonciers peuvent désormais demander que leur image ne soit pas utilisée dans les vidéos générées par l'IA, connues sous le nom de « camées Sora ».
OpenAI a remercié Bernice King, la fille de King qui représente la succession, « pour avoir tendu la main », ainsi que l'homme d'affaires John Hope Bryant et le Conseil d'éthique de l'IA « pour avoir créé un espace pour des conversations comme celle-ci ».
L'outil de conversion texte-vidéo s'est hissé au sommet des classements de téléchargement depuis son lancement, mais a immédiatement suscité une controverse.
Zelda Williams, la fille de l'acteur Robin Williams, a imploré les gens sur Instagram de « cesser de m'envoyer des vidéos IA de papa », qualifiant le contenu d' »exaspérant ».
Ilyasah Shabazz, fille de Malcolm X, a déclaré au Washington Post qu'il était « profondément irrespectueux » de voir l'image de son père utilisée dans des vidéos grossières et insensibles d'IA.
Malcolm X a été assassiné devant Shabazz en 1965 alors qu'elle avait deux ans.
OpenAI avait initialement exempté les « personnages historiques » des exigences de consentement lors du lancement de Sora 2 le mois dernier, permettant à quiconque de créer de fausses vidéos ressuscitant des personnalités publiques.
Sora 2 a déjà suscité l'opposition d'Hollywood, l'industrie créative étant furieuse de la politique de non-participation d'OpenAI en ce qui concerne l'utilisation de ses personnages et contenus protégés par le droit d'auteur dans les vidéos générées.
Disney a envoyé une lettre très claire à OpenAI fin septembre, déclarant qu'il « n'est pas tenu de se retirer de l'inclusion de ses œuvres » pour préserver ses droits d'auteur.
Au milieu de ces réactions, OpenAI a promis qu'il donnerait un « contrôle plus granulaire » aux titulaires de droits.
Après le lancement de l'application Sora 2, l'outil refusait généralement les demandes de vidéos mettant en scène des personnages Disney ou Marvel, ont indiqué certains utilisateurs.
Cependant, des clips montrant des personnages d'autres franchises américaines, ainsi que des personnages japonais de séries de jeux et d'anime populaires, ont été largement partagés.
