Une fausse vidéo de Bollywood met en lumière les inquiétudes liées à l’IA en Inde
Une fausse vidéo d’un acteur de Bollywood prétendant la montrer portant un haut décolleté a déclenché des appels en faveur d’une réglementation de l’IA en Inde, où de fausses publications sur les réseaux sociaux ont attisé les divisions sectaires.
Rashmika Mandanna a déclaré à ses 4,7 millions d’abonnés sur X, anciennement Twitter, qu’elle avait été « vraiment blessée » après qu’une vidéo manipulée montrant son visage sur le corps d’une autre femme ait été largement diffusée sur les réseaux sociaux, suscitant l’indignation du gouvernement et de ses collègues stars de Bollywood.
« Nous devons résoudre ce problème en tant que communauté et de toute urgence avant que davantage d’entre nous ne soient touchés par de tels vols d’identité », a écrit Mandanna, qualifiant d' »extrêmement effrayant » la vulnérabilité de tous face à une utilisation abusive de la technologie.
Les médias sociaux sont extrêmement populaires en Inde, la plus grande démocratie du monde, mais les publications incendiaires colportant des mensonges ont attisé les divisions politiques et ont été accusées d’inciter à des émeutes religieuses meurtrières.
En 2018, une éminente journaliste et critique du Premier ministre Narendra Modi a été harcelée lorsque des vidéos montées de son visage posé sur des femmes nues ont été largement diffusées.
Comme dans une grande partie du monde, l’intelligence artificielle n’est pas réglementée en Inde et le gouvernement a mis la responsabilité de bloquer la désinformation en ligne sur les plateformes de médias sociaux.
Des vidéos mises en scène colportant de la désinformation et attisant les tensions sectaires sont visionnées des millions de fois en Inde, où la radicalisation hindoue est en hausse sous le gouvernement de Modi.
Rajeev Chandrasekhar, le ministre indien des technologies de l’information, a écrit lundi sur X que ces fausses vidéos constituaient des formes de désinformation « dangereuses et préjudiciables », mais a averti qu’elles devaient « être traitées par les plateformes ».
La superstar de Bollywood, Amitabh Bachchan, a qualifié cela de « solides arguments » en faveur d’une action.
Mandanna a ajouté qu’elle était reconnaissante envers « ma famille, mes amis et mes sympathisants qui sont mon système de protection et de soutien ».
« Mais si cela m’est arrivé quand j’étais à l’école ou à l’université, je ne peux vraiment pas imaginer comment pourrais-je un jour résoudre ce problème. »
Les vidéos contenant des images manipulées ont proliféré en ligne dans le monde entier, nuisant à la réputation.
Selon une étude réalisée en 2019 par la société néerlandaise d’IA Sensity, environ 96 % des vidéos deep fake en ligne sont de la pornographie non consensuelle, et la plupart d’entre elles représentent des femmes.
L’influenceuse anglo-indienne d’Instagram Zara Patel, dont le corps figurait dans la fausse vidéo avec le visage de Mandanna, a déclaré qu’elle n’était pas impliquée dans sa création et qu’elle en était également « profondément perturbée et bouleversée ».
« Je m’inquiète pour l’avenir des femmes et des filles qui doivent désormais avoir encore plus peur de s’afficher sur les réseaux sociaux », a déclaré Patel dans un message adressé à ses 450 000 fans.
