L’IA Chatbot aide les victimes de violences sexuelles numériques en Amérique latine
Deux femmes du Mexique et de l’Équateur qui ont passé des années à se battre pour être reconnue comme victimes de violences sexuelles en ligne ont inspiré un chatbot de l’intelligence artificielle qui aide les autres confrontés à des abus.
Olimpia, qui a été développée au Mexique, fournit des conseils juridiques et un soutien émotionnel via la plate-forme de messagerie WhatsApp en utilisant plusieurs dizaines de langues.
Il est né des expériences il y a plus d’une décennie d’Olimpia Coral et d’Isabella Nuques, tous deux maintenant âgés de 30 ans, avant qu’ils ne se soient rencontrés.
Une vidéo intime de Coral a été partagée sans son consentement en 2013, et lorsqu’elle a tenté de le signaler aux autorités mexicaines, ils l’ont informée qu’il n’y avait pas grand-chose à faire pour aider.
« Ils nous ont dit que rien ne pouvait être fait sur cette violence parce qu’elle était virtuelle, et le virtuel n’était pas réel », a-t-elle déclaré lors du premier sommet latino-américain des défenseurs des femmes numériques, qui s’est tenue récemment au Mexique.
La même année, en Équateur, des photos explicites de Nuques ont été publiées sur les réseaux sociaux.
Elle se sentait non seulement impuissante, mais aussi violée à nouveau lorsque l’officier de police qu’elle a signalé qu’il montrait un intérêt sexuel pour les photos, a déclaré l’expert en communication à l’AFP lors du même événement.
Avances juridiques
Les deux femmes ont commencé à lutter contre les abus sexuels numériques pour être reconnus comme un crime dans leur pays, tous deux avec succès.
En 2018, une réforme a été adoptée pour punir la violence numérique dans l’État d’origine de Puebla de Coral dans le centre du Mexique.
Une loi nommée d’après elle est entrée en vigueur en 2021 à travers le Mexique – où environ 10 femmes sont assassinées tous les jours en moyenne – en détendant des délinquants à risque de six ans de prison.
La même année, Nuques a célébré l’approbation de l’Assemblée nationale de l’Équateur d’une loi sur la violence numérique qui accorde des peines pouvant aller jusqu’à 16 ans de prison.
L’Argentine, le Chili et le Panama ont adopté une législation similaire à celle du Mexique, tandis que une demi-douzaine de pays d’Amérique latine évoluent dans la même direction.
Selon les Nations Unies, 38% des femmes du monde entier ont subi une violence numérique, bien que le nombre réel puisse être plus élevé.
En 2013, Coral a fondé un groupe de militants qui ont commencé à fournir des conseils aux victimes.
La société technologique Aurachat.ai s’est ensuite intéressée à son projet, et en septembre dernier, ils ont lancé Olimpia, passant leur capacité de 100 à plus de 1 300 consultations par mois.
Depuis lors, la plate-forme a traité plus de 8 000 cas, la plupart au Mexique, mais aussi en Espagne, en Colombie, au Honduras, en Équateur, au Panama, au Guatemala et au Pérou, adaptant les conseils à chaque pays, a déclaré Fernanda Medellin, co-fondateur du Chatbot.
L’initiative Ley Olimpia AI a été reconnue comme l’un des 50 projets les plus innovants du Sommet d’action de l’intelligence artificielle à Paris en février.
Focus spécialisé
Contrairement à d’autres chatbots d’IA comme Chatgpt qui recueillent des informations sur d’innombrables sujets, Olimpia se concentre sur la question de la violence sexuelle numérique.
Les psychologues, les avocats et autres experts ont collaboré pendant des mois pour la former avec une contribution spécifique et une langue qui imite une voix humaine aimable.
« Certains modèles (utilisés par Olimpia) agissent comme des avocats, d’autres comme défenseurs numériques ou en tant que psychologues. D’autres agissent comme des filtres de sécurité qui détectent les risques pour la victime ou comme des radars émotionnels qui analysent le texte et l’audio pour comprendre leur état émotionnel », a déclaré Enrique Partida, co-fondateur et PDG d’Aurachat.ai.
Un psychologue a aidé le chatbot à offrir des moyens de faire face aux crises d’anxiété ou aux crises de panique – les symptômes communs des victimes.
Bien que la plupart de ses utilisateurs soient des femmes, il peut également être utilisé par les hommes.
Des projets similaires ont été développés dans des pays comme l’Afrique du Sud, où le chatbot Zuzi fournit un soutien en cas d’abus physiques ou sexuels avec des fonctionnalités comprenant un bouton d’urgence et un stockage de preuves.
Les développeurs d’Olimpia souhaitent que la prochaine version soit accessible même sans connexion Internet, il est donc accessible via des appels téléphoniques dans des régions distantes.
Il est également prévu d’intégrer la langue des signes et les langues autochtones à l’avenir, a déclaré Edith Contla, directrice de la stratégie chez Aurachat.ai.
On espère également que la plate-forme servira de lien pour les utilisateurs avec la police et d’autres fonctionnaires, réduisant le risque qu’ils soient à nouveau maltraités.
