Une nouvelle recherche révèle l’impact de l’IA et de la cybersécurité sur les femmes, la paix et la sécurité en Asie du Sud-Est

Des problèmes systémiques peuvent mettre en danger la sécurité des femmes lorsque l’intelligence artificielle (IA) est adoptée, et les préjugés sexistes dans les systèmes d’IA largement utilisés constituent un obstacle important à l’utilisation positive de l’IA dans le contexte de la paix et de la sécurité en Asie du Sud-Est.

De plus, les femmes défenseures des droits humains (FDDH) et les organisations de femmes de la société civile (WCSO) de la région courent un risque élevé d'être confrontées à des cybermenaces et, bien que largement conscientes de ces risques, ne sont pas nécessairement en mesure de se préparer ou de s'en remettre activement. cyber-attaques.

Telles sont parmi les principales conclusions d'une recherche publiée aujourd'hui par ONU Femmes et l'Institut de l'Université des Nations Unies à Macao (UNU Macao) examinant les liens entre l'IA, la sécurité numérique et l'agenda femmes, paix et sécurité (FPS) en Asie du Sud-Est.

La recherche a été rendue possible grâce au soutien du gouvernement australien, dans le cadre du programme de coopération en matière de cybersécurité et de technologies critiques (CCTCP) du ministère des Affaires étrangères et du Commerce (DFAT), et du gouvernement de la République de Corée à travers l'initiative d'ONU Femmes. Femmes, paix et cybersécurité : promouvoir les femmes, la paix et la sécurité dans le monde numérique.

Alors que l’IA devrait ajouter 1 000 milliards de dollars au produit intérieur brut des pays d’Asie du Sud-Est d’ici 2030, il est essentiel de comprendre l’impact de ces technologies sur l’agenda FPS pour aider ces pays à réglementer ces technologies et à atténuer leurs risques.

Le rapport « L'intelligence artificielle et le programme pour les femmes, la paix et la sécurité en Asie du Sud-Est » examine les opportunités et les risques de l'IA sous cet angle unique en se concentrant sur quatre types de préjugés sexistes dans l'IA : la discrimination, les stéréotypes, l'exclusion et l'insécurité. – qui doivent être résolus avant que la région puisse bénéficier pleinement des nouveaux développements technologiques.

Cette recherche examine la relation entre l’IA et les WPS selon trois types d’IA et leurs applications : l’IA pour la paix, l’IA neutre et l’IA pour les conflits.

Ce rapport note que dans ces catégories, il existe des effets favorables et défavorables de l'IA pour une paix sensible au genre et pour l'action des femmes dans les efforts de paix.

Bien que l’utilisation de l’IA à des fins de paix puisse présenter de multiples avantages, tels que l’amélioration de l’inclusivité et de l’efficacité de la prévention des conflits et le suivi des preuves de violations des droits humains, elle est utilisée de manière inégale entre les sexes, et les préjugés sexistes omniprésents rendent les femmes moins susceptibles de bénéficier de l’application de l’IA. ces technologies.

Le rapport met également en avant les risques liés à l’utilisation de ces technologies à des fins militaires.

Cette recherche identifie deux dimensions pour améliorer la dynamique de l'IA et du programme FPS dans la région : atténuer les risques des systèmes d'IA pour faire avancer le programme FPS, en particulier sur les médias sociaux, mais aussi sur d'autres outils, tels que les chatbots et les applications mobiles ; et favoriser le développement d’outils d’IA conçus explicitement pour soutenir une paix sensible au genre, conformément aux engagements FPS.

Le deuxième rapport, « Menaces, vulnérabilités et résilience en matière de cybersécurité parmi les femmes défenseurs des droits humains et la société civile en Asie du Sud-Est », explore les risques et vulnérabilités en matière de cybersécurité dans ce contexte dans le but de promouvoir la cyber-résilience et les droits humains et numériques des femmes. dans toute leur diversité.

Alors que l’on prend de plus en plus conscience des risques auxquels les femmes et les filles sont confrontées dans le cyberespace, on comprend peu les impacts du genre sur la cybersécurité, ou les processus et pratiques utilisés pour protéger les systèmes et réseaux numériques contre les cyber-risques et leurs méfaits.

Ce travail diffère des recherches précédentes sur la cybersécurité car il se concentre sur la cybersécurité centrée sur l’humain par rapport à la cybersécurité technocentrée et met l’accent sur les facteurs humains plutôt que sur les compétences techniques ainsi que sur la centralisation du genre comme élément essentiel à la cybersécurité.

En outre, les cybermenaces sont considérées comme étant de nature sexiste, les WCSO et les FDDH étant spécifiquement ciblées en raison de l'orientation de leur travail et susceptibles d'être attaquées par un harcèlement misogyne et sexualisé.

Les résultats soulignent que les technologies numériques sont au cœur du travail des WCSO et des FDDH, tout en notant que les WCSO avaient des perceptions et des expériences de menace plus élevées que les OSC qui ne travaillent pas sur le genre et les droits des femmes, comportant des risques disproportionnés de perturber leur travail, préjudiciables. leur réputation, voire même de créer des préjudices ou des blessures, ce qui contribue à marginaliser la voix des femmes.

Les plus grandes différences dans les menaces subies entre les groupes concernaient le harcèlement en ligne, le trolling (provoquer délibérément d'autres personnes en ligne pour susciter des réactions) et le doxxing (lorsque des informations privées ou identifiantes sont diffusées sur quelqu'un en ligne sans sa permission).

Les recommandations de ce rapport incluent la promotion d'approches inclusives et collaboratives dans l'élaboration et l'engagement des politiques de cybersécurité, et le renforcement des connaissances de la société civile, du gouvernement, des acteurs du secteur privé et d'autres décideurs afin de développer des moyens appropriés de prévention et de réponse aux cyberattaques et à leurs impacts disproportionnés sur les WCSO. et les FDDH.

Une attention particulière doit être accordée aux individus et aux organisations à risque, tels que les groupes de femmes opérant dans des contextes politiquement instables, touchés par des conflits et des crises, et dans des situations où l'espace civique se rétrécit.

Le lancement a eu lieu lors d'une conférence des jeunes d'ONU Femmes, Gen-Forum 2024 : Jeunes leaders pour les femmes, la paix et la sécurité en Asie et dans le Pacifique, qui a débuté aujourd'hui à Bangkok, en Thaïlande.

L'UNU Macao et ONU Femmes visent à ce que cette recherche, menée sur 12 mois, contribue au discours mondial sur l'éthique et les normes entourant l'IA et la gouvernance numérique en général.

Ensuite, du matériel de formation basé sur les résultats de la recherche et des consultations avec les défenseurs des droits des femmes dans la région sera déployé, initialement en Thaïlande et au Vietnam, avec des modules d'apprentissage en ligne et des manuels de formation qui seront accessibles au public en anglais, thaï et vietnamien pour les parties prenantes intéressées. à partir de mi-2024.