Les dirigeants politiques néo-zélandais ignorent les menaces croissantes de l’IA, ce qui met tout le monde en danger.

Alors que la campagne électorale de 2023 entre dans ses derniers jours, il y a un éléphant dans la pièce que les politiciens semblent vouloir ignorer : l’essor de l’intelligence artificielle (IA) et ce qu’elle signifiera pour l’économie, la politique et la société néo-zélandaises.

Les développements de l’année dernière, tels que ChatGPT et Midjourney, inquiètent les experts en IA quant aux conséquences plus profondes de ces outils numériques.

Et ils ne sont pas seuls. La société mondiale d’études de marché Ipsos a découvert que 63 % des Néo-Zélandais étaient nerveux à l’égard de l’IA, même si seulement 35 % comprennent où elle est utilisée.

En tant que société, nous comptons sur le gouvernement pour prendre les devants sur des questions importantes comme celle-ci. Mais les candidats aux élections cette année ont à peine évoqué le sujet. Ce silence relatif devrait inquiéter tout le monde.

L’avenir de l’IA se rapproche

Lors d’un récent débat électoral, on a demandé aux dirigeants des deux principaux partis politiques si l’IA constituait une menace pour l’humanité. Chris Hipkins du Labour a déclaré « potentiellement », tandis que Christopher Luxon du National a déclaré « qu’il y a de bons et de mauvais éléments ».

Les dirigeants ont également été interrogés sur une éventuelle taxe sur l’IA pour soutenir les travailleurs qui finiront par perdre leur emploi à cause de ce type de technologie. Hipkins a déclaré qu’il « ne savait pas comment faire cela », et Luxon a déclaré qu’il pensait « nous en sommes loin ».

Mais nous ne le sommes pas.

En mai 2023, 4 000 emplois ont été perdus à cause de l’IA rien qu’aux États-Unis. Le cabinet mondial de conseil aux entreprises McKinsey a déclaré que 12 millions de travailleurs américains devront changer d’emploi d’ici 2030 en raison de l’IA générative, une intelligence artificielle capable de générer du texte, des images et d’autres médias.

Mais l’IA aura des implications sociétales plus larges que son impact sur l’emploi. Au cours des deux dernières décennies, les médias sociaux ont contribué à la montée de la désinformation et de la polarisation politique. De nouveaux robots IA plus humains – des logiciels programmés pour effectuer automatiquement des tâches répétitives – rendront ces menaces encore plus omniprésentes et plus difficiles à combattre.

L’utilisation de l’IA dans les domaines de la santé, du gouvernement, de l’emploi et dans d’autres contextes est susceptible de renforcer les préjugés existants, conduisant à des résultats inéquitables.

Cela est particulièrement vrai à Aotearoa, où les modèles d’IA formés sur des données occidentalisées ignorent le tikanga maori et la souveraineté des données. L’IA met également en danger les langues minoritaires en utilisant par défaut l’anglais.

La Nouvelle-Zélande est à la traîne

Le gouvernement néo-zélandais s’est montré enthousiaste à l’idée d’utiliser l’IA dans l’ensemble du service public, qu’il s’agisse de la planification optimale des lits d’hôpitaux publics ou de l’aide à décider si un délinquant doit être libéré de prison. Mais les législateurs locaux sont à la traîne du reste du monde en matière de réglementation de la technologie.

La loi de l’Union européenne sur l’IA devrait être adoptée d’ici la fin de 2023. Cette législation est complexe, mais elle classera essentiellement les outils d’IA en différentes catégories de risque (des utilisations interdites à l’absence de risque), avec des exigences législatives correspondantes pour déploiement et suivi.

Les lois de l’Union sur la confidentialité des données peuvent également accorder aux citoyens le « droit à une explication » sur les décisions prises par les systèmes d’IA.

Le Canada a annoncé un code de conduite volontaire comprenant six principes fondamentaux que les organisations doivent suivre lors du développement de systèmes d’IA générative sûrs et responsables.

Même aux États-Unis, considérés comme le centre de l’innovation en matière d’IA, certains États adoptent des lois pour lutter contre les menaces perçues de l’IA. Au niveau fédéral, le pouvoir judiciaire du Sénat a tenu des audiences sur la réglementation de l’IA.

Il peut y avoir de (petits) signes de progrès à la maison. En juillet, le bureau du conseiller scientifique en chef du Premier ministre a publié un article sur la réponse actuelle de la Nouvelle-Zélande à l’IA et les défis liés à la réglementation.

Le manifeste électoral récemment publié par le parti travailliste mentionne l’IA à deux reprises dans ses 74 pages, avec la promesse d’une « transition juste » pour les travailleurs touchés par l’IA. Mais le manifeste ne décrit pas à quoi ressemblerait cette transition.

Le document politique de National « Stimuler le secteur technologique » indique qu’un nouveau « ministre de la technologie » veillera à ce que l’IA soit utilisée « de manière sûre et éthique » – sans détailler ce que cela signifie ni comment cela sera appliqué.

La politique numérique du Parti Vert fournit des principes généraux pour réglementer la technologie numérique, tels que la responsabilité sociale (réduire les inégalités) et honorer Te Tiriti. Cependant, là encore, la politique ne traite pas spécifiquement de l’IA.

Les autres parties ne semblent pas avoir de politiques technologiques facilement accessibles sur leurs sites Web.

Les dirigeants doivent aller plus loin en matière d’IA

De toute évidence, il y a du chemin à parcourir en matière d’élaboration de politiques. La Nouvelle-Zélande a besoin de lois plus strictes sur la confidentialité des données, reconnaissant que les données sont un taonga (trésor) et exigeant un consentement éclairé pour leur utilisation dans la formation et le traitement de l’IA.

Des services de police spécialisés et dotés de ressources suffisantes, capables d’enquêter sur l’utilisation de deepfakes à des fins d’usurpation d’identité et de vengeance pornographique, sont également nécessaires.

Et il doit y avoir une réglementation sur ce qui peut et ne peut pas être automatisé avec l’IA. Par exemple, le gouvernement devrait-il automatiser les décisions d’éligibilité aux prestations ou le système judiciaire devrait-il utiliser l’IA pour prononcer des peines légères ?

Économiquement, comment conserver les bénéfices des applications d’IA utilisant des données locales en Nouvelle-Zélande ? En l’absence d’une stratégie claire et locale en matière d’IA, Aotearoa manquera l’opportunité de promouvoir une IA qui profite à tous.

Sans une réglementation gouvernementale active, les Néo-Zélandais et leur système politique pourraient être vulnérables à la manipulation par des intérêts étrangers malveillants.

Le pays doit investir dans sa main-d’œuvre pour répondre aux changements provoqués par l’IA et adopter la recherche sur l’IA menée par les Maoris qui fait de la Nouvelle-Zélande un créateur de technologies qui fonctionnent pour sa population, et non contre elle.