Les images historiques réalisées avec l’IA recyclent les stéréotypes et les préjugés coloniaux : nouvelle recherche

L'IA générative a révolutionné la façon dont nous créons et consommons des images. Des outils tels que Midjourney, DALL-E et Sora peuvent désormais évoquer n'importe quoi, des photos réalistes aux peintures à l'huile, le tout à partir d'une courte invite de texte.

Ces images circulent sur les réseaux sociaux de manière à rendre difficile la détection de leurs origines artificielles. Mais la facilité de production et de partage d’images d’IA comporte également de sérieux risques sociaux.

Des études montrent qu’en s’appuyant sur des données de formation extraites d’en ligne et d’autres sources numériques, les modèles d’IA générative reflètent systématiquement les stéréotypes sexistes et racistes – décrivant les pilotes comme des hommes, par exemple, ou les criminels comme des personnes de couleur.

Ma nouvelle recherche, qui sera bientôt publiée, révèle que l’IA générative comporte également un préjugé colonial.

Lorsqu'on lui demande de visualiser le passé d'Aotearoa en Nouvelle-Zélande, Sora privilégie le point de vue des colons européens : les paysages précoloniaux sont représentés comme des étendues sauvages, le capitaine Cook apparaît comme un civilisateur calme et les Maoris sont présentés comme des figures périphériques et intemporelles.

À mesure que les outils d’IA générative influencent de plus en plus notre façon de communiquer, ces représentations sont importantes. Ils naturalisent les mythes de la colonisation bienveillante et sapent les revendications maories de souveraineté politique, de réparation et de revitalisation culturelle.

« Sora, à quoi ressemblait le passé ?

Pour explorer la manière dont l'IA imagine le passé, Sora, le modèle texte-image d'OpenAI, a été invité à créer des scènes visuelles de l'histoire d'Aotearoa en Nouvelle-Zélande, des années 1700 aux années 1860.

Les invites ont été délibérément laissées ouvertes – une approche courante dans la recherche critique sur l’IA – afin de révéler les hypothèses visuelles par défaut du modèle plutôt que de prescrire ce qui devrait apparaître.

Étant donné que les systèmes d'IA générative fonctionnent sur des probabilités, prédisant la combinaison la plus probable d'éléments visuels en fonction de leurs données d'entraînement, les résultats étaient remarquablement cohérents : les mêmes invites produisaient des images presque identiques, encore et encore.

Deux exemples aident à illustrer les types de modèles visuels qui revenaient sans cesse.

Dans la vision de Sora de « La Nouvelle-Zélande dans les années 1700, » une vallée boisée escarpée est baignée de lumière dorée, avec des figures maories disposées comme détails ornementaux. Il n’y a pas de plantations alimentaires ni de fortifications pā, seulement des étendues sauvages attendant la découverte des Européens.

Cette esthétique s'inspire directement de la tradition paysagère romantique de la peinture coloniale du XIXe siècle, comme le travail de John Gully, qui présentait la terre comme vierge et non réclamée (appelée terra nullius) pour justifier la colonisation.

Lorsqu'on lui demande de représenter « un Maori dans les années 1860, » Sora utilise par défaut un portrait de studio aux tons sépia : un homme digne vêtu d'une cape, posé sur un fond neutre.

La ressemblance avec les photographies de cartes de visite de la fin du XIXe siècle est frappante. De tels portraits étaient généralement réalisés par des photographes européens, qui fournissaient des accessoires pour produire une image du « authentique natif. »

Il est révélateur que Sora opte instinctivement pour ce format, même si les années 1860 ont été définies par la résistance armée et politique des communautés maories, alors que les forces coloniales cherchaient à imposer l'autorité britannique et à confisquer les terres.

Recyclage des anciennes sources

L’imagerie visuelle a toujours joué un rôle central dans la légitimation de la colonisation. Toutefois, au cours des dernières décennies, ce régime visuel colonial a été progressivement remis en question.

Dans le cadre du mouvement pour les droits des Maoris et d'un bilan historique plus large, des statues ont été supprimées, des expositions de musée révisées et les représentations des Maoris dans les médias visuels ont changé.

Pourtant, les vieilles images n’ont pas disparu. Il survit dans les archives numériques et les collections de musées en ligne, souvent décontextualisé et dépourvu d’interprétation critique.

Et même si les sources précises des données d’entraînement à l’IA générative sont inconnues, il est fort probable que ces archives et collections fassent partie des enseignements tirés par des systèmes tels que Sora.

Les outils d’IA générative recyclent efficacement ces sources, reproduisant ainsi les mêmes conventions qui servaient autrefois au projet d’empire.

Mais les images qui présentent la colonisation comme pacifique et consensuelle peuvent atténuer l’urgence perçue des revendications maories de souveraineté politique et de réparation par le biais d’institutions telles que le Tribunal de Waitangi, ainsi que les appels à la revitalisation culturelle.

En présentant les Maoris du passé comme des figures passives et intemporelles, ces visions générées par l'IA obscurcissent la continuité du mouvement d'autodétermination maori pour tino rangatiratanga et mana motuhake.

La maîtrise de l’IA est la clé

Partout dans le monde, les chercheurs et les communautés s’efforcent de décoloniser l’IA, en élaborant des cadres éthiques qui intègrent la souveraineté des données autochtones et le consentement collectif.

Pourtant, l’IA générative visuelle présente des défis particuliers, car elle traite non seulement des données mais aussi des images qui façonnent la façon dont les gens perçoivent l’histoire et l’identité. Les correctifs techniques peuvent aider, mais ils ont chacun leurs limites.

Étendre les ensembles de données pour inclure des archives ou des images de résistance organisées par les Maoris pourrait diversifier ce que le modèle apprend, mais seulement si cela est fait selon les principes des données autochtones et de la souveraineté visuelle.

S’attaquer aux biais des algorithmes pourrait, en théorie, équilibrer ce que Sora montre lorsqu’il est interrogé sur le régime colonial. Mais définir « équitable » la représentation est une question politique et pas seulement technique.

Les filtres peuvent bloquer les résultats les plus biaisés, mais ils peuvent également effacer des vérités inconfortables, telles que les représentations de la violence coloniale.

La solution la plus prometteuse réside peut-être dans la maîtrise de l’IA. Nous devons comprendre comment ces systèmes pensent, de quelles données ils s'appuient et comment les inciter efficacement.

Approchée de manière critique et créative – comme le font déjà certains utilisateurs des médias sociaux – l’IA peut aller au-delà du recyclage des tropes coloniaux pour devenir un moyen de revoir le passé à travers des perspectives autochtones et autres.