Les chimistes du monde réel sont plus diversifiés que ne le suggèrent les images génératives de l’IA

Demander aux enfants « À quoi ressemble un scientifique ? » donne désormais lieu à plus d’illustrations de femmes et de personnes de couleur qu’il y a plusieurs décennies. Mais les outils d’intelligence artificielle (IA) générative reflètent-ils également la diversité parmi les scientifiques ? Les chercheurs rapportant dans le Journal d'éducation chimique a incité des générateurs d’images IA pour des portraits de chimistes. Ils ont constaté qu’aucune des collections ne représente avec précision la diversité de genre, de race ou de handicap parmi les vrais chimistes d’aujourd’hui.

Des millions d’images sont créées chaque jour par l’IA générative. Et la qualité du résultat de ces outils dépend de leurs algorithmes et des images initiales utilisées pour entraîner les grands modèles de langage. Récemment, des chercheurs ont découvert que les générateurs d'images IA peuvent produire un contenu qui n'est pas représentatif de la réalité, au-delà de proportions corporelles qui sont loin d'être possibles.

Par exemple, lorsqu’une équipe a utilisé des outils d’IA générative pour produire des images de personnes exerçant diverses professions, certains ont perpétué des stéréotypes sexuels et raciaux plutôt que de reproduire les données démographiques réelles de ces travailleurs. Ainsi, une équipe dirigée par Valeria Stepanova, comprenant Meagan Kaufenberg-Lashua, Joseph West et Jaime Kelly, a voulu voir dans quelle mesure les portraits de chimistes générés par l’IA représentaient les tendances démographiques actuelles.

Les chercheurs ont utilisé quatre générateurs d’images IA pour créer des photographies modernes de style portrait de chimistes travaillant dans l’industrie ou dans des professions universitaires. Ensuite, avec l’aide d’étudiants de premier cycle, l’équipe a évalué du mieux possible la répartition par sexe et par race au sein de la collection de 200 images.

L’ensemble de la collection d’IA présentait un ratio hommes-femmes similaire à celui de l’enquête démographique 2021 de la National Science Foundation (NSF) des États-Unis. Les chercheurs ont également découvert que la plupart des images générées étaient celles de personnes apparemment blanches, ce qui, selon eux, est représentatif du domaine chimique américain.

Mais les résultats produits par les différents modèles d’IA variaient considérablement. Un outil a généré plus de femmes que ce que les données NSF prétendent représentatives, et un autre a créé uniquement des images d’hommes. De plus, deux modèles ne produisaient presque aucune personne de couleur, alors qu’un modèle générait principalement des images de personnes de couleur. À la surprise des chercheurs, aucun des modèles n'a produit d'images de chimistes présentant un handicap visible.

Dans l’ensemble, les chercheurs affirment que cette démonstration illustre comment différentes IA génératrices d’images peuvent amplifier des informations incorrectes sur la diversité parmi les chimistes. Ils concluent leur étude en se demandant : « Les humains vont-ils contrôler les connaissances générées par l’IA, ou l’IA influencera-t-elle les connaissances des générations de personnes à venir ? »