Google suspend la capacité du chatbot Gemini AI à générer des photos de personnes
Google a annoncé jeudi qu’il arrêtait temporairement son chatbot d’intelligence artificielle Gemini de générer des images de personnes un jour après s’être excusé pour les « inexactitudes » dans les représentations historiques qu’il créait.
Les utilisateurs de Gemini ont publié cette semaine des captures d’écran sur les réseaux sociaux de scènes historiquement dominées par les blancs avec des personnages racialement divers qu’ils prétendent avoir générés, amenant les critiques à se demander si l’entreprise corrige trop le risque de préjugés raciaux dans son modèle d’IA.
« Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini », a déclaré Google dans un message sur la plateforme de médias sociaux X. « Pendant que nous faisons cela, nous allons suspendre la génération d’images de personnes et allons à nouveau publiera bientôt une version améliorée. »
Des études antérieures ont montré que les générateurs d’images d’IA peuvent amplifier les stéréotypes raciaux et de genre trouvés dans leurs données d’entraînement, et sans filtres, ils sont plus susceptibles de montrer des hommes à la peau plus claire lorsqu’on leur demande de générer une personne dans divers contextes.
Google a déclaré mercredi qu’il était « conscient du fait que Gemini présente des inexactitudes dans certaines représentations de génération d’images historiques » et qu’il « travaillait à améliorer immédiatement ce type de représentations ».
Gemini peut générer un « large éventail de personnes », ce qui, selon la société, est « généralement une bonne chose » car des personnes du monde entier utilisent le système, mais il « manque la cible ».
Sourojit Ghosh, chercheur à l’Université de Washington, qui a étudié les préjugés dans les générateurs d’images de l’IA, s’est déclaré favorable à ce que Google suspende la génération des visages des gens, mais il est « un peu en conflit sur la façon dont nous sommes arrivés à ce résultat ». Contrairement aux affirmations de ce qu’on appelle « l’effacement des blancs » et à l’hypothèse selon laquelle Gemini refuse de générer des visages de personnes blanches – idées qui circulent sur les réseaux sociaux cette semaine – les recherches de Ghosh ont largement révélé le contraire.
« La rapidité de cette réponse, face à de nombreux autres ouvrages et à de nombreuses autres recherches qui ont montré que des personnes traditionnellement marginalisées étaient effacées par des modèles comme celui-ci, je trouve un peu difficile à comprendre », a-t-il déclaré.
Lorsque l’AP a demandé à Gemini de générer des photos de personnes, ou même simplement d’une grande foule, l’entreprise a répondu en disant qu’elle « travaillait à améliorer » la capacité de le faire. « Nous prévoyons que cette fonctionnalité reviendra bientôt et nous vous informerons dans les mises à jour lorsqu’elle le fera », a déclaré le chatbot.
Ghosh a déclaré qu’il était probable que Google puisse trouver un moyen de filtrer les réponses pour refléter le contexte historique de l’invite d’un utilisateur, mais résoudre les dommages plus larges posés par les générateurs d’images construits sur des générations de photos et d’œuvres d’art trouvées sur Internet nécessite plus qu’un correctif technique. .
« Vous n’allez pas créer du jour au lendemain un générateur de texte en image qui ne nuise pas à la représentation », a-t-il déclaré. « Ils sont le reflet de la société dans laquelle nous vivons. »
