Les biais des données alimentent les prévisions climatiques erronées de l’IA, préviennent les chercheurs

Les biais des données alimentent les prévisions climatiques erronées de l’IA, préviennent les chercheurs

Envisager une conception humaine-in-the-loop d’une IA d’action climatique. Les structures sociales et l’intelligence collective fournissent des connaissances épistémiques pour l’IA de l’action climatique. Crédit: npj Action Climat (2023). DOI : 10.1038/s44168-023-00056-3

Les pays en développement risquent de passer à côté d’une action climatique mondiale importante en raison de prévisions météorologiques peu fiables résultant de données biaisées introduites dans les outils d’intelligence artificielle (IA), préviennent les chercheurs.

Selon le document publié le 17 août dans npj Action Climat.

Les programmes informatiques d’IA utilisés en science du climat sont conçus pour parcourir des ensembles de données complexes à la recherche de modèles.

Mais le manque d’informations sur certains lieux, périodes ou groupes sociétaux crée des « trous » dans les données qui peuvent conduire à des prévisions climatiques inexactes et à des conclusions trompeuses, affirment les chercheurs.

L’auteur principal Ramit Debnath, professeur adjoint de sciences sociales informatiques à l’Université de Cambridge, au Royaume-Uni, affirme que ces lacunes en matière de données sont plus prononcées dans les pays du Sud en raison des difficultés d’accès aux ensembles de données pour tous les types de modélisation et d’analyse.

« Le manque de données est difficile à quantifier avec précision, mais la tendance générale est que la plupart des entreprises climatiques dirigées par l’IA sont basées dans le Nord », a déclaré Debnath à SciDev.Net.

Cela signifie qu’il y a « de fortes chances que les modèles soient bien calibrés et construits pour les scénarios mondiaux du Nord, car ils disposent déjà d’une infrastructure de données et de surveillance météorologique appropriée », selon Debnath.

Les biais peuvent être largement classés en programmation biaisée, ensembles de données biaisés et algorithmes biaisés. L’étude indique que la programmation et les algorithmes sont plus faciles à corriger car ils sont mathématiques.

Cependant, les ensembles de données biaisés sont les plus difficiles à résoudre, car les données n’existent pas et il faut beaucoup de capital et d’investissement humain pour les construire à partir de zéro, affirment les chercheurs.

Par exemple, de nombreux cas d’IA générative – une technologie capable de produire du contenu tel que du texte et des images – montrent qu’elle a du mal à traiter des sujets liés aux pays du Sud, en particulier lorsqu’on l’interroge sur les contextes locaux de l’Afrique subsaharienne, de l’Inde ou de tout autre pays non occidental. nations, expliqua Debnath.

« De la même manière, de nombreux rapports suggèrent que les technologies d’IA de la génération actuelle présentent souvent des biais dans les résultats des candidatures en fonction des noms, de la couleur de la peau, etc. », a-t-il ajouté.

« De tels biais, bien qu’ils ne soient pas directement liés à l’action climatique, montrent que le manque d’ensembles de données représentatifs constitue un défi dans l’utilisation des outils d’IA à des fins décisionnelles. »

La conséquence des données climatiques biaisées est qu’elles fourniront des prévisions inexactes des événements météorologiques extrêmes, affirment les chercheurs.

Les pays du Sud les plus pauvres sont déjà plus vulnérables aux impacts du changement climatique. Des prévisions inexactes dues à des biais ou à l’absence d’ensembles de données ralentiront encore davantage les efforts d’atténuation et d’adaptation, ce qui entraînera davantage de dommages induits par le climat sur les biens, le capital humain et social, affirment-ils.

« La conclusion la plus importante de notre étude est que la justice des données peut être la clé de la justice climatique », a déclaré Debnath, qui est également membre de l’initiative Cambridge Zero Climate Change de l’université.

« Notre recommandation est que quiconque construit une IA pour l’action climatique doit être conscient des lacunes dans les données et des biais intégrés, ainsi que des efforts nécessaires pour réduire ces lacunes. »

Solutions d’IA « humain dans la boucle »

Les auteurs suggèrent que les « trous de données » peuvent être comblés par les connaissances humaines en utilisant une conception dite de l’homme dans la boucle pour offrir aux programmes d’IA sur le changement climatique un coup de main pour vérifier la fiabilité et le contexte des données utilisées pour améliorer l’exactitude des prévisions. .

Ils citent comme exemple le modèle de chatbot IA ChatGPT, qui peut poser des questions de suivi aux utilisateurs humains, admettre des erreurs, contester des prémisses incorrectes et rejeter des demandes inappropriées.

Les chercheurs recommandent également de renforcer l’infrastructure de données dans les pays du Sud et d’investir dans des start-ups de données locales comme COCO-Africa, une plateforme conçue pour combler le déficit de données en collectant et en conservant des ensembles de données locaux et contextuels provenant des pays d’Afrique subsaharienne. .

Selon Joab O. Odhiambo, maître de conférences au département de mathématiques de l’Université des sciences et technologies de Meru au Kenya, l’IA est essentielle à la surveillance précise des conditions météorologiques en Afrique, en particulier pour éviter les catastrophes climatiques.

« L’IA peut révolutionner la surveillance météorologique et la gestion des catastrophes en améliorant la précision des prévisions et en permettant une réponse rapide à des événements tels que les sécheresses, les inondations et les vagues de chaleur », a-t-il déclaré à SciDev.Net.

Il souligne cependant que l’aspect pratique d’une surveillance météorologique précise et des interventions ultérieures dépend de divers facteurs, notamment la technologie, les infrastructures, l’éducation, le financement et la gouvernance.

Obed Ogega, climatologue et responsable de programmes à l’Académie africaine des sciences (AAS), affirme que l’utilisation d’outils d’IA dans les projections du changement climatique et les stratégies d’adaptation ou d’atténuation en est encore à son stade de développement.

« Il faudra un certain temps avant que nous puissions avoir une compréhension complète de l’exactitude [or] l’efficacité des outils d’IA dans la science du climat et l’action climatique », a déclaré Ogega à SciDev.Net.

Il a noté qu’en raison des données d’observation plus limitées dans des régions telles que l’Afrique subsaharienne qui peuvent être utilisées pour « former » des outils d’IA, les « trous » évoqués dans l’article sont susceptibles d’y être plus importants et le risque de désinformation plus grand. .

« Comme indiqué dans l’article, il est nécessaire d’adopter une approche « humaine-in-the-loop » dans l’utilisation des outils d’IA – et ce besoin est encore plus important dans les pays en développement où il existe d’importantes lacunes en matière de données », a-t-il déclaré.

Fourni par SciDev.Net