L’impact climatique de l’IA générative

Vijay Gadepally, cadre supérieur du MIT Lincoln Laboratory, dirige un certain nombre de projets au Lincoln Laboratory Supercomputing Center (LLSC) visant à rendre les plates-formes informatiques et les systèmes d’intelligence artificielle qui les exécutent plus efficaces.

Gadepally discute ici de l’utilisation croissante de l’IA générative dans les outils quotidiens, de son impact environnemental caché et de certaines des façons dont le laboratoire Lincoln et la communauté de l’IA dans son ensemble peuvent réduire les émissions pour un avenir plus vert.

Quelles tendances observez-vous en termes d’utilisation de l’IA générative en informatique ?

L’IA générative utilise l’apprentissage automatique (ML) pour créer de nouveaux contenus, comme des images et du texte, basés sur les données saisies dans le système ML. À la LLSC, nous concevons et construisons certaines des plus grandes plates-formes informatiques universitaires au monde et, au cours des dernières années, nous avons assisté à une explosion du nombre de projets nécessitant un accès au calcul haute performance pour l’IA générative.

Nous constatons également à quel point l’IA générative change toutes sortes de domaines. Par exemple, ChatGPT influence déjà la salle de classe et le lieu de travail plus rapidement que les réglementations ne semblent pouvoir suivre.

Nous pouvons imaginer toutes sortes d’utilisations de l’IA générative au cours de la prochaine décennie, comme alimenter des assistants virtuels hautement performants, développer de nouveaux médicaments et matériaux, et même améliorer notre compréhension de la science fondamentale. Nous ne pouvons pas prédire à quoi servira l’IA générative, mais je peux certainement affirmer qu’avec des algorithmes de plus en plus complexes, leur impact sur le calcul, l’énergie et le climat continuera de croître très rapidement.

Quelles stratégies la SLLC utilise-t-elle pour atténuer cet impact climatique ?

Nous sommes toujours à la recherche de moyens de rendre l’informatique plus efficace, car cela aide notre centre de données à tirer le meilleur parti de ses ressources et permet à nos collègues scientifiques de faire progresser leurs domaines de la manière la plus efficace possible.

À titre d’exemple, nous avons réduit la quantité d’énergie consommée par notre matériel en apportant des modifications simples, comme baisser ou éteindre les lumières lorsque vous quittez une pièce. Dans une expérience, nous avons réduit la consommation d’énergie d’un groupe d’unités de traitement graphique de 20 à 30 %, avec un impact minimal sur leurs performances, en imposant un plafond de puissance. Cette technique a également réduit les températures de fonctionnement du matériel, rendant les GPU plus faciles à refroidir et plus durables.

Une autre stratégie consiste à modifier notre comportement pour être plus conscients du climat. À la maison, certains d’entre nous pourraient choisir d’utiliser des sources d’énergie renouvelables ou une planification intelligente. Nous utilisons des techniques similaires au LLSC, comme la formation de modèles d’IA lorsque les températures sont plus fraîches ou lorsque la demande énergétique du réseau local est faible.

Nous avons également réalisé qu’une grande partie de l’énergie dépensée en informatique est souvent gaspillée, comme par exemple une fuite d’eau qui augmente votre facture, mais sans aucun bénéfice pour votre maison. Nous avons développé de nouvelles techniques qui nous permettent de surveiller les charges de travail informatiques pendant leur exécution, puis de mettre fin à celles qui sont peu susceptibles de donner de bons résultats. Étonnamment, dans un certain nombre de cas, nous avons constaté que la majorité des calculs pouvaient être interrompus prématurément sans compromettre le résultat final.

Quel est un exemple de projet que vous avez réalisé et qui réduit la production d’énergie d’un programme d’IA générative ?

Nous avons récemment construit un outil de vision par ordinateur sensible au climat. La vision par ordinateur est un domaine axé sur l’application de l’IA aux images ; ainsi, faire la différence entre les chats et les chiens dans une image, étiqueter correctement les objets dans une image ou rechercher des composants d’intérêt dans une image.

Dans notre outil, nous avons inclus la télémétrie du carbone en temps réel, qui produit des informations sur la quantité de carbone émise par notre réseau local pendant le fonctionnement d’un modèle. En fonction de ces informations, notre système passera automatiquement à une version du modèle plus économe en énergie, qui comporte généralement moins de paramètres, en période de forte intensité carbone, ou à une version beaucoup plus fidèle du modèle en période de faible intensité carbone. .

En faisant cela, nous avons constaté une réduction de près de 80 % des émissions de carbone sur une période d’un à deux jours. Nous avons récemment étendu cette idée à d’autres tâches d’IA générative telles que la synthèse de texte et avons trouvé les mêmes résultats. Fait intéressant, les performances se sont parfois améliorées après avoir utilisé notre technique.

Que pouvons-nous faire en tant que consommateurs d’IA générative pour contribuer à atténuer son impact climatique ?

En tant que consommateurs, nous pouvons demander à nos fournisseurs d’IA d’offrir une plus grande transparence. Par exemple, sur Google Flights, je peux voir diverses options indiquant l’empreinte carbone d’un vol spécifique. Nous devrions obtenir des types de mesures similaires à partir des outils d’IA générative afin que nous puissions prendre une décision consciente sur le produit ou la plate-forme à utiliser en fonction de nos priorités.

Nous pouvons également faire un effort pour être plus informés sur les émissions génératives de l’IA en général. Beaucoup d’entre nous connaissent les émissions des véhicules, et il peut être utile de parler des émissions génératives de l’IA en termes comparatifs. Les gens pourraient être surpris d’apprendre, par exemple, qu’une tâche de génération d’images équivaut à peu près à parcourir quatre miles dans une voiture à essence, ou qu’il faut la même quantité d’énergie pour charger une voiture électrique que pour générer environ 1 500 textes. résumés.

Il existe de nombreux cas où les clients seraient heureux de faire un compromis s’ils connaissaient l’impact de ce compromis.

Que voyez-vous pour l’avenir ?

Atténuer l’impact climatique de l’IA générative est l’un de ces problèmes sur lesquels travaillent des personnes du monde entier, et avec un objectif similaire. Nous faisons beaucoup de travail ici au Lincoln Laboratory, mais cela ne fait qu’effleurer la surface. À long terme, les centres de données, les développeurs d’IA et les réseaux énergétiques devront travailler ensemble pour réaliser des « audits énergétiques » afin de découvrir d’autres moyens uniques d’améliorer l’efficacité informatique. Nous avons besoin de plus de partenariats et de plus de collaboration pour aller de l’avant.