Certaines invites d'IA pourraient provoquer 50 fois plus d'émissions de co₂ que d'autres, les chercheurs trouvent
Peu importe les questions que nous posons une IA, le modèle proposera une réponse. Pour produire ces informations – sans que la réponse soit correcte ou non – le modèle utilise des jetons. Les jetons sont des mots ou des parties de mots qui sont convertis en une chaîne de nombres qui peuvent être traités par le LLM.
Cette conversion, ainsi que d'autres processus informatiques, produisent du CO2 émissions. De nombreux utilisateurs, cependant, ignorent l'empreinte carbone substantielle associée à ces technologies. Maintenant, les chercheurs en Allemagne ont mesuré et comparé le CO2 Émissions de LLM différentes et déjà formées en utilisant un ensemble de questions standardisées.
« L'impact environnemental de la question des LLMS formés est fortement déterminé par leur approche de raisonnement, les processus de raisonnement explicites faisant augmenter de manière significative la consommation d'énergie et les émissions de carbone », a déclaré le premier auteur Maximilian Dauner, chercheur à l'Université des sciences appliqués de Hochschule München et au premier auteur de la Frontières en communication étude.
« Nous avons constaté que les modèles compatibles avec le raisonnement ont produit jusqu'à 50 fois plus de CO2 émissions que les modèles de réponse concise. «
« Penser '' provoque la plupart des émissions
Les chercheurs ont évalué 14 LLM allant de sept à 72 milliards de paramètres sur 1 000 questions de référence sur divers sujets. Les paramètres déterminent comment les LLM apprennent et traitent les informations.
Les modèles de raisonnement, en moyenne, ont créé 543,5 jetons « pensant » par question, tandis que les modèles concises ne nécessitaient que 37,7 jetons par question. Les jetons de réflexion sont des jetons supplémentaires que les LLM du raisonnement génèrent avant de produire une réponse.
Une empreinte de jeton plus élevée signifie toujours un CO plus élevé2 émissions. Cependant, cela ne signifie cependant pas nécessairement que les réponses résultant sont plus correctes, car les détails élaborés ne sont pas toujours essentiels à l'exactitude.
Le modèle le plus précis était le modèle COGITO compatible de raisonnement avec 70 milliards de paramètres, atteignant une précision de 84,9%. Le modèle produit trois fois plus de CO2 émissions que les modèles de taille similaire qui ont généré des réponses concises.
« Actuellement, nous constatons un compromis clairement de la précision de la durabilité inhérent à LLM Technologies », a déclaré Dauner. « Aucun des modèles qui ne conservait des émissions inférieures à 500 grammes de CO2 L'équivalent a atteint une précision supérieure à 80% pour répondre correctement aux 1 000 questions. « CO CO.2 L'unité est équivalente utilisée pour mesurer l'impact climatique de divers gaz à effet de serre.
Le sujet a également abouti à des niveaux significativement différents de CO2 émissions. Des questions qui nécessitaient de longs processus de raisonnement, par exemple l'algèbre abstraite ou la philosophie, ont conduit à des émissions jusqu'à six fois plus élevées que des matières plus simples, comme l'histoire du secondaire.
Pratiquer une utilisation réfléchie
Les chercheurs ont déclaré qu'ils espéraient que leur travail amènera les gens à prendre des décisions plus éclairées sur leur propre utilisation de l'IA. « Les utilisateurs peuvent réduire considérablement les émissions en incitant l'IA à générer des réponses concises ou à limiter l'utilisation de modèles de grande capacité à des tâches qui nécessitent vraiment cette puissance », a souligné Dauner.
Le choix du modèle, par exemple, peut faire une différence significative dans le CO2 émissions. Par exemple, avoir Deepseek R1 (70 milliards de paramètres) répond 600 000 questions créeraient du CO2 Des émissions égales à un vol aller-retour de Londres à New York.
Pendant ce temps, Qwen 2,5 (72 milliards de paramètres) peut répondre plus de trois fois plus de questions (environ 1,9 million) avec des taux de précision similaires tout en générant les mêmes émissions.
Les chercheurs ont déclaré que leurs résultats pouvaient être affectés par le choix du matériel utilisé dans l'étude, un facteur d'émission qui peut varier régionalement en fonction des mélanges de réseaux énergétiques locaux et des modèles examinés. Ces facteurs peuvent limiter la généralisation des résultats.
« Si les utilisateurs connaissent le CO exact2 Le coût de leurs résultats générés par l'IA, comme se transformer avec désinvolture en figure d'action, ils pourraient être plus sélectifs et réfléchis sur le moment et la façon dont ils utilisent ces technologies « , conclut Dauner.
