Si avec les chatbots la consommation énergétique avait déjà explosé, avec l’IA agentique cette consommation est multipliée par 136,5

Pendant un temps, l’une des controverses autour de la consommation de l’intelligence artificielle concernait l’eau. Quelque temps plus tard, nous avons appris que les calculs (même les plus stupides) n’étaient pas précis et nous avons commencé à nous pencher sur quelque chose de très inquiétant : l’énorme quantité d’énergie dont les centres de données et l’IA ont besoin pour fonctionner. C’est quelque chose qui met en danger l’intégrité énergétique de certains pays, mais à mesure que l’IA approche de l’adolescence et du stade agent, nous entrerons dans une nouvelle phase.

Celui d’une consommation obscènement multipliée.

En bref. L’Institut supérieur coréen des sciences et technologies, ou KAIST, a mené une étude quantifiant le coût énergétique des agents d’IA. Contrairement à un chatbot, qui est un système auquel nous faisons une requête, il nous donne un résultat et c’est tout, un agent est une chaîne d’opérations dans laquelle le logiciel effectue différentes actions de manière autonome. Cela implique évidemment que le matériel qui déplace ce logiciel passe plus de temps à faire les choses.

Dans l’étude, ils ont mesuré la consommation d’énergie des chatbots et des agents et ont conclu que, en utilisant un modèle de langage à grande échelle comparable aux services commerciaux actuels d’IA, une seule requête complexe adressée à un agent consommait 348,41 Wh d’électricité. Selon l’agent et le modèle que vous utilisez, ils consommeront également plus ou moins. Par exemple, un framework appelé LATS a utilisé 62,1 fois plus d’énergie dans les tests qu’un chatbot IA, tandis que celui du modèle Llama-3.1 Instruct 70B de Meta a consommé un pic de 136,5 fois plus par requête.

GPU en attente (et consommant). Il existe une autre clé, et il est temps. Ces requêtes consomment plus d’énergie car davantage de ressources entrent en jeu et on estime que les agents mettent jusqu’à 153,7 fois plus de temps que les chatbots conventionnels à traiter les réponses. Pendant ce temps, les GPU restent inactifs plus de la moitié du temps, mais consomment toujours de l’électricité.

Ils ne sont pas à pleine capacité, mais ils sont « sur leurs gardes » en attendant la réponse des outils et des sites Web externes. Ainsi, lorsque cette réponse arrive, ils commencent à traiter les données et à effectuer l’action correspondante. Cette histoire de GPU arrêtés n’est pas nouvelle et il y a quelques semaines, on constatait que la grande majorité des équipements achetés par les hyperscalers ne faisaient rien la plupart du temps.

Le réseau électrique. Et le problème est la projection. Actuellement, cette technologie est à l’ère des chatbots, mais l’industrie s’oriente vers les agents. À l’heure actuelle, des plates-formes comme Vera Rubin de Nvidia sont fabriquées uniquement pour cela, et lorsqu’elles entreront en jeu, l’étude prévoit que la demande en énergie atteindra l’équivalent de la moitié de la consommation électrique de l’ensemble des États-Unis.

On estime qu’en 2023, les centres de données américains ont consommé « à peine » 4,4 % du total national et qu’ils doubleront d’ici 2030, mais les estimations du KAIST dépassent de loin les prévisions précédentes.

Refonte. Tandis que ces centres de données continuent de croître, le réseau électrique ne peut pas en dire autant. Les énergies renouvelables ne suffisent pas à satisfaire la voracité de l’IA et il faut recourir au nucléaire, au gaz et même au charbon et, en Europe, on voit déjà des réactions de certains pays qui soit éloignent les nouveaux centres de données de leurs grandes villes, soit les rejettent catégoriquement. La raison ? Des réseaux et des centres de données saturés qui auraient une demande supérieure à celle de la population elle-même, générant des problèmes dans les infrastructures énergétiques.

Il ne semble pas que les hyperscalers s’attaquent à ces problèmes car, comme Jensen Huang lui-même, PDG de Nvidia, l’a souligné il y a quelque temps, il reste plus de cinq ans d’investissements sauvages dans les infrastructures pour l’IA, mais l’étude sud-coréenne a commenté qu’une solution à la demande d’énergie viendrait d’une refonte de l’ensemble du réseau. Des micropuces aux modèles d’IA en passant par l’infrastructure électrique des centres de données eux-mêmes.

Comme si cela était simple, et encore plus maintenant que les Big Tech sont dans la course au déploiement d’agents d’IA dans les applications professionnelles et grand public. Nous verrons si le réseau électrique peut suivre ce rythme.

À Simseo | Parler d’intelligence artificielle, c’est parler d’énergie, et le terme à la mode est « vantardises ».