Coûts d’un projet d’IA : estimation et contrôle des dépenses

La facture qui dépasse l’estimation arrive presque toujours dans le mois qui suit la sortie, lorsque le pilote pour vingt personnes devient un service pour deux mille et que la structure des coûts change de nature. Le phénomène a pris des proportions systématiques : environ 60 % des projets dépassent l’estimation initiale entre 30 % et 50 % et les dépenses d’inférence en viennent à représenter 85 % des budgets dédiés à l’intelligence artificielle.

Ce qui rend le phénomène intéressant à étudier, c’est son apparente contradiction. Le coût unitaire s’est effondré, le prix par million de tokens a chuté d’environ 80 % entre 2025 et 2026 et de trois ordres de grandeur par rapport à 2022, et pourtant les factures augmentent. La grille de prix n’a rien à voir : ce qui manque, c’est le gouvernement de la consommation.

Le prix du token baisse, la facture augmente

Le mécanisme est celui de toute ressource qui devient économique : la consommation croît plus vite que le prix ne baisse. Lorsqu’une opération coûtait 10 centimes, elle n’était effectuée que là où elle était vraiment nécessaire, un dixième de centime était mis dans chaque flux, et le total augmentait même si chaque appel coûtait moins cher.

Nous devons ajouter un effet de composition qui prend de nombreuses organisations au dépourvu. Le pilote fonctionne sur de petits volumes et des cas sélectionnés, presque toujours les plus simples, tandis que la production présente les cas complexes avec de longs documents, de longs historiques de conversations et des tentatives répétées. Le coût moyen par opération en production est presque toujours supérieur à celui mesuré dans le pilote, et le rapport entre les deux varie de deux à cinq fois selon l’optimisme du pilote dans la sélection des cas.

Extrapoler linéairement à partir du pilote, en multipliant le coût moyen par le nombre d’utilisateurs attendus, produit donc une estimation erronée dans un seul sens.

Un agent consomme cinq à trente fois plus qu’un assistant

La variable qui change le plus l’ordre de grandeur est architecturale. Une question à un assistant conversationnel génère un appel au modèle. Un flux agentique, qui décompose la tâche, invoque des outils, vérifie le résultat et se corrige, en génère dix ou vingt pour répondre à la même requête utilisateur. Une enquête sur les leviers d’optimisation des jetons rapporte l’analyse Gartner de mars 2026, qui place le multiplicateur entre cinq et trente fois le nombre de jetons par activité par rapport à un assistant génératif standard.

La conséquence opérationnelle concerne le moment du choix architectural. Passer d’un système d’assistant à un système d’agent est une décision qui est prise pour des raisons de capacité fonctionnelle, et qui entraîne une multiplication des coûts d’exploitation qui doivent être intégrés en premier dans le business case et non découverts en aval. Un flux qui appelle le modèle vingt fois par cabinet, sur dix mille cabinets par mois, a une structure économique complètement différente d’un assistant utilisé de manière discrétionnaire par les mêmes personnes.

Le deuxième facteur qui gonfle silencieusement les comptes concerne les systèmes de récupération de documents. De nombreuses implémentations récupèrent plus de matériel que nécessaire, injectent le texte intégral au lieu d’extraire la partie pertinente et renvoient l’intégralité du contexte à chaque tour de conversation, même lorsque rien n’a changé. C’est l’un des domaines où l’intervention rapporte le plus pour la même qualité perçue.

Cinq leviers, par ordre de reddition

Les leviers disponibles sont peu nombreux et bien identifiés dans la pratique du secteur, et il est préférable de les exploiter dans l’ordre dans lequel ils rapportent plus que l’effort requis.

1. Stockage de contexte répété. Les instructions système, les exemples et la documentation stable sont payés une fois et réutilisés, avec des réductions qui dépassent facilement la moitié de la dépense sur les flux répétitifs. C’est la première chose à activer et celle qui nécessite le moins de refonte.

2. Itinéraire vers le bon modèle. Toutes les opérations ne nécessitent pas le modèle le plus performant. Classification, extraction de champs d’un document, reformulation d’une phrase s’effectuent sur des petits modèles à un coût bien moindre, réservant le grand modèle aux étapes de raisonnement. Même un acheminement rudimentaire, sur seulement deux niveaux, permet de réaliser des économies substantielles.

3. Contrôler la longueur de la sortie. Les jetons générés coûtent plus cher que les jetons lus, généralement entre trois et cinq fois. Une déclaration exigeant des réponses concises et une limite explicite de longueur maximale a un impact direct sur l’article le plus cher.

4. Compression du contexte d’entrée. Extrayez les fragments pertinents au lieu de transmettre des documents entiers, conservez un résumé progressif de la conversation au lieu de l’historique intégral, éliminez les répétitions parmi les fragments récupérés.

5. Observabilité des dépenses. Sans attribution des consommations par fonction, par cas d’usage et par utilisateur, aucun des leviers précédents ne peut être gouverné, car il n’y a aucun moyen de savoir où se concentre la dépense et si une intervention a fonctionné.

Le coût par unité de travail modifie les décisions

La mesure qui rend les dépenses gérables est le coût par unité de travail réalisée, bien plus que le total mensuel : par dossier traité, par document analysé, par ticket résolu, par ligne de code soumise à révision. Ce chiffre se compare au coût de la même unité de travail effectuée qu’auparavant, et c’est la seule manière pour que la discussion sur les coûts devienne une discussion commerciale.

Le modèle d’estimation qui soutient la révision est construit en quatre étapes. La consommation moyenne de tokens par unité de travail est mesurée sur un échantillon qui comprend des cas complexes, et pas seulement des cas heureux. Il est multiplié par le volume attendu à pleine vitesse, et non par celui du pilote. Le multiplicateur architectural s’applique si le flux est agentique. Une bande de variabilité de 30 % à la hausse est ajoutée, ce qui est l’erreur typique observée sur les projets dépassant l’estimation.

Le nombre ainsi obtenu doit être accompagné d’un seuil d’alarme et d’un comportement défini en cas de dépassement. Les organisations qui gèrent bien leurs dépenses ont établi à l’avance ce qui se passe lorsque la consommation dépasse le seuil : dégradation vers un modèle plus petit, mise en file d’attente des demandes non urgentes en mode différé, suspension des cas d’utilisation à faible valeur. Ceux qui ne l’ont pas encore décidé se retrouvent sous pression à la fin du trimestre et se trompent généralement de décision.

Reste une question à se poser avant d’optimiser quoi que ce soit : ce flux, au prix qu’il coûte aujourd’hui, produit-il suffisamment de valeur pour justifier son existence ? Le moyen le plus efficace de réduire une facture est de désactiver ce dont vous n’avez pas besoin, et dans la plupart des organisations, certaines dépenses alimentent des cas d’utilisation que personne n’a jamais mesurés.