Le problème n’est pas de dépenser beaucoup de jetons, c’est que la plupart d’entre eux sont gaspillés
Il y a un an, Sam Altman faisait une prédiction frappante : à mesure que la production des centres de données s’automatise, le coût de l’intelligence (IA) devrait à un moment donné converger avec le coût de l’électricité.
Tant d’IA pour quoi. Le phénomène – la consommation effrénée de jetons plus comme une mode que comme quelque chose d’utile – a commencé à sonner l’alarme, car les entreprises ont réalisé qu’elles dépensaient de petites fortunes pour que leurs employés tentent de tirer le meilleur parti de l’IA.
Adieu à l’IA. Une étude de la start-up EntelligenceAI indique que pour chaque dollar investi dans l’IA, seuls 18 centimes finissent par atteindre la production. Les 82 % restants finissent par être investis dans la correction d’erreurs, la réécriture de code et l’exécution de processus de révision qui ne génèrent pas de valeur directe. C’est ce qu’ils appellent des « dépenses improductives », et c’est un signal d’alarme car le succès de cette technologie ne dépend pas de l’utilisation continue de l’IA, mais de son utilisation pour améliorer la productivité.
Uber prévient. Andrew Macdonald, COO d’Uber, s’est ouvertement demandé si ces dépenses massives d’entreprises comme la sienne en matière d’IA étaient vraiment justifiées lorsqu’elles ne sont pas liées à des améliorations de productivité. L’entreprise fait partie de ceux qui ont décidé de réduire les dépenses consacrées aux modèles Anthropic, car le budget annuel disponible pour les utiliser avait déjà été « évacué ».
Investir dans des tokens s’avère finalement non rentable : la « partie utile » représente moins d’un cinquième de ce qui est investi, selon EIntelligence AI.
L’incertitude est là. D’autres experts préviennent exactement le contraire : ce n’est que le début de ce qui est à venir, donc prendre des mesures contre la consommation de l’IA peut s’avérer contre-productif. Le problème n’est pas tant que l’IA soit utilisée, mais plutôt qu’elle soit gaspillée : cette obsession de consommer des tokens a amené par exemple le directeur financier d’Amazon à dire à ses employés : « N’utilisez pas l’IA juste pour le plaisir de l’utiliser ». L’entreprise a récompensé ceux qui utilisaient le plus l’IA, si bien que beaucoup ont fini par l’utiliser pour des tâches triviales, redondantes ou inutiles.
Utilisez l’IA de manière appropriée. Matan Gringberg, PDG de la startup AI Factory, a raconté au WSJ comment un responsable d’une grande institution financière lui avait dit que ses employés dépensaient des centaines de milliers de dollars par mois en jetons. Le problème était que certains utilisaient les modèles les plus puissants pour répondre à des questions simples ou simplement pour discuter. Le message ici est clair : ces modèles doivent être utilisés à bon escient pour éviter de les gaspiller : « Si votre fille a besoin de cours particuliers d’algèbre, vous pouvez probablement trouver quelqu’un de moins cher qu’Albert Einstein pour les lui donner », a-t-il conclu.
Nous consommons des tokens au-dessus de nos moyens. Lors de l’événement Google I/O, Sundar Pichai, PDG d’Alphabet, a expliqué que la société traite actuellement plus de 3 200 milliards de jetons par mois, soit sept fois plus qu’il y a un an. Face à cette demande, elle et d’autres entreprises « punissent » l’utilisation triviale des modèles d’IA.
Les agents d’IA consomment des jetons comme s’il n’y avait pas de lendemain. Ce qui s’est également produit, c’est que l’arrivée et la vulgarisation d’outils de programmation agentique, tels que Claude Code, Codex ou Antigravity, entraînent la consommation de beaucoup plus de jetons car avec eux, il est possible d’automatiser l’exécution de tâches de programmation (ou d’autres domaines) de manière continue. Le modèle d’IA prépare un plan, l’exécute et, à chaque étape, réfléchit et évalue ses réponses avant de poursuivre le plan. Ce processus est intensif en termes de consommation de jetons et constitue la principale raison pour laquelle la consommation de jetons a grimpé en flèche.
Des forfaits, rien. Les forfaits mensuels comme ChatGPT Plus ou Claude Pro offraient aux développeurs une marge de manœuvre leur permettant de consommer d’énormes quantités de jetons sans aucune limitation. Cependant, OpenAI, Anthropic et d’autres sociétés ont commencé à modifier leurs stratégies, limitant les cas dans lesquels ces tarifs forfaitaires peuvent être utilisés afin que les utilisateurs ne puissent pas en abuser. S’ils veulent consommer plus, ils le peuvent, mais toujours selon une philosophie de paiement à l’utilisation : plus vous consommez, plus vous payez cher pour quelque chose qui aide au moins les utilisateurs à prendre conscience qu’ils ne peuvent pas utiliser des modèles surpuissants pour des conversations inutiles avec leurs chatbots.
Images | Simseo avec Magnifique
À Simseo | Si la question est de savoir si utiliser ChatGPT ou Claude en anglais est plus efficace et permet d’économiser des tokens, la réponse est : oui
