« L’utilisation des tokens devient assez folle » : la fièvre de l’IA commence à faire des ravages dans les entreprises

Ah, les jetons, ces petites unités de texte qui sont devenues la monnaie du boom de l’IA. Il y a quelques mois, les entreprises de la Silicon Valley se sont lancées dans les dépenses en jetons comme s’il n’y avait pas de lendemain, car cela signifiait que vous étiez plus productif. Eh bien, il y a déjà des entreprises qui freinent parce que cela leur coûte une fortune.

Le . Plusieurs entreprises technologiques s’inquiètent déjà du fait que les dépenses en jetons sont excessives et ont même commencé à introduire des limites d’utilisation pour les contrôler. Pendant ce temps, ils disent dans Wired que d’autres comme 8×8 et Baseball Lifestyle 101 continuent avec le robinet ouvert, bien qu’avec des nuances, comme par exemple que l’utilisation de modèles plus chers doit être justifiée. C’est la nouvelle obsession du secteur : , que l’on pourrait traduire par ou, si l’on veut être plus clair, économie symbolique.

Celui qui court beaucoup court vite, comme on dit. De , tout d’un coup on arrive à et il y a des entreprises qui sont en grande difficulté à cause de ce phénomène, comme l’entreprise qui a dépensé « accidentellement » 500 millions de dollars pour Claude en un seul mois. On a aussi le cas de Meta, qui est passée d’une utilisation débridée à une politique stricte de gestion et de rationnement car la facture s’élevait à des milliards par an ou de la Banque Royale du Canada, dont l’utilisation des tokens a augmenté de 500% jusqu’à présent cette année.

Une préoccupation croissante. Il y a un an, il était rare d’entendre le mot token lors d’une conférence téléphonique sur les résultats, mais il fait aujourd’hui partie des principales préoccupations financières des entreprises. Selon les données de Wired, en avril et mai, au moins 300 entreprises ont exprimé leur inquiétude sur ce problème, alors qu’à la même période l’année dernière, seules 93 entreprises l’avaient mentionné. Lors de l’appel aux résultats de Cisco, le PDG Chuck Robbins l’a dit très clairement : « L’utilisation des jetons devient assez folle. » Derrière cette affirmation se cachent des prix qui fluctuent constamment et des modèles de plus en plus puissants (et aussi plus chers).

D’où nous venons. En mars de cette année, Jensen Huang a commencé à parler des jetons d’IA comme indicateur de productivité, allant jusqu’à dire qu’il serait inquiet si un ingénieur de haut niveau ne dépensait pas au moins la moitié de son salaire en jetons d’IA. S’en sont suivi des entreprises incitant leurs salariés à consommer davantage de tokens, la mise en place de concours internes (dont certains truqués) et une facture qui n’a cessé d’augmenter. Ce que nous voyons maintenant, c’est comment « dépenser autant que vous le pouvez » se transforme en « dépenser judicieusement ». La question est de savoir si, au milieu de ce jeu, il y a quelqu’un qui mesure réellement la valeur de l’œuvre produite.

Images | Simseo avec les Gémeaux

À Simseo | Claude est interdit en Chine. Cela n’a pas empêché les utilisateurs chinois de créer un incroyable marché noir pour les jetons.