Les « s’il vous plaît » et « merci » ont un coût absurde chaque mois

Probablement ces jours-ci, faisant sur les réseaux sociaux, vous avez traversé un de ces mèmes qui disent tout avec une image: un homme sur le point d’être éliminé par des robots est sauvé au dernier moment parce que, selon l’un d’eux, « j’ai toujours dit merci. » Un geste minimum, presque automatique, qui le rachète aux machines dans l’avenir dystopique et qui commence un sourire en attendant.

De toute évidence, nous ne nous attendons pas à ce que les robots prennent le contrôle de la planète. Mais ce n’est pas un accident que cette idée soit devenue virale. Le cinéma et la littérature ont nourri cet imaginaire entre la fascination et la peur. Ce qui est drôle, c’est que, au-delà de la fiction, il y a quelque chose de réel dans tout cela: être éduqué avec l’intelligence artificielle (IA) n’est pas libre. Notre gentillesse, aussi routine, coûte de l’argent. Et pas précisément peu.

Le fonctionnement de l’IA n’est pas exactement bon marché. Lorsque nous utilisons un chatbot d’intelligence artificielle, nous pensons rarement à la consommation de ressources que chacune de nos demandes implique. Chatgpt et d’autres systèmes similaires fonctionnent grâce à de grands modèles de langage, également connus sous le nom de LLM, opérant dans des centres de données équipés de matériel haute performance, tels que les GPU NVIDIA H100. L’exécution de ces modèles, qui est techniquement appelée inférence, nécessite une énorme capacité de traitement et, par conséquent, une quantité considérable d’électricité.

Consommation. À tout cela, nous devons ajouter l’investissement nécessaire pour construire et maintenir ces infrastructures, ainsi que leur impact environnemental. Nous savons, par exemple, que bon nombre de ces centres consomment de grands volumes d’eau pour refroidir les systèmes, car ce type d’ordinateur génère de la chaleur. Très chaud. Il n’y a pas de consensus sur le coût de chaque demande, et les chiffres varient selon l’entreprise. Malgré cela, Sam Altman a donné une piste.

Le coût incroyable de la gentillesse. Il y a quelques jours, un utilisateur a demandé sur les réseaux sociaux combien d’argent Openai aurait perdu simplement parce que les gens ajoutent « s’il vous plaît » et « merci » d’interagir avec leurs modèles. La réponse du PDG n’est pas passée inaperçue: « Des dizaines de millions de dollars bien dépensés. » Il n’a pas parlé d’une seule interaction, bien sûr, mais de l’accumulation de millions de messages amicaux au fil du temps.

Il est curieux que, malgré la forte énergie et le coût économique que cela représente, Altman considère qu’il s’agit d’une dépense justifiée.

Devrions-nous être gentils avec une IA? Comme dans tout autre domaine, il y a des gens qui préfèrent aller directement sur le point et d’autres qui choisissent de maintenir un ton plus prudent et éduqué. Cette différence a probablement également à voir avec la façon dont chacun communique au quotidien. Et dans ce contexte, la gentillesse n’est pas seulement une question de manières.

Une étude intitulée « Faut-il respecter les LLM? Une étude inter-linguistique de la politesse rapide dans le rendement scolaire » a analysé le rôle de la courtoisie dans les indications et a laissé des conclusions intéressantes. Parmi eux, ces messages malheureux ont tendance à générer de moins bonnes performances. Cependant, oui, l’excès de courtoisie ne garantit pas de meilleurs résultats.

Ce qui semble clair pour ceux qui utilisent ce type de chatbots quotidiennement, et plus encore maintenant qu’ils sont capables d’apprendre et de se souvenir plus de précision, ils peuvent s’adapter au ton de l’utilisateur. Si nous voulons une interaction plus respectueuse, plus cohérente et un peu plus humaine, nous devrions probablement commencer par faire cette étape.

Images | Capture d’écran x

Dans Simseo | Les hallucinations sont toujours le talon d’Achille de l’IA: les derniers modèles OpenAI inventent davantage le compte