L’industrie de l’IA a rendu votre PC plus cher et propose désormais une offre : vous payez pour l’utiliser lorsque vous ne l’utilisez pas

L’industrie de l’IA frappe à la porte d’une nouvelle ère : celle de l’inférence. Si ces dernières années vous nous avez bombardés de formations et de toutes les ressources nécessaires pour les réaliser (pillage d’Internet, utilisation de contenus protégés par le droit d’auteur et destruction de millions de livres en cours de route), c’est maintenant au tour d’appliquer cette formation et de faire entrer l’IA dans l’ère agentique.

Pour cela, et pour en déduire, il faut d’énormes capacités de calcul et du matériel fonctionnant 24 heures sur 24 et 7 jours sur 7 dans le monde entier, et étant donné le possible manque d’infrastructure dû au fait que les centres de données ne se lèvent pas en un jour, une poignée de startups ont eu une curieuse idée.

Transformez votre RTX 4090 en chatbot.

En bref. C’est facile à expliquer. Si vous vous souvenez de l’époque de la fièvre des crypto-monnaies, vous vous souviendrez qu’il y avait des logiciels malveillants qui ont infecté votre ordinateur afin que votre GPU exploite la crypto à votre insu. Le découvrir n’a pas été compliqué car, en bref, votre GPU était occupé et dès que vous regardiez le gestionnaire de tâches, vous découvriez que quelque chose n’allait pas. Outre les malwares, il existait d’autres projets plus légitimes visant à utiliser la puissance de notre PC lorsqu’il était inactif afin de trouver, par exemple, une vie extraterrestre.

Eh bien, le concept proposé par les startups d’IA comme Far Labs ou Evolving Edge est exactement le même : utiliser la puissance inutilisée d’un PC lorsque l’utilisateur ne l’utilise pas pour le transformer en une sorte de serveur d’IA. En bref, faisons de notre maison un centre de données miniature.

Comment ça marche. John Federico est le PDG d’Evolving Edge et commente que, même si tout le monde pense que la seule façon de déplacer cela passe par les centres de données, la puissance de calcul est également présente chez les utilisateurs et peut être utilisée pour effectuer des calculs. Ce qu’il propose est une application que les utilisateurs doivent installer et assure que « tout ce que nous voulons, c’est exécuter des tâches lorsque votre machine nous le permet. Les seules informations que nous verrons du PC sont les ressources que nous utilisons et vous pouvez toujours nous donner un calendrier ».

Concernant les problèmes de sécurité, Federico note que « le logiciel est open source, donc tout le monde peut voir ce qu’il fait », précisant que les données locales sont en sécurité et qu’aucun malware ne sera téléchargé.

Les comptes de la vieille femme. De Far Labs, ils affirment que c’est « comme Uber ou Airbnb, mais pour les tâches informatiques d’inférence d’IA » puisque nous fournissons l’infrastructure et que ces entreprises nous paient pour exécuter des tâches d’inférence d’IA sur notre matériel inactif. Mais bien sûr, il y a un problème : plus la puissance du GPU est élevée, plus la consommation d’énergie est élevée et plus la facture d’électricité est élevée.

Ces entreprises n’ont pas détaillé combien elles paieraient pour utiliser l’équipement, mais Tom’s Hardware a fait le calcul de ce qu’il nous en coûtera, a priori, pour entretenir le bar de plage. Pour ce faire, ils s’appuient sur les comptes de Salad, une société dont le réseau minait Ethereum sur des GPU inactifs. Ils vendaient de la puissance de calcul GPU à partir de 0,02 $ l’heure, et une fois que la plateforme prenait sa commission, le propriétaire de la carte ne voyait qu’une part de ce gâteau.

Ils estiment que l’entreprise a généré 3,6 millions de dollars grâce aux PC des utilisateurs en 2021, distribuant entre eux 500 000 dollars de récompenses, l’équivalent de 14 cents par dollar généré pour ceux qui fournissent le matériel. Le problème est que ce matériel consomme beaucoup, et en prenant comme référence un RTX 4090 avec entre 350-450 W en charge soutenue et en tenant compte du fait que le GPU fonctionne 24 heures sur 24, la facture augmentera entre 40 et 50 dollars par mois.

Pansement. Cela a été surnommé « infrastructure d’IA décentralisée » et au-delà de l’attrait de prêter nos équipements pour travailler (des équipements dont la même industrie qui semble avoir besoin nous a coûté plus d’argent en raison de pénuries de composants), cela a à voir avec des pénuries de composants et des goulots d’étranglement.

Les grandes entreprises technologiques accumulent tout le matériel nécessaire pour donner vie à leurs modèles et les startups pourraient se retrouver en difficulté à l’heure où ces grandes entreprises technologiques augmentent le prix de location de leurs équipements et de leur puissance de calcul. Dans ce scénario, recourir aux PC inactifs des utilisateurs semble être une bonne solution, mais cela protégerait également ces startups des pannes qui paralysent les cloud centralisés, comme cela s’est déjà produit dans des systèmes aussi puissants qu’AWS.

Ce n’est pas bon pour votre GPU. Pour le PDG d’Evolving Edge, les perturbations du réseau centralisé n’auraient pas d’importance si suffisamment de propriétaires de GPU envisageaient d’échanger leur matériel contre de l’argent pour en valoir la peine. Le problème est qu’au-delà de cela, même si cela peut couvrir les frais d’électricité de l’utilisateur et un peu plus (car sinon la transaction serait terrible), la question de la dégradation des composants reste en suspens.

L’usure du matériel qui fonctionnerait à la fois lorsque nous l’utilisons pour jouer ou travailler et le reste du temps pour remplir sa tâche pour l’IA est encore incertaine. C’est là que la pâte thermique, les roulements et d’autres problèmes entrent en jeu, usant le matériel qui, comme nous l’avons dit, devient de plus en plus cher… à cause de l’industrie de l’IA.

À Simseo |