Avant, il était normal d’avoir un NAS à la maison. Bienvenue dans l’ère où il sera également normal d’avoir un serveur IA domestique

Pour ceux d’entre nous qui sont enthousiasmés par l’IA, ce qu’Apple a fait hier était à la fois merveilleux et triste. Merveilleux car il présentait des machines exceptionnelles qui constituent clairement les meilleures machines pour exécuter des modèles d’IA localement. Et c’est triste car l’accès à ces machines n’est pas accessible à tout le monde.

Ce qui est curieux, c’est le message qui a été le protagoniste de ce lancement : ces Mac ne sont plus ces machines qui ont ébloui les professionnels de la photographie ou du montage vidéo : ce sont des bêtes parfaites pour exécuter localement les modèles d’IA susmentionnés. Une IA privée, efficace et super silencieuse.

Et c’est un tournant puissant, car Apple n’a peut-être pas (pour le moment) le meilleur modèle d’IA du secteur, mais ce qu’il possède, sans aucun doute, c’est la meilleure machine pour exécuter des modèles d’IA locaux.

Le grand coup de chance d’Apple : la mémoire unifiée

Remontons le temps un instant. Lorsque l’entreprise a présenté ces révolutionnaires Apple M1 en 2020, nous avons tous prêté une attention particulière à la merveilleuse efficacité de ces processeurs et à leurs performances par watt, mais peu (nous l’avons fait) ont accordé trop d’importance à la mémoire unifiée.

Mais nous étions en 2020 et disposer de beaucoup de mémoire vidéo n’était pas particulièrement important pour 99,99 % des utilisateurs. La RTX 3090 et ses 24 Go de mémoire GDDR6X nous paraissaient une bête, et la plupart d’entre nous se contentaient déjà des 8 Go de mémoire graphique de la RTX 3070. La RTX 3080 est allée un peu plus loin avec 10 Go, et encore une fois cela nous a semblé largement suffisant.

Tout a changé le 30 novembre 2022 avec l’arrivée de ChatGPT. Nous ne le savions même pas, mais ce lancement serait non seulement le déclencheur des modèles d’IA dans le cloud, mais aussi de ceux qui pourraient fonctionner localement, sur nos PC. Meta nous a tous surpris avec son modèle à poids ouverts, Llama, et petit à petit nous avons commencé à comprendre que la mémoire vidéo était très, très importante pour pouvoir exécuter des modèles d’IA localement.

En fait, nous avons réalisé qu’avec la mémoire vidéo, deux choses importaient pour les modèles d’IA locaux :

• Plus il y en a, mieux c’est (pour pouvoir faire fonctionner des modèles plus grands et plus puissants)
• Plus il y a de bande passante, mieux c’est (plus de jetons/s en inférence)

Et ainsi les choses ont commencé à devenir claires : lorsque le RTX 5090 est arrivé, ils l’ont fait avec 32 Go de GGDR7 : très bon pour la bande passante (près de 1 792 To/s), mais un peu court car avec cette quantité de mémoire, il n’y avait pas d’espace pour loger de gros modèles d’IA en mémoire.

Là, Apple, presque sans faire de bruit, a commencé à s’imposer comme une option importante. Le Mac Studio de l’année dernière avec le M3 Ultra a donné aux utilisateurs la possibilité d’accéder à des machines avec jusqu’à 512 Go de mémoire unifiée (!) et avec une bande passante enviable de 819 Go/s. Un peu moins de la moitié de celui du RTX 5090, oui, mais avec beaucoup d’espace pour insérer de très grands modèles à poids ouvert dans cette mémoire.

Avec le nouveau Mac Studio doté des nouvelles puces Apple M5 Ultra, cette mémoire unifiée brille de sa propre lumière. On dispose à nouveau jusqu’à 512 Go disponibles par machine, mais la bande passante s’élève désormais à 1,2 To/s, soit 50 % de plus que dans le M3 Ultra. L’amélioration est notable, mais elle ne s’arrête pas là.

Comme le montre le tweet d’Ily sur X.com, la concurrence est difficile. Les cartes graphiques les plus puissantes de Nvidia surpassent Apple en termes de bande passante, mais pas en termes de quantité de mémoire VRAM et vous avez également besoin du reste des composants pour pouvoir les utiliser.

Le DGX Spark est une option intéressante en raison de ses 128 Go de « mémoire unifiée » – similaire à celle utilisée sur les Mac – mais la bande passante est bien inférieure à celle du M3 Ulta, sans parler du M5 Ultra.

Le même problème affecte toutes ses variantes (Acer Veriton GN100, Dell GB10, etc.), et aussi des machines comme le Framework Desktop ou les nouveaux PC équipés de puces AMD Strix Halo (comme le merveilleux Ryzen AI Max+ 395) : la bande passante est juste et autour de 250 Go/s. Le Mac mini M4, pour vous donner une idée, a une bande passante de 120 Go/s, soit moins de la moitié du DGX Spark. Mauvaise affaire pour les concurrents d’Apple.

Le logiciel complète l’équation

Nous parlons depuis des années de la façon dont CUDA est le « fossé défensif » de Nvidia () dans le domaine de l’intelligence artificielle. Cette technologie a permis aux développeurs travaillant dans ce domaine de profiter pleinement des possibilités de ces cartes graphiques, et cela a été particulièrement vrai dans les grands centres de données qui utilisent OpenAI, Anthropic et leurs concurrents.

Si Nvidia se porte bien, ce n’est pas tant grâce à ses puces IA que grâce à son logiciel IA. AMD, par exemple, possède des puces fantastiques dans son Instinct MI350, mais le logiciel n’est pas (pour le moment) aussi perfectionné. Sa technologie ROCM progresse, certes, mais pour l’instant Nvidia continue de conserver cet avantage si apprécié par les utilisateurs qui ne veulent pas de complications.

Apple semblait avoir tout à perdre ici, mais a immédiatement publié MLX, un framework Apple ouvert pour sa famille de puces Apple Silicon. Grâce à elle, tout un écosystème de modèles quantifiés a été généré avec cette technologie (les modèles d’IA « comprennent » parfaitement avec ces puces) et des applications comme LM Studio qui permettent de les exécuter de manière optimale.

Mais il existe désormais un autre composant logiciel qui frappe également. Il s’agit de la possibilité de connecter plusieurs Mac (mini, Studio, peu importe) pour combiner leur capacité de calcul et ainsi créer des clusters hybrides (ou non) de machines qui permettent plus de traitements et gagnent surtout en quantité de mémoire disponible pour exécuter ces modèles. C’est exactement ce qu’Exo Labs a lancé il y a quelques mois, et maintenant les responsables ont travaillé avec Apple pour apporter cette option nativement à ces nouveaux appareils.

Bienvenue dans l’ère des centres de données domestiques

Il y a ceux qui parlent déjà de la façon dont les machines de ce type finiront par être les nouveaux PC domestiques de l’ère de l’IA : au lieu d’avoir un PC ou même un NAS, l’idée est que nous aurons une machine de style Mac Studio qui fonctionnera 24h/24 et 7j/7 et dans laquelle nous pourrons utiliser des modèles d’IA locaux. Bienvenue dans l’ère du mini centre de données IA domestique.

Ces modèles peuvent être inférieurs en capacité aux modèles frontières d’OpenAI, d’Anthropic ou de leurs rivaux, mais la différence n’est plus aussi prononcée et est démontrée par le fait que les modèles ouverts chinois sont déjà très proches en performances de ce que réalisent GPT-5.6 Sol ou Fable 5.

Il est vrai que ces modèles sont trop gros pour pouvoir fonctionner localement (Kimi K3 est un modèle 2,8T, Qwen3.8.Max atteint 2,4T), mais des versions « locales » en dérivent, comme l’exceptionnel Qwen3.8-27B qui « s’intègre » parfaitement dans une machine dotée de 32 Go de VRAM (ou mémoire unifiée).

Cela signifie que ceux qui possèdent un RTX 5090 peuvent l’exécuter à des vitesses supérieures à 100 jetons/s dans certaines variantes, mais il y a ici quelques problèmes. La première, que les RTX 5090 consomment beaucoup. Et la seconde, qu’ils font beaucoup de bruit et deviennent assez chauds, ce qui les rend « inconfortables » à utiliser dans des environnements domestiques.

C’est là que les Mac Studio (et même les Mac mini avec le nouveau M5 Pro) deviennent des machines plus que recommandées pour ce type de domaine. Ils sont efficaces et silencieux, ce qui leur permet également de battre la concurrence.

Alors quel est le problème ? Eh bien, l’habituel.

Exécuter les meilleurs modèles d’IA locaux coûte (très) cher

Face à tous ces bonheurs, insistons-nous, il y a la triste note : les prix des nouveaux Mac sont élevés. C’est quelque chose auquel nous nous attendions dans une certaine mesure étant donné que la crise de la mémoire a rendu tout plus cher, mais Apple « punit » surtout les utilisateurs qui ont besoin du plus de capacité de mémoire dans ces bêtes d’IA.

Le Mac Studio avec le M5 Ultra le moins cher (96 Go de mémoire unifiée) démarre à 6 649 euros. Si l’on veut la version 256 Go, le prix monte à 11 049 euros. Il faut dire que les DGX Spark avec 256 Go ne sont pas bon marché non plus et avoisinent les 6 000 euros en ce moment, et il en va de même pour le reste des alternatives : faire tourner de gros modèles d’IA localement coûte aujourd’hui cher.

Cela est susceptible de s’améliorer avec le temps, mais quoi qu’il en soit, une chose est claire : la tournure qu’Apple a prise sur ses ordinateurs de bureau est fascinante. À Cupertino, il semblait qu’il leur était interdit de prononcer le sigle « IA », mais depuis quelque temps, ils semblent l’avoir clairement vu. Ils n’ont peut-être pas leur propre modèle local notable (je parie que cela va changer), mais ce qu’ils ont, ce sont (probablement) les meilleurs tapis roulants de la concurrence.

Bien joué, Apple. Bien joué.

À Simseo | Meta veut tenir tête à OpenAI et Google avec une arme bien particulière : une IA puissante qui fonctionne hors ligne sur votre ordinateur