« La superintelligence devrait être accessible à tous » : Zuckerberg affirme vouloir démocratiser l’IA. Une autre chose est que nous croyons

Parmi les 6 578 mots du manifeste publié hier par Mark Zuckerberg, certains sont répétés de manière suspecte. « Les gens » le font 69 fois, la « superintelligence » le fait 54 fois, le « pouvoir » le fait 37 fois et « tout le monde » le fait 36 ​​fois. La vision du créateur et PDG de Meta est que l’IA devrait être pour tout le monde et ne devrait être contrôlée par aucune entreprise. Mais la trajectoire de Meta suggère que le message est en réalité le suivant : il devrait être contrôlé par le mien.

L’IA ne vient pas vous remplacer, elle vient vous donner des super pouvoirs. La grande tournure narrative du texte de Zuckerberg soutient que la grande mission de la superintelligence sera d’inventer de nouvelles choses, et non d’automatiser celles qui existent déjà. Ce n’est pas tout : selon le texte, cette superintelligence pourrait finir par créer davantage d’emplois : imaginez de petites entreprises créées par une ou un groupe de quelques personnes, des tuteurs personnalisés de connaissances dans n’importe quel domaine et des agents d’IA qui améliorent notre santé, notre carrière, nos finances ou nos relations. Pour lui, l’IA va accroître nos capacités et nous donner des « superpouvoirs ».

Zuckerberg n’est pas comme ses rivaux. Le fondateur de Facebook/Meta affirme que l’entreprise se concentre sur la création d’une « superintelligence personnelle pour chacun », tandis que d’autres entreprises et laboratoires d’IA orientent leurs modèles vers les entreprises, les gouvernements et les institutions. Face à la concentration du pouvoir, il plaide dans ce texte pour sa répartition : si nous disposons tous d’un avocat ultra-intelligent, personne ne bénéficiera d’un avantage injuste. Si nous disposons tous d’une cybersécurité grâce à l’IA, les systèmes seront plus sécurisés.

C’est bien beau tout ça, mais… Zuckerberg propose un futur dans lequel chacun de nous aura un agent IA qui nous connaît parfaitement et qui sait tout ce qui compte pour nous. Cet agent travaillera 24h/24 et 7j/7 et nous accompagnera, par exemple, avec des lunettes (bien sûr). Meta promet de lancer des modes privés et compare cette protection au cryptage WhatsApp. Chez 404 Media, on souligne qu’il existe une contradiction évidente : utiliser les options de lunettes de Meta signifie confier d’énormes quantités de contexte personnel à une entreprise dont l’activité historique est fondamentalement basée sur une meilleure connaissance de ses utilisateurs. Le message d’un avenir humaniste que nous vend Meta consiste à lui faire savoir beaucoup plus sur nous.

Deux faces de la médaille. L’exemple des tuteurs personnalisés est certes notable et ils démocratisent certes les contenus auprès de professeurs extraordinaires, mais ils ont aussi leur homologue : ils servent à faire des devoirs (ou des examens) sans apprendre. Il en va de même pour les avocats : cela pourrait tendre vers la création de litiges automatisés et d’une bureaucratie à grande échelle. Les avantages dont parle Zuckerberg sont réalisables, certes, mais l’IA, comme tout autre outil (technologique ou non), peut être utilisée à la fois pour le bien et pour le mal.

Les modèles ouverts sont excellents, mais soyez prudent. Meta vient de présenter Muse Glimmer, son nouveau modèle à poids ouvert, et Zuckerberg en profite pour le présenter comme un élément important de cette chaîne de puissance. Cependant, des analystes comme MG Siegler se souviennent que Meta a mis de côté cette philosophie d’ouverture dont il s’était tant vanté lorsque Llama a perdu sa compétitivité. C’est une bonne nouvelle que l’entreprise propose ce modèle, mais elle a profité d’un modèle dans lequel ces modèles ont une très bonne presse. Ce n’est pas tout : la Chine est en tête dans ce domaine, et le fait que Meta présente une alternative « occidentale » la place en bonne position aux yeux des utilisateurs et des entités.

Oxymore : objectif de décentralisation. Zuckerberg propose de distribuer la superintelligence entre les gens, mais Meta continuerait à contrôler une grande partie des modèles, des infrastructures, des lunettes et des agents par lesquels nous y accéderions. Il propose même de lancer un système d’enchères dynamiques pour répartir le calcul entre ceux qui veulent (ou plutôt peuvent) payer plus. Sa thèse paraît certes libérale et anticentralisatrice, mais c’est aussi une manière de positionner ses modèles d’IA comme le standard que le grand public devrait utiliser.

Zuckerberg a saisi l’occasion. La publication de ce manifeste intervient à un moment très marquant. Anthropic parle sans arrêt des risques de l’IA tandis qu’OpenAI parle à la fois d’abondance et de transformation du lieu de travail. Ce sont des discours au ton pessimiste, mais chez Meta, ils veulent parier sur un ton positif. Il est vrai que la vision proposée par Meta est correcte et raisonnable dans son essence, mais le problème est qu’elle vient de qui elle vient. Croire Zuckerberg est, sinon impossible, du moins très, très difficile.

À Simseo | Mark Zuckerberg : « Il est littéralement impossible d’avoir une seule superintelligence bienveillante qui s’aligne sur tout le monde à la fois »