Mark Zuckerberg : « Il est littéralement impossible d’avoir une seule superintelligence bienveillante qui s’aligne sur tout le monde à la fois »
Mark Zuckerberg n’est pas un grand fan des interviews, mais cette semaine, il a réussi un tour du chapeau et s’est exprimé devant le New York Times, le Wall Street Journal et le Financial Times. Le principal sujet de conversation a bien sûr été l’IA. Le PDG de Meta a laissé de nombreuses déclarations juteuses, notamment une bonne collection de fléchettes chez ses concurrents, notamment chez Anthropic et OpenAI.
IA fermée ou ouverte. Le monde de l’IA est actuellement témoin d’un débat suscité par le lancement du Kimi K3, le nouveau modèle ouvert chinois qui a rattrapé les principaux modèles américains. D’un côté, plus de 25 entreprises, dont NVIDIA, Microsoft et Meta, ont signé une lettre en faveur de l’IA ouverte. OpenAI et Anthropic n’ont pas signé la lettre, ce que Zuckerberg n’a pas manqué lors de sa conversation avec le Financial Times : « Les laboratoires de pointe voudront-ils qu’un modèle open source réussisse ? Je pense qu’il y a eu des signaux mitigés à ce sujet. »
Bien qu’il évite de mentionner explicitement OpenAI et Anthropic, Zuckerberg critique leur défense d’une IA fermée et contrôlée, allant jusqu’à dire que ce serait comme « abandonner nos valeurs ». Sa position est que l’IA devrait être accessible à un plus grand nombre de personnes, et non à un nombre restreint, comme semblent le préconiser ses concurrents : « Je pense que la tendance générale dans le secteur est vers une plus grande ouverture et vers une mise du pouvoir de la technologie entre les mains d’un plus grand nombre de personnes, et non d’un nombre réduit. »
La superintelligence unique. Zuckerberg met en garde contre le risque que l’IA finisse par être « centralisée » entre les mains de quelques groupes puissants et remet en question l’idée selon laquelle il existerait une seule superintelligence « alignée » qui représenterait toute l’humanité, une thèse défendue par Dario Amodei et OpenAI. « Je pense que beaucoup de gens pensent que si vous créez une IA unique, vous pouvez, grâce à une forme idéalisée d’alignement, garantir qu’elle soit bienveillante envers l’humanité. Personnellement, je suis sceptique quant à cette voie », a-t-il déclaré au New York Times. Et il va plus loin avec une phrase encore plus puissante : « Je pense qu’il est littéralement impossible d’avoir une seule superintelligence bienveillante qui s’aligne sur tout le monde à la fois. »
Superintelligence personnalisée. Face à ce modèle centralisé, le PDG de Meta défend une « superintelligence personnalisée », c’est-à-dire qu’au lieu d’une IA unique qui convient à tout le monde, il propose des systèmes qui s’adaptent aux besoins et aux valeurs de chacun. « Il s’agit essentiellement de la combinaison d’une IA très puissante et intelligente avec des informations contextuelles vous concernant », explique-t-il. Il illustre cela avec des exemples tirés de sa vie personnelle, comme l’utilisation de l’IA pour collecter des recettes et l’aider à obtenir tous les ingrédients ou à s’entraîner : « J’ai installé des caméras dans ma salle de sport, et elles m’enregistrent pendant que je m’entraîne et me donnent des informations à ce sujet. »
Le marketing de la peur. Depuis le lancement de Mythos/Fable puis de GPT 5.5, la peur est devenue le principal argument pour nous vendre leurs nouveaux modèles. Dario Amodei a récemment déclaré que « le Mythe est une arme totale. Vous devriez avoir besoin d’un permis d’armes pour l’utiliser ». Zuckerberg critique également cette approche dans sa conversation avec le New York Times : « Une grande partie du discours de nombreux autres laboratoires qui développent cette approche est plein de pessimisme. Il doit y avoir une voix, ou plusieurs, qui apportent du réalisme à ce débat. » Nous supposons que l’une de ces voix réalistes est la vôtre.
Chômage de masse. En parlant de peur, le chômage massif a été l’une des principales craintes et fait partie de ce discours pessimiste autour de l’IA. Comme Zuckerberg l’a déclaré au WSJ : « Jusqu’à présent, je pense que tout le travail autour de l’IA a créé beaucoup d’emplois, car toute cette infrastructure doit être créée. Cette préoccupation ne s’est donc pas concrétisée exactement comme les gens le craignaient. » Meta dépense beaucoup pour construire cette infrastructure qui, selon Zuckerberg, génère des emplois, mais il convient également de rappeler qu’il a récemment licencié 8 000 personnes de son entreprise. Pour une raison quelconque, je ne pense pas qu’ils soient vraiment d’accord avec cette affirmation.
Interdire l’IA chinoise. Les États-Unis ont accusé la Chine de plagier les modèles anthropiques et de plus en plus d’entreprises américaines se tournent vers l’IA chinoise. Dans ce contexte, les États-Unis envisagent d’interdire l’accès aux modèles chinois, mais Zuckerberg s’y oppose et estime que ce ne serait pas « une solution efficace ». Face aux sanctions étudiées par l’administration Trump, il propose que les entreprises américaines travaillent systématiquement à éliminer les freins à la concurrence. En d’autres termes, qu’ils ne réglementent pas trop et qu’ils le fassent.
Oui, mais. Que Zuckerberg vienne tout à l’heure critiquer OpenAI et Anthropic n’est pas une coïncidence. Les deux sociétés ont publiquement demandé une plus grande réglementation des modèles frontières, ce qui ne convient pas à Meta, qui est en retard dans le développement de ses propres modèles. Meta a les ingrédients pour avancer dans ses positions, mais un frein réglementaire pourrait désormais élargir encore plus la distance avec sa concurrence et, compte tenu de la folie avec laquelle Meta investit dans l’IA, cela pourrait signifier qu’elle ne finira jamais par rattraper son retard.
Images | But
À Simseo | « À moins d’assister à une croissance économique généralisée, ce film ne se terminera pas bien » : Satya Nadella, sur la bulle de l’IA
