Tout le monde veut arrêter la course à l’IA. Il y a un problème : personne ne fait suffisamment confiance à l’autre pour être le premier

Le PDG d’Anthropic, Dario Amodei, a surpris tout le monde ce week-end avec un message fort : ralentir le développement de modèles d’IA avancés. Cela, explique-t-il, nous donnerait le temps de comprendre les risques. Sam Altman et Elon Musk ont ​​soutenu l’idée, et Demis Hassabis et Satya Nadella se sont également prononcés en faveur d’une réflexion. Mais c’est une chose de le dire et une autre de le faire.

Amodei et un problème appelé Chine. Le PDG d’Anthropic reconnaît lui-même que le « dilemme le plus difficile » de sa proposition se situe en Chine. Si les sociétés américaines d’IA ralentissent le développement de leur modèle mais que les sociétés chinoises continuent de progresser, les États-Unis pourraient perdre leur avantage dans une technologie de plus en plus stratégique et potentiellement militaire. Amodei estime qu’à long terme, des accords entre les pays seront nécessaires pour ralentir le rythme, mais il reconnaît qu’il existe trop d’incitations pour que les rivaux tentent de dépasser les autres.

Trump n’est pas disposé à prendre ce risque. Le président américain a rejeté cette possibilité et son raisonnement est bien plus simple. Selon lui, le freinage n’est pas possible car « celui qui gagne l’IA gagne ». Même s’il n’exclut pas la conception d’un certain type de garde-fou, il refuse d’arrêter le développement de modèles avancés car cela permettrait à la Chine de réduire son avantage, voire de surpasser les États-Unis dans ce domaine. C’est comme si le commentaire d’Amodei avait donné de l’essence à l’argument du gouvernement : si l’IA peut devenir aussi puissante que le prétend Anthropic, les États-Unis ne peuvent pas se permettre de ralentir son développement.

Il est intéressant de noter que la Chine veut également des règles. Xi Jinping s’est plongé dans le débat et appelle à un cadre de gouvernance mondiale de l’IA « fondé sur le consensus ». Il a même présenté cette proposition aux pays BRICS (Brésil, Russie, Inde et Chine) pour renforcer cette alliance. La Chine propose également la création d’une communauté d’IA Open Source au sein de ce bloc. Ou ce qui revient au même : le discours est très similaire à celui des États-Unis, même s’ils ne le disent pas clairement. Un journal d’État chinois a qualifié le discours d’Amodei de tactique de guerre froide. D’autres disent que ce que fait Amodei, c’est utiliser la même technique que celle utilisée par les institutions religieuses depuis des siècles.

Peut-être que s’arrêter, c’est plutôt fermer. L’une des critiques adressées aux propositions d’Amodei est que les grands laboratoires d’IA ne cesseront pas nécessairement de développer des modèles de plus en plus avancés : ils limiteront simplement le nombre de personnes pouvant les utiliser. Le célèbre analyste Ben Bajarin estime qu’il y aura des modèles de cybersécurité frontières réservés aux gouvernements et aux grandes entreprises – Mythos en est l’exemple parfait. La course à l’IA continuera donc d’exister, mais une part croissante se déroulera en coulisses, à huis clos.

Bonjour, le dilemme du prisonnier. Les États-Unis et la Chine pourraient avoir un intérêt commun à empêcher l’émergence d’une IA que personne ne peut contrôler, ce qui devrait inciter les deux puissances à ralentir le rythme de leur développement. Le problème est ce que nous avons évoqué : la décision claire pour chaque « joueur » est de continuer à courir alors qu’il n’y a aucune garantie que le rival s’arrêtera. C’est le vieux dilemme du prisonnier : deux personnes ne peuvent pas coopérer même si cela va à l’encontre de leurs intérêts communs.

Les entreprises ont le même problème. La réflexion d’Amodei et Anthropic est exactement ce que le public a besoin d’entendre, mais il y a une réalité : s’ils voulaient retarder leur prochain Claude, ils pourraient le faire : personne ne les arrête. Le célèbre entrepreneur et investisseur David Sacks critique justement cette position d’Amodei ou d’Altman : s’ils veulent vraiment aller plus lentement, ils peuvent le faire sans attendre la réglementation. Cependant, Anthropic devrait supposer qu’OpenAI, Google, xAI, Meta ou les laboratoires chinois profiteraient de ce temps pour rattraper et dépasser. Et si plusieurs entreprises décident conjointement de ne pas entrer en concurrence, des questions de réglementation antitrust pourraient se poser. Résultat : tout le monde veut être prudent, mais personne ne veut s’engager.

Le problème est aussi de savoir si vous freinez réellement. Pendant la guerre froide, les États-Unis et l’Union soviétique pouvaient négocier des limites sur les missiles, les bombardiers ou les têtes nucléaires et établir des mécanismes d’inspection et de surveillance pour faire respecter ces limites. Avec l’IA, contrôler le rythme de l’entraînement est bien plus compliqué. L’accès à des ressources telles que les puces ou l’énergie permet d’établir des points de contrôle, mais les logiciels s’améliorent, les algorithmes sont de plus en plus efficaces et les modèles peuvent être entraînés dans des systèmes distribués. Il semble très difficile pour les États-Unis de simplement faire confiance à la Chine et vice versa.

À Simseo | OpenAI vient de publier son modèle frontière. Ensuite, leur scientifique en chef a déclaré qu’ils allaient peut-être trop loin