Anthropic est au moment le plus important de son histoire et a un avertissement : nous devons lever l’accélérateur de l’IA

Anthropic et OpenAI s’affrontent dans deux courses parallèles. D’une part, la course au meilleur modèle qui continue de pousser l’IA de pointe. D’autre part, entrer en bourse pour devenir une entreprise publique. Le vainqueur du premier est discutable, mais dans le second concours, c’est Anthropic qui a l’avantage.

Ce lundi, il a confirmé avoir déposé sa candidature à l’introduction en bourse tant attendue, qui pourrait devenir la plus grande opération de ce type dans l’histoire qui, comme l’a commenté mon collègue Javier Pastor, n’est pas sans rappeler l’entrée en bourse de Netscape et le début de la fièvre dotcom. Et c’est précisément dans ce scénario que l’entreprise a lancé une annonce intéressante : une pause mondiale doit être faite dans le développement de l’IA de pointe.

Et il est tout à fait logique que ce soit quelque chose qui ne peut pas arriver compte tenu de la situation entre les deux puissances qui sont dans la guerre technologique actuelle.

Lâcher l’accélérateur contre la course à la technologie

Anthropic utilise depuis un certain temps quelque chose de curieux : la tactique de la peur. C’est quelque chose que leur principal rival leur a lancé à la face (pour faire automatiquement exactement la même chose), mais la vérité est que les gens de Dario Amodei lancent de temps en temps des « bombes » sur le fait que les humains courent le risque de perdre le contrôle de cette technologie, Amodei assurant qu’il est possible que « les choses se passent très, très mal ».

Dans un article récent, la société derrière Claude a indiqué qu’elle serait heureuse de lâcher le pied uniquement sur le développement de pointe de l’IA, et cela est important, si elle était sûre que d’autres feraient de même. Encore une fois, ils comparent cela au développement de la guerre, comme s’il s’agissait d’une explosion du nombre d’armes nucléaires, notant qu’ils pensent que ce serait une pause positive lorsqu’on compare l’augmentation des IA de plus en plus performantes avec un « problème de contrôle des armements ».

Lorsqu’ils parlent d’IA de pointe, ils font référence à différents modèles, mais ils se concentrent sur ceux qui se développent eux-mêmes. Dans un document partagé ce jeudi, deux poids lourds de l’équipe de recherche de l’entreprise ont déclaré que la technologie de l’IA approche du point où les systèmes peuvent s’auto-développer. C’est-à-dire : l’IA s’écrit pour s’améliorer.

Mais s’ils sont si proches (du moins c’est ce qu’ils disent puisqu’ils parlent de la même chose depuis des mois), pourquoi s’arrêter ? Enfin, pas pour le secteur technologique, mais pour tout le reste. Anthropic estime qu’un ralentissement permettrait à d’autres acteurs – pays et régulateurs, par exemple – de rattraper leur retard technologique.

Ils estiment qu’« il serait bon que le monde ait la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe afin de permettre aux structures sociales et à la recherche de suivre le rythme ». Le problème réside dans la coordination entre les pays, car il n’y a aucune confiance dans le fait que les pays se disent la vérité.

Comme on le lit dans The Telegraph, l’entreprise a noté qu’« un ralentissement ou une pause significative nécessiterait que plusieurs laboratoires disposant de ressources suffisantes à la frontière ou à proximité acceptent de s’arrêter dans les mêmes conditions », mais le problème est que « cela nécessiterait également que chacun soit en mesure de vérifier ce que font les autres et de s’assurer qu’ils se sont réellement arrêtés ».

Cela a évidemment suscité des critiques, comme le fait qu’Anthropic surestime ses capacités (à cause de l’IA qui s’écrit elle-même) ou exagère les capacités de l’IA afin d’introduire des réglementations qui « nuisent » à ses concurrents.

En tout cas, cet arrêt ne se produira pas dans un contexte dans lequel les États-Unis et la Chine ne peuvent pas se permettre de lever le pied de l’accélérateur, car ils se trouvent dans une compétition dans laquelle la Chine affirme clairement qu’elle veut être la première puissance technologique à court terme et les États-Unis, évidemment, ne veulent pas le permettre.

À Simseo | Xiaomi teste la mère des IA pour ses voitures, ses téléphones portables et sa maison. Et il n’y a aucune trace de Google ou d’OpenAI