Mark Zuckerberg est clair : « Tout laboratoire d’IA qui ne se concentre pas sur l’alignement sera laissé pour compte »
Les sociétés d’IA « jouent avec nos vies ». C’est ce qu’a déclaré Jacob Coxon, ancien ingénieur d’Anthropic, juste après avoir quitté l’entreprise. Ce qui a suivi a été un tremblement de terre qui a bouleversé l’industrie de l’IA. D’un côté, les responsables des entreprises d’IA, dirigés par Dario Amodei, qui préconisent de freiner et de ralentir le développement face à un risque imminent pour l’humanité. De l’autre côté, nous avons Trump et Jensen Huang, qui veulent exactement le contraire : accélérer. Il y avait un leader technologique qui ne s’était pas encore exprimé : Mark Zuckerberg.
Zuck a parlé. Dans un message publié sur son site, Zuckerberg ne nie pas l’existence de risques, mais il rejette une pause coordonnée pour l’ensemble de l’industrie et transfère la responsabilité de la création de produits sûrs directement aux laboratoires. En outre, il leur rappelle que les laboratoires « s’exposent à une responsabilité juridique importante si leurs modèles causent des dommages ».
L’alignement n’est pas secondaire. Pour Zuckerberg, la sécurité et l’alignement des modèles ne sont pas secondaires, mais essentiels au développement de l’IA. La proposition lancée par Amodei est de ralentir le développement pour permettre à la sécurité de rattraper son retard. Zuckerberg est clair : « Mon point de vue est que la confiance et l’alignement deviennent rapidement les capacités les plus importantes qui différencieront les agents et les modèles. Tout laboratoire qui ne se concentrera pas sur l’alignement sera laissé pour compte. »
Aucune auto-amélioration, merci. Zuckerberg a également critiqué la course à l’auto-amélioration dite récursive de l’IA, c’est-à-dire aux modèles parvenant à s’améliorer eux-mêmes. Selon lui, les laboratoires ne devraient pas consacrer une grande partie de leur informatique à cela, mais plutôt au « service aux personnes », car c’est « l’un des meilleurs moyens de garantir que nous développons cette technologie en toute sécurité ». C’est une critique indirecte, mais assez claire, de la création d’une superintelligence qu’Anthropic a mise au centre de son argumentation.
Meta le fait déjà. Zuckerberg n’a pas manqué l’occasion de souligner que Meta se conforme déjà à toutes les actions proposées par Amodei. Il dit qu’ils ont retardé le lancement de leur modèle Muse « de plusieurs mois pour se concentrer sur la sûreté et la sécurité », ajoutant : « Nous n’avons pas demandé à tout le monde de le faire. Nous l’avons simplement fait dans le cadre de notre travail quotidien parce que c’était clairement la bonne chose à faire pour les gens et pour nous. C’est clairement un coup porté au discours d’Amodei, qui demande que tout le monde s’arrête en même temps et crée un cadre réglementaire autour de cela.
Le PDG de Meta souligne également que son entreprise intègre déjà des évaluateurs et des conseillers indépendants « dans plusieurs domaines car cela contribue à produire un meilleur travail », et lance une autre flèche : « D’autres laboratoires peuvent tout simplement le faire aussi ».
Ce sont vos concurrents. Zuckerberg ne s’aligne pas sur OpenAI et Anthropic est parfaitement logique d’un point de vue concurrentiel. L’entreprise a fait de gros efforts pour réduire l’écart avec ses concurrents, à commencer par le recrutement de nombreux ingénieurs et chercheurs qui se sont vu offrir des salaires fous. Meta a déjà publié son modèle Muse Spark AI, un agent personnel, et une nouvelle version est attendue dans les semaines à venir, selon le New York Times. On parle d’un modèle qu’ils appellent en interne Watermelon, et ce sera le plus puissant qu’ils aient réalisé à ce jour.
Images | Simseo avec Magnifique
À Simseo | Y a-t-il vraiment 10 % de chances que l’IA provoque l’extinction des humains ? La réalité derrière la nouvelle panique apocalyptique
