Dario Amodei est le PDG d’Anthropic et il est clair sur ce que les gouvernements devraient faire : empêcher les entreprises comme la sienne de concentrer le pouvoir.

Ce week-end, certaines des personnes les plus influentes du secteur de l’IA ont eu un débat assez intéressant sur le réseau social

Après s’être propagé comme une traînée de poudre, un échange de messages a suivi entre Baker, Sholto Douglas (responsable technique des infrastructures chez Anthropic), Amodei et même Yann LeCun (ancien scientifique en chef de l’IA chez Meta), entre autres. Ils ont tous eu leur mot à dire sur la question de savoir si le pouvoir de l’IA devait être concentré et réglementé, ou distribué aussi largement que possible.

Le déclencheur. Sur le podcast All-In, Gavin Baker d’Atreides Management a déclaré avoir entendu de « plusieurs personnes » en qui il avait confiance que Dario Amodei avait suggéré qu’Anthropic pourrait finir par devenir la seule entreprise privée au monde, avec les gouvernements comme seuls autres acteurs restants. Baker a qualifié le scénario de « superbe » et a déclaré qu’il « dissuaderait certainement Dario de jamais répéter cela à qui que ce soit ».

« Complètement faux. » Sholto Douglas d’Anthropic s’est empressé de réfuter cette affirmation, la qualifiant de « complètement fausse » dans

Bien que Baker soit revenu sur ses affirmations, il a recadré sa critique du propre message public d’Amodei, qui, selon lui, a toujours présenté l’IA comme suffisamment dangereuse pour nécessiter une réglementation. Pour Baker, la réglementation concentre inévitablement le pouvoir entre « quelques entreprises et quelques hommes politiques élus ». Il a également invoqué la phrase de Mark Zuckerberg dans ce manifeste sur l’IA, dans laquelle il disait que tout miser sur une seule puissance concentrée bienveillante « n’a pas historiquement conduit à des résultats sûrs ou positifs ».

Lettre ouverte. D’un autre côté, Baker a également souligné que les efforts réglementaires d’Amodei étaient en grande partie au point mort, rappelant que la plupart des principaux laboratoires d’IA, à l’exception d’Anthropic (et quelques autres comme Amazon), avaient signé la lettre ouverte de Jensen Huang, PDG de Nvidia, dans laquelle il demandait au gouvernement des États-Unis de ne pas imposer de restrictions ou de réglementations sévères sur les modèles frontières.

Domaines. Douglas, dans sa réponse, affirme que même les modèles entièrement ouverts « ne résolvent pas les inégalités » si l’informatique elle-même reste concentrée entre les mains de quelques laboratoires bien financés. D’un autre côté, Dario Amodei lui-même a rompu son silence pour répondre, arguant que l’approche consistant à « la concentrer par la réglementation ou à la distribuer largement » est un faux choix, soulignant également que des règles bien conçues « peuvent freiner les laboratoires d’IA pionniers (y compris Anthropic lui-même) tout en donnant plus de marge de manœuvre aux petits concurrents ». Amodei faisait référence au soutien d’Anthropic à un projet de loi californien qui impose des exigences de transparence spécifiquement aux grandes entreprises d’IA.

À propos de la poussée réglementaire « ratée ». Alors que Baker affirmait que les avertissements d’Amodei avaient pratiquement perdu le débat réglementaire, Amodei n’était pas d’accord, soulignant ses plans au sein de l’administration Trump pour des tests préalables au déploiement de ses modèles les plus avancés, ainsi que le soutien à un organisme de surveillance indépendant de type FINRA proposé par Demis Hassabis de Google DeepMind.

Pour Amodei, ces deux aspects sont des aspects qu’il considère comme une validation des positions qu’Anthropic défend depuis des mois, expliquant qu’il y a eu un changement par rapport à la position de la plupart de l’industrie des mois auparavant, lorsque, selon Amodei lui-même, la tendance dominante était « l’annulation totale de la réglementation de l’IA ».

Sur la critique du « catastrophisme ». Amodei qualifie la rhétorique de Baker dans ses déclarations de « disproportionnellement négative pour la perception publique de l’IA ». Pour le PDG d’Anthropic, il existe « fondamentalement une crise de confiance » qui découle de « des décennies d’érosion de la confiance du public dans les entreprises et les institutions » plutôt que de ses propres avertissements sur les risques. Il a également ajouté que la critique la plus précise adressée à des entreprises comme Anthropic n’est pas le message, mais plutôt le fait que « nous n’avons pas encore tenu nos grandes promesses au profit du monde », qualifiant cet échec de « entièrement de notre responsabilité ».

« Il devrait être ouvert. » L’ancien scientifique en chef de l’IA chez Meta, et aujourd’hui co-fondateur et PDG d’AMI Labs, Yann LeCun, s’est joint au débat pour réaffirmer une position qu’il défend depuis des années, à savoir que l’IA « devrait être ouverte, distribuée et diversifiée par défaut », en la comparant à l’imprimerie et à Internet. Il a également profité de l’occasion pour soutenir les affirmations de Zuckerberg sur la concentration du pouvoir dans un seul « acteur bienveillant », comme Baker.

Le débat sur l’IA ne porte plus seulement sur le modèle le plus puissant, mais également sur celui qui devrait en prendre les rênes. Qu’elle soit réglementée, qu’elle soit ouverte et diversifiée… Ce sont des déclarations qui peuvent façonner la technologie d’une manière ou d’une autre au cours de la prochaine décennie, il vaut donc plus que jamais la peine d’y prêter attention. Il n’est pas vrai qu’Anthropic finisse par être la seule entreprise privée existante.

Image de couverture | Wikimedia Commons et Anthropique

À Simseo | Anthropic explique comment fonctionne le nouveau filigrane de Claude : ça ne se voit pas, ça ne se remarque pas, ça ne s’efface (presque) pas, et ça ne prouve rien.