Jensen Huang et d’autres PDG ont confronté Dario Amodei pour ses messages d’extrême sécurité

La réunion de mardi entre l’administration Trump et tous les grands noms de l’IA visait à montrer qu’il existait un écosystème d’IA uni. En coulisses, la tension était plus qu’évidente. Et selon le Wall Street Journal, plusieurs PDG, dont Jensen Huang (Nvidia), ont fait pression sur Dario Amodei (Anthropic), lui demandant pourquoi il est si alarmiste en public sur ce que les modèles d’IA peuvent faire et les risques qu’ils posent. Selon le média, Amodei a répondu que l’industrie devait faire preuve d’honnêteté publique sur les deux points.

Freiner ou ne pas freiner ? Il existe des tensions entre les laboratoires d’IA, et cette tension est marquée par les délais de développement très courts de leurs outils respectifs et, surtout, par la vision dont font preuve leurs top managers (du moins à huis clos). Amodei a averti qu’il était nécessaire que l’industrie ralentisse si nécessaire, ce que soutiennent à la fois les responsables d’OpenAI et de Google DeepMind et Elon Musk lui-même.

De l’autre côté, Huang et Mark Zuckerberg (Meta), qui soutiennent une approche plus permissive, une approche également partagée par la Maison Blanche (nous ne faisons pas confiance à la Chine pour freiner, donc je ne freine pas non plus).

Le parc. Il y a eu une certaine confrontation, selon le WSJ, et elle s’est produite après le repas, dans un groupe plus restreint comprenant des dirigeants et des conseillers de la Maison Blanche dans la salle Roosevelt. La réponse de Zuckerberg aux préoccupations d’Amodei en matière de sécurité, selon le même média, a été que la meilleure réponse était que l’ensemble du secteur se conforme aux nouveaux principes.

Ces nouveaux principes constituent un accord volontaire de deux pages signé par des dirigeants dont Anthropic, Google, Meta, Nvidia et OpenAI. Tel que partagé par CNBC, l’accord demande à chaque laboratoire d’IA de :

• Établissez une surveillance interne solide de vos modèles.
• Avoir une équipe interne qui vérifie que les contrôles fonctionnent.
• Faites appel à des auditeurs ou à des évaluateurs externes.
• Nommer un comité indépendant du conseil d’administration pour superviser cette équipe interne.

Lorsqu’on lui a demandé si l’accord était contraignant, Trump l’a qualifié de « moralement contraignant », comme le rapporte le New York Times. Le texte dit seulement qu’il pourrait être judicieux de transformer ces mesures en lois « au fil du temps ».

Ce n’est pas la première fois que les dirigeants de l’IA s’affrontent. Anthropic, OpenAI et Google s’étaient mis d’accord cet été sur un organisme d’autorégulation basé sur la FINRA, qui est précisément l’un des organismes qui régulent le marché boursier aux États-Unis. Selon le WSJ, Huang, Zuckerberg et Elon Musk ont ​​averti Trump que cela concentrerait trop de pouvoir dans les principaux laboratoires, et l’idée a été abandonnée.

Et bien, alors est arrivée toute une vague d’opinions publiques de la part de leurs dirigeants respectifs :

• Huang qualifie d’exagérées les craintes en matière de sécurité et préconise une approche non interventionniste, arguant que les règles permettraient à la Chine de dépasser les États-Unis, comme le note le New York Times. Mardi, lors du déjeuner, il a déclaré que l’innovation et la sécurité n’étaient pas incompatibles, comme l’a partagé le Washington Post.
• Zuckerberg s’est étroitement aligné sur la Maison Blanche. Le WSJ note qu’il s’est entretenu fréquemment avec Trump et le secrétaire au Commerce, Howard Lutnick, alors que les principes étaient en cours de finalisation.
• Amodei, qui a publié son essai sur les raisons pour lesquelles le rythme de l’IA devrait ralentir au début du mois, a appelé à des tests fédéraux des modèles d’IA, selon le New York Times.
• Musk s’est assis à côté de Trump au déjeuner, même s’il a soutenu les appels d’Amodei à ralentir le développement de l’IA, selon le Washington Post.

Amodei se trouve également dans une position délicate, car Anthropic prépare une introduction en bourse qui, espère-t-elle, la valorisera à environ 2 000 milliards de dollars, et est encore sous le choc de ses deux derniers démêlés avec la direction. L’une d’entre elles a été l’arrêt de deux de ses modèles pendant deux semaines et demie pour des raisons de sécurité ; l’autre, une liste noire du Pentagone sur la manière dont l’IA est utilisée dans l’armée.

Selon le média, Amodei a dîné avec Trump dimanche et a maintenu un ton conciliant, déclarant aux journalistes que si tout le monde travaille ensemble, « nous pouvons gagner en toute sécurité ».

Et maintenant quoi. L’accord est volontaire, et le New York Times note qu’il manque de détails et qu’il n’est pas clair qui le mettra en œuvre. Cela fait également écho aux engagements volontaires antérieurs de l’ère Biden qui ont été largement oubliés. Les médias affirment également que Trump a déclaré qu’il nommerait bientôt un « tsar de l’IA » et qu’il envisageait de créer un comité d’environ 10 personnes pour superviser l’IA, selon le même média.

Image de couverture | Tierney L. Cross (Bloomberg)

À Simseo | Sam Altman a fermé la porte à l’introduction en bourse d’OpenAI. Les investisseurs ont ouvert une fenêtre de 30 milliards