a choisi le plus risqué

17h01 ce vendredi 27 février. C'est le délai que les États-Unis ont donné à Anthropic pour accorder au Pentagone les pleins pouvoirs sur l'utilisation de son IA. C'est son logiciel qui est entièrement intégré aux systèmes de Palantir et du ministère de la Défense, mais les États-Unis pensent qu'ils ont un problème : Anthropic a lié son IA à des règles morales qui ne devraient pas exister. Alors cette semaine, la Défense leur a envoyé un message : soit ils leur donnent une IA sans restrictions, soit il y aura des conséquences.

Et Anthropic a répondu par un « non » catégorique.

Des frictions monumentales. Ici, nous ne sommes pas face à un conflit entre entreprises : c'est une entreprise contre son gouvernement. Anthropic a proposé son IA au Pentagone pour l'intégrer dans ses systèmes. Il l'a fait à un prix symbolique : un dollar. Le Pentagone a accepté et la réponse a été un contrat de 200 millions de dollars. Le ministère de la Défense a commencé à intégrer l'IA d'Anthropic dans ses systèmes, avec tout ce que cela implique : un accès complet à des documents auxquels personne en dehors du Pentagone ne peut accéder.

Les États-Unis veulent également qu'elle soit un outil de terrain, mais il y a un problème : cette IA est « programmée » pour qu'elle ne puisse pas être utilisée pour la surveillance de masse des citoyens américains, pour le développement d'armes ou pour l'utilisation d'armes autonomes. C’est précisément ce que veut faire le Pentagone. Le secrétaire à la Défense a envoyé un message à Anthropic : soit donnez-leur une IA illimitée, soit faites-en un Huawei.

Ce sont mes principes. Dario Amodei, PDG de l'entreprise, a répondu aujourd'hui sur le blog Anthropic. Sa phrase d’ouverture est puissante : « Je crois profondément à l’importance existentielle de l’utilisation de l’IA pour défendre les États-Unis et d’autres démocraties afin de vaincre nos adversaires autocratiques. » Bon début pour ce qui semble être une déclaration dans laquelle il cède, mais… non.

Après avoir examiné ce qu'ils ont « renoncé » pour que leur IA soit dans les systèmes du ministère de la Défense et critiqué le fait que les États-Unis utilisent la lettre du Defence Production Act de 1950 pour terroriser un Anthropic qui sera rendu public cette année, la résolution est ferme : « nous ne pouvons pas accepter en bonne conscience cette demande ». L’entreprise est claire sur le fait que son IA peut être très utile au gouvernement, mais elle continue de s’opposer principalement à deux utilisations spécifiques :

• Espionnage de masse contre les citoyens américains, car l’IA peut constituer des bases de données complètes sur la vie de n’importe qui.
• L’utilisation d’armes mortelles autonomes auxquelles on ne peut pas faire confiance pour la prise de décision, car elles n’ont pas le jugement d’un soldat professionnel. Une IA ne remet pas en question, n’a aucun remords, ne se demande pas si elle a raison ou tort ou si le but est un faux positif. Une IA… s'exécute.

Nous avons allaité pour vous. Dans la déclaration, Amodei lance presque un plaidoyer, un « avec tout ce que je vous ai donné », affirmant que cet engagement envers les dirigeants des États-Unis a été contraire aux intérêts de l'entreprise elle-même. Ils soulignent qu’ils ont renoncé à « plusieurs centaines de millions de dollars pour empêcher que Claude soit utilisé dans des entreprises liées au Parti communiste chinois » et que cela leur a coûté quelques attaques de la part de la Chine, certaines de leurs entreprises tentant d’abuser de Claude.

Et c'est une lettre ouverte, une déclaration d'intention qui a été soutenue par les salariés des concurrents. Pour 219 de Google et 65 autres d'OpenAI. Beaucoup ont donné leur nom, beaucoup d'autres ont signé de manière anonyme, mais tous avec le même objectif : rejeter les demandes du ministère de la Défense d'utiliser leurs modèles pour la surveillance de masse et de « tuer des gens de manière autonome sans surveillance humaine ».

Il n’y a pas de juste milieu. Aussi belle et romantique que puisse paraître la déclaration des employés de Google et d’OpenAI, la réalité est différente. Ils défient le gouvernement, un gouvernement qui démontre continuellement que ce qu’il veut est réalisé (ICE, mouvements climatiques, départ de l’OMS, tarifs douaniers ou menaces contre les partenaires et alliés). Et le problème est qu’Anthropic a beaucoup à perdre, bien plus que ces 200 millions de dollars qui représentent de la monnaie dans le contexte des investissements dans l’IA.

S’ils cèdent, cela signifierait prendre du recul sur un aspect quasi fondateur de l’entreprise. S’ils ne cèdent pas, ils deviennent la « marque de prestige » de l’IA. Ils démontrent qu'ils disposent du modèle dont l'armée la plus avancée technologiquement a besoin aujourd'hui et qu'ils sont intouchables, du moins tant que les États-Unis, déjà à la recherche d'alternatives comme Google, X et OpenAI, trouvent une alternative. Mais ils courent le risque d’être mis sur liste noire par les États-Unis.

Le veto. Le gouvernement a menacé de condamner Anthropic comme étant une entreprise qui présente un « risque pour la chaîne d'approvisionnement ». Comme le souligne Amodei dans le communiqué, il s'agit d'une étiquette réservée aux adversaires du pays et qui n'a jamais été appliquée à une entreprise américaine. Cela mettrait Anthropic dans le même sac que Huawei et d’autres sociétés chinoises et empêcherait le reste des partenaires américains de conclure des accords avec eux.

Même s’ils ne cèdent pas, les États-Unis peuvent prendre le contrôle de l’IA par la force, avec la lettre du Defence Production Act. A travers ce décret, s'ils considèrent que cet outil est nécessaire et indispensable à la sécurité nationale, peu importe ce que dit Amodei.

Sur le toit du Pentagone. C’est là que se trouve la balle en ce moment, et le temps presse. Comme nous l’avons déjà dit, ce n’est pas une opération entre entreprises, ce n’est pas une lutte entre politiciens : c’est une entreprise menacée par son propre pays. Une menace qui consiste à dire « donnez-nous cela par des moyens équitables ou nous vous le retirerons par de mauvais moyens ».

Dans tous les cas, il faudra attendre de voir comment la journée se déroulera. Anthropic note que si le ministère de la Défense choisit finalement une autre entreprise, il œuvrera pour une transition en douceur. La question est de savoir s'il y aura une solution aussi pacifique, compte tenu du fait que l'IA d'Anthropic est déjà fortement intégrée dans les systèmes du Pentagone… et il ne semble pas réalisable pour eux de franchir un cap pour retracer ce qu'ils ont fait.

Images | La Maison Blanche et Fortute Brainstorm Tech

À Simseo | Un agriculteur de 86 ans s'est vu offrir 15 millions de dollars pour construire un centre de données. Il a dit non