OpenAI, Anthropic et Google demandent de nous protéger des risques de l’IA. C’est comme confier au loup la responsabilité du poulailler.

OpenAI, Anthropic, Google, Microsoft, AWS, IBM, Cloudflare, CrowdStrike, Palo Alto Networks et des dizaines d’autres entreprises ont signé une lettre ouverte avec un objectif commun : renforcer la cybersécurité face à l’arrivée de modèles d’IA de plus en plus puissants. La phrase par laquelle commence le document ne laisse aucun doute : « Nous disposons d’un laps de temps limité pour renforcer les cyberdéfenses ».

Ils parlent de mois et non d’années. Les signataires de cette lettre affirment que les cyberattaques assistées par l’IA seront bientôt « beaucoup plus répandues et sophistiquées », et mentionnent expressément les hôpitaux, les usines de traitement des eaux et les infrastructures Internet parmi tous les systèmes exposés. Le diagnostic est connu : nous n’avons pas patché certaines applications depuis des années, donnant des autorisations excessives à certains systèmes, les configurant davantage, intégrant des méthodes d’authentification faibles et, en général, laissant les portes ouvertes.

Quelle ironie. Les entreprises qui manifestent cette grande préoccupation et appellent désormais à une mobilisation mondiale pour s’attaquer au problème sont en grande partie les mêmes qui tentent depuis des années de remporter la course à l’IA avec des modèles de plus en plus puissants et polyvalents. OpenAI ou Anthropic ont fini par développer de grands modèles de langage au potentiel exceptionnel à la fois pour résoudre de vrais problèmes et provoquer des incidents de cybersécurité.

OpenAI a des raisons claires de prendre cette décision. L’incident de Hugging Face nous a montré jusqu’où une combinaison d’agents peut aller pour atteindre son objectif : environ 1 200 d’entre eux ont été testés pour voir s’ils accomplissaient une tâche de manière indépendante, mais près de 700 ont fini par unir leurs forces pour finir par échapper à l’environnement de test et compromettre la véritable infrastructure de Hugging Face. Ce n’était pas la première fois que ses agents parvenaient à éviter les barrières qui leur avaient été placées.

Aidez ceux qui n’en ont pas besoin. Les entreprises qui ont envoyé cette lettre ouverte ne demandent pas d’arrêter le développement de modèles avancés même dans le domaine de la cybersécurité. Ce qu’ils veulent, c’est les remettre le plus rapidement possible entre les mains des défenseurs. Ils recommandent d’utiliser des modèles bon marché pour les tâches de routine, des modèles frontières pour des problèmes plus complexes et quelque chose de spécial : un financement public pour les hôpitaux et les services essentiels qui leur permettent d’accéder à cette « IA défensive » avec laquelle même les entités disposant de peu de ressources peuvent se protéger.

Devoirs pour les entreprises d’IA. Le travail des entreprises dites « frontier AI », les plus avancées, doit fournir un accès responsable à ces modèles, et un « investissement significatif » pour la formation et l’éducation de ceux qui utiliseront ces modèles comme « défenseurs des infrastructures critiques ». Ou ce qui revient au même : plus d’IA pour résoudre le problème de l’IA.

Avantage pour les défenseurs. Il est vrai que l’IA peut découvrir des vulnérabilités, mais elle peut aussi découvrir des vulnérabilités, trouver et créer des correctifs ou encore détecter des configurations dangereuses. Cela devrait donner un avantage aux défenseurs, mais si les attaquants reçoivent les figurines en même temps, il peut y avoir un problème. C’est pourquoi le document parle littéralement de « nous disposons d’une fenêtre de temps limitée » : nous devons profiter de cette période pendant laquelle ces capacités peuvent renforcer et protéger nos systèmes actuels avant que d’éventuels cyber-attaquants n’y trouvent des failles de sécurité.

Mais le message est diffus. La lettre ouverte n’est rien d’autre qu’une déclaration de bonnes intentions, mais sans rien préciser. Il n’existe pas de chiffres d’investissement communs, de délais ou d’engagements qui puissent ensuite être quantifiés. Matt Parlmer a bien résumé cette situation lorsqu’il a déclaré qu’il serait plus utile pour OpennAI d’allouer une partie de ses énormes ressources à la vérification formelle des projets de logiciels Open Source dont dépend la moitié d’Internet. Vous avez tout à fait raison : si la situation est aussi grave qu’ils le prétendent, la prochaine phase devrait consister moins à écrire des lettres qu’à fournir de l’argent, des ingénieurs et des correctifs.

À Simseo | Daniel Púa, responsable de la sécurité chez Magnific : « Si Claude Opus 4.8 pouvait être un couteau, Mythos est une machette »