Un modèle OpenAI s’est échappé de l’environnement de test et a piraté une entreprise. Réponse d’Anthropic : tiens mon réservoir
La semaine dernière, OpenAI a publié un article dans lequel il expliquait comment, en testant son modèle GPT 5.6 Sol, il avait réussi à échapper à l’environnement de test prétendument isolé et à pirater les systèmes de la plateforme Hugging Face. Cet incident a alimenté l’inquiétude et a incité le président américain à envisager d’imposer des contrôles plus stricts sur les systèmes d’IA. Eh bien, Anthropic affirme désormais que ses modèles se sont également « échappés » et ont piraté non pas une, mais trois sociétés.
Que s’est-il passé ? Anthropic lui-même le raconte dans une nouvelle entrée sur son blog. Après avoir pris connaissance de l’incident d’OpenAI, l’entreprise a lancé un examen interne de ses systèmes et a découvert trois incidents au cours desquels ses modèles axés sur la cybersécurité avaient pénétré dans les systèmes de trois organisations différentes. Anthropic indique avoir contacté ces trois sociétés, dont l’identité n’a pas été révélée.
C’était une erreur. Contrairement au cas d’OpenAI, Anthropic affirme que ses modèles n’ont pas échappé délibérément à l’environnement de test, mais plutôt le résultat d’une erreur de configuration qui a laissé la connexion Internet activée, permettant aux modèles d’accéder à ces entreprises. La société affirme que les modèles ont effectué le piratage en utilisant des techniques de base telles que « l’exploitation de mots de passe faibles et de points de terminaison non authentifiés », mais n’ont découvert aucune vulnérabilité complexe.
Dans deux des trois incidents, les modèles ont décidé de poursuivre l’attaque : Opus 4.7 a volé les informations d’identification pour accéder aux systèmes d’une entreprise réelle et Mythos 5 s’est convaincu qu’il s’agissait d’une simulation. Cependant, le troisième modèle (non encore publié) a détecté qu’il disposait d’une connexion alors qu’il ne le devrait pas et a stoppé l’attaque.
Pourquoi c’est important. Plus que l’incident lui-même, ce qui est frappant, c’est qu’ils l’ont annoncé quelques jours seulement après qu’OpenAI ait publié le sien. Et ils le font avec des nuances importantes : il n’y a pas de vulnérabilités sérieuses, tout est dû à une erreur humaine et nous avons aussi un modèle si intelligent qu’il a arrêté l’attaque lorsqu’il s’est rendu compte de l’erreur. La concurrence entre OpenAI et Anthropic s’est beaucoup intensifiée ces derniers mois et avec l’introduction en bourse qui approche à grands pas, nous sommes entrés dans une dynamique dans laquelle ce que l’un réalise, l’autre fait plus et mieux.
Tirer avec peur. Nous avons déjà évoqué dans le passé comment la peur est devenue le principal argument de vente des nouveaux modèles OpenAI et Anthropic. Tout a commencé en avril lorsqu’Anthropic a annoncé que Claude Mythos avait découvert des centaines de vulnérabilités zero-day. Peu de temps après, OpenAI a annoncé GPT 5.5 Cyber avec le même script : un modèle si puissant que son lancement au public présenterait un risque pour la cybersécurité mondiale. À la base, le message fait toujours appel à la même chose : la peur qu’une IA devienne incontrôlable et finisse par se retourner contre nous, un scénario que l’on voit dans les films depuis des décennies et que plusieurs experts préviennent depuis un certain temps que cela ne pourrait plus être le cas.
Plus de réglementation. Ces incidents ont suscité des inquiétudes et renforcent l’argument selon lequel la technologie est si puissante qu’elle a besoin de quelqu’un pour la contrôler de l’extérieur. S’adressant au Wall Street Journal, le patron de la société de sécurité Corridor prévient que ces incidents ouvrent la porte à des attaques de ransomwares plus sophistiquées, notamment via des modèles de poids ouverts.
Dans le même temps, Anthropic et OpenAI s’efforcent de présenter ces failles comme des risques gérables et insistent sur le fait que leurs modèles de cybersécurité sont trop puissants pour être proposés au grand public, une position qui leur permet à la fois d’avertir des risques et de se positionner comme partenaires incontournables de toute régulation future.
Images | Simseo
À Simseo |
