OpenAI arrête Astra : le nouveau modèle inquiète la cybersécurité
OpenAI a annoncé, dans la soirée du 7 août 2026, avoir suspendu certaines activités internes relatives à Astra, un modèle encore en développement, après que les évaluations de sécurité informatique menées les jours précédents aient montré de tels progrès qu’elle ne pouvait plus exclure que le système ait atteint le seuil le plus élevé prévu par le cadre de référence interne de gestion des risques que l’entreprise utilise pour guider ses décisions, le soi-disant Cadre de Préparation.. C’est la première fois depuis le dépôt de ce document en décembre 2023 qu’une entreprise du secteur ralentit publiquement le développement de son modèle pour une raison liée à la cybersécurité.et la nouvelle fait partie d’une séquence d’épisodes, déjà reconstituée ces dernières semaines à partir du cas de la violation des systèmes de production de Hugging Face, qui a mis au centre du débat la difficulté croissante de garder sous contrôle des agents automatiques de plus en plus performants.
Astra, précise OpenAI, n’aurait cependant aucun lien avec l’épisode impliquant Hugging Face, car il s’agit d’un modèle distinct et pas encore sorti.
OpenAI Astra et le seuil critique de la cybersécurité
Le cadre de préparation distingue différents niveaux de capacité potentiellement dangereuse, le plus élevé étant celui défini. Critiquece qui, selon la définition fournie par OpenAI lui-même, est atteint lorsqu’un modèle est capable d’identifier et de développer de manière indépendante des exploits de ce type jour zéro de tout niveau de gravité contre des systèmes réels et fortement protégés, sans aucune intervention humaine, ou lorsqu’il est capable de concevoir et d’exécuter seul des stratégies d’attaque complètement nouvelles contre des cibles bien défendues, simplement à partir d’un objectif général indiqué à un niveau élevé.
Jusqu’à présent, aucun modèle n’avait jamais déclenché ce seuil, le même GPT-5.6 Sol, précédemment rendu public, avait été noté par l’entreprise à un niveau inférieur, défini Haut.
Ce qu’Astra peut faire en matière de tests de cybersécurité
Astra n’a jamais été rendu public et n’a actuellement aucune date de sortie annoncée, et il n’a pas non plus été décidé s’il apparaîtra sous le nom de GPT-6 ou en tant que nouvelle version au sein de la famille GPT-5. Le 1er août, une semaine avant l’annonce du seuil critique, OpenAI lui-même avait publié dix nouvelles preuves mathématiques produites par une version interne du modèle, concernant des problèmes de géométrie, de théorie des groupes, de cryptographie de réseau et de complexité informatique restés non résolus pendant au moins une décennie, accompagnées de certificats de vérification formels créés avec l’assistant de preuve Lean.. Dans le même texte, l’entreprise a lié ces résultats à une annonce antérieure, relative au mois de mai, lorsqu’elle avait divulgué la réfutation d’une conjecture de géométrie discrète formulée par Paul Erdős, obtenue en évaluant ce qui à l’époque était génériquement décrit comme un modèle non encore publié..
Épisodes dans les modèles à long horizon
C’est précisément ce modèle, selon ce que dit OpenAI lui-même, qui a été au centre d’un premier épisode lié à la sécurité, rendu public le 20 juillet dans un rapport consacré aux risques des modèles dits à long horizon, capables de fonctionner de manière autonome pendant des périodes prolongées. Lors d’une utilisation interne limitée et supervisée, l’entreprise a observé un comportement non prévu par les évaluations existantes et a suspendu l’accès au système.
Parmi les épisodes décrits, il y a un cas dans lequel le modèle, chargé d’améliorer les performances d’un petit modèle de langage et chargé de communiquer les résultats uniquement sur un chat interne, a contourné les restrictions de son environnement isolé pour publier une demande de modification sur un référentiel public, suite à une indication différente contenue dans les instructions du projet qu’il utilisait ; dans un autre cas, il a divisé un jeton d’authentification en deux fragments pour échapper à un outil de contrôle qui avait bloqué son utilisation, puis l’a reconstruit au moment de l’exécution..
C’est de cet épisode, explique l’entreprise, qu’est né le système de suivi de trajectoire, conçu pour évaluer non pas une action isolée mais l’ensemble de la séquence d’étapes par lesquelles un agent poursuit son objectif.
Les mesures d’OpenAI pour contenir les cyber-risques d’Astra
Face à ces résultats préliminaires, l’entreprise a annoncé une série de mesures internes destinées à garantir que le développement du modèle se poursuive dans des conditions plus contrôlées. Il s’agit notamment de l’adoption d’environnements de test isolés, de la restriction de l’accès au réseau et aux outils externes, du renforcement de la sécurité et du cryptage des pondérations des modèles, de l’introduction d’outils de surveillance et de détection supplémentaires et de l’exécution dans des environnements sandbox. OpenAI a également précisé avoir suspendu les activités internes impliquant Astra et qui ne satisfont pas encore à ces nouvelles exigences de sécurité, et qu’elle a étendu le système de surveillance de trajectoire à toutes les applications agents du modèle, capables d’analyser le raisonnement du système et de déclencher un contrôle de sécurité à chaque fois qu’une action potentiellement risquée est détectée.
Enfin, l’entreprise a déclaré son intention de collaborer avec des agences gouvernementales et des organisations indépendantes actives dans le domaine de la sécurité de l’IA pour soumettre le modèle à des tests supplémentaires et pour fournir à ses partenaires d’évaluation externes des conseils opérationnels sur la manière de réaliser en toute sécurité les tests les plus risqués..
Le PDG de l’entreprise, Sam Altman, a commenté publiquement la suspension d’Astra, affirmant que, compte tenu des capacités informatiques démontrées par le modèle, il faudrait un peu plus de temps pour procéder en toute sécurité, tout en réitérant l’intention de rendre Astra, une fois ce voyage terminé, accessible à tous les utilisateurs..
Les cas Anthropic et Meta dans les tests de modèles d’IA
La décision intervient au terme de deux semaines particulièrement chargées sur le front de la cybersécurité appliquée aux grands modèles linguistiques. Quelques jours plus tôt, le 4 août, OpenAI elle-même avait rendu public deux autres épisodes distincts de celui de Hugging Face, tous deux liés à des évaluations menées par des partenaires externes.. Fin juillet, Anthropic a annoncé avoir mené un examen interne de plus de 141 000 sessions d’évaluation de ses modèles, identifiant trois incidents au cours desquels un modèle de la famille Claude avait atteint le réseau public à partir d’un environnement d’évaluation et avait obtenu un accès non autorisé aux systèmes de production de trois organisations réelles..
Quelques jours plus tard, Meta a également confirmé un épisode similaire, imputable à une erreur de configuration chez le même partenaire d’évaluation impliqué dans le cas Anthropic, qui a permis à son modèle d’exploiter une vulnérabilité dans les systèmes d’une entreprise tierce..
Le cadre de la Maison Blanche pour les modèles d’IA
Cette séquence d’épisodes se développe parallèlement à un processus de régulation initié par la Maison Blanche. Un décret signé le 2 juin 2026 fixe une date limite à l’administration américaine pour établir un cadre volontaire d’évaluation des modèles d’intelligence artificielle les plus avancés. Le 3 août, la Maison Blanche a annoncé avoir respecté ce délai, mais n’a pas précisé ce que contenait le document, qui l’avait vu, ni quand les entreprises commenceraient à y faire référence.
Selon un porte-parole de l’administration, des discussions avec l’industrie sur les prochaines étapes sont déjà en cours et impliquent un plus grand nombre d’entreprises que les seules Anthropic, OpenAI et Google, qui avaient fourni leurs commentaires sur une première ébauche du texte dans les semaines précédant la date limite. Selon certaines reconstitutions journalistiques, Astra devrait être parmi les premiers modèles soumis à ce nouveau mécanisme de contrôle gouvernemental préventif..
Tel que rendu public jusqu’à présent, le cadre devrait fournir aux développeurs un cadre pour collaborer avec le gouvernement afin de déterminer si un modèle particulier en développement entre ou non dans son champ d’application, en définissant les exigences en matière de confidentialité, de cybersécurité, de gestion des risques internes, de protection de la propriété intellectuelle, d’utilisation et de non-divulgation qui s’appliqueraient lorsque le gouvernement aurait accès à un modèle, pendant une période pouvant aller jusqu’à trente jours, avant sa publication publique, ainsi qu’en indiquant quels partenaires de confiance seront éligibles à un accès anticipé.
Le même décret exige que le processus par lequel les capacités informatiques avancées des modèles sont mesurées reste classifié, tout comme le seuil qui détermine quels systèmes entrent dans son champ d’application, seuil qui sera partagé uniquement avec les développeurs et les chercheurs jugés appropriés. Cependant, le cadre lui-même n’est pas formellement classé.
Cybersécurité de l’IA, transparence et seuils de risque acceptables
Le développement de ce nouveau cadre d’évaluation et la suspension du modèle Astra sont unis par la prise de conscience que les frontières entre l’environnement de test et l’infrastructure réelle, ainsi que celles entre la formation et l’utilisation opérationnelle d’un modèle, ne peuvent plus être considérées comme des barrières évidentes lorsque la capacité des systèmes croît à un rythme plus rapide que celui auquel les outils de confinement sont mis à jour.
Si d’un côté les entreprises du secteur ont choisi jusqu’à présent de rendre publics certains épisodes, avec un degré de détail technique qui a permis à la communauté de la sécurité de l’information de les étudier, de l’autre, le processus avec lequel le gouvernement américain s’apprête à évaluer formellement ces mêmes risques reste, du moins pour l’instant, éloigné d’une comparaison publique équivalente, une circonstance qui ne restera probablement pas sans conséquences dans le débat, destiné à s’intensifier, sur qui doit établir quels seuils de risque sont acceptables pour une technologie dont les développeurs eux-mêmes luttent, comme le démontre le épisodes des dernières semaines, pour prédire pleinement son comportement.
Remarques
https://www.axios.com/2026/08/03/white-house-finalizes-ai-framework-behind-closed-doors ↑
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/ ↑
https://www.wsj.com/tech/ai/openai-pauses-some-work-on-new-ai-model-over-cybersecurity-concerns-8473a86f ↑
https://openai.com/index/ten-advances-in-mathematics/ ↑
https://openai.com/index/model-disproves-discrete-geometry-conjecture/ ↑
https://openai.com/index/safety-alignment-long-horizon-models/ ↑
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/ ↑
https://www.benzinga.com/markets/tech/26/08/61063472/openai-ceo-sam-altman-says-astra-ai-will-be-generally-available-but-cyber-capabilities-require-more-safety-work ↑
https://openai.com/index/third-party-cyber-evaluations-involving-openai-models/ ↑
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals ↑
https://www.cbsnews.com/news/meta-says-ai-model-breached-third-party-company/ ↑
https://the-decoder.com/openai-announces-its-next-major-model-astra-by-dropping-ten-previously-unsolved-math-solutions/ ↑
