Les agents IA apprennent à améliorer leurs propres logiciels. La clé est peut-être de prédire vos erreurs avant de les commettre.

Dans le développement de logiciels, modifier quelque chose pour l’améliorer ouvre toujours la possibilité de casser autre chose. Même un petit ajustement peut modifier le comportement d’un programme, donc proposer une modification et prouver qu’elle fonctionne sont deux tâches différentes. Transférons maintenant ce dilemme aux agents d’intelligence artificielle capables d’intervenir sur le code et les instructions qu’ils utilisent pour résoudre des tâches. Ils peuvent essayer de perfectionner leurs propres outils, certes, mais chaque tentative pose le même défi : savoir quand une modification en vaut la peine et quand elle peut introduire un problème qui n’existait pas auparavant.

Le défi de s’améliorer sans échouer. Une équipe de chercheurs de l’Université de Virginie, de Microsoft Research et de l’Université Tsinghua a développé un moyen de donner une chance supplémentaire à ces agents avant de tester leurs modifications. L’idée, présentée dans une étude publiée sur arXiv, est qu’un système essaie de prédire si une modification pourrait aggraver les résultats et, lorsqu’il détecte ce risque, permet de le réexaminer. Il ne s’agit pas de recycler l’intelligence artificielle, mais d’améliorer les programmes et les instructions qu’elle utilise pour travailler. Le but n’est pas d’éliminer toutes les erreurs, mais plutôt de mieux orienter les tentatives d’amélioration.

C’est ainsi que les agents sont modifiés. Imaginons deux agents d’intelligence artificielle travaillant ensemble. Le premier est dédié à la résolution de tâches, tandis que le second cherche des moyens d’améliorer son fonctionnement, en modifiant le code et les instructions utilisés par les deux. Ce dernier peut également modifier son propre logiciel. C’est ainsi que fonctionne HyperAgents, le système sur lequel repose la recherche et qui enregistre également les résultats des versions précédentes pour guider les modifications futures. Ce n’est pas la première tentative de réaliser quelque chose de similaire : en 2025, Sakana AI a présenté Darwin Gödel Machine, un projet qui explorait déjà comment un agent pouvait s’améliorer en modifiant son propre code.

Anticipez un problème avant de tester. Pour décider quand il est approprié d’examiner une modification, les chercheurs ont intégré le modèle de dynamique d’amélioration (IDM). Cette composante analyse le changement proposé et utilise l’expérience accumulée pour estimer ses conséquences possibles. Vous pouvez par exemple faire la distinction entre une tâche qui se terminerait par une réponse incorrecte et une autre qui ne serait même pas terminée. Si vous prévoyez une aggravation, autorisez un examen supplémentaire avant d’évaluer la version résultante. Lors d’un test, certaines instructions étaient laissées en dehors des guillemets correspondants et provoquaient une erreur de syntaxe. L’agent avait détecté le problème, mais avait épuisé ses appels aux outils avant de le réparer. Le prédicteur prévoyait que les tâches resteraient probablement incomplètes et a incité à un autre examen. Après avoir corrigé le code, la nouvelle version a réussi à résoudre 11 tâches. Le système effectue l’évaluation finale même si la dernière prédiction est défavorable.

Les tests montrent une amélioration. Les chercheurs ne se sont pas arrêtés à l’exemple des guillemets : ils ont testé les agents avec 166 tâches de programmation qu’ils n’avaient pas utilisées lors du processus d’amélioration ou pour sélectionner des versions. Pour considérer une tâche résolue, le système devait proposer une modification de code ayant réussi les tests correspondants. L’agent initial a atteint un taux de réussite d’environ 16 %, tandis que les versions sélectionnées d’HyperAgents, sans le nouveau prédicteur, ont atteint un taux médian d’environ 22 %. Avec la méthode de prédiction, ce chiffre atteint près de 30 %. Les résultats, obtenus à partir de cinq essais par configuration, indiquent une amélioration dans les conditions de l’expérience.

Un prédicteur qui apprend aussi. Il existe une deuxième capacité qui mérite attention : le système chargé d’anticiper les résultats peut également être amélioré. Tous les cinq tours, l’agent responsable des modifications propose des modifications à son fonctionnement, qui ne sont intégrées que si elles passent avec succès un contrôle ultérieur. Les chercheurs voulaient également savoir si cette expérience pouvait être utilisée dans différentes tâches. Après avoir perfectionné le prédicteur grâce à des travaux prédisant l’acceptation d’articles scientifiques et conçu des récompenses pour des robots simulés, ils l’ont utilisé pour guider l’amélioration de nouveaux agents chargés d’évaluer les solutions mathématiques. Dans 100 exercices réservés à l’évaluation finale, ces agents correspondaient exactement aux notes des experts dans une médiane de 55 % des cas, contre 51 % avec un prédicteur initial et 47 % pour les HyperAgents.

De meilleures performances ne signifient pas une baisse des coûts. Nous devons également tenir compte du coût de ces améliorations. Lors des tests de programmation, la nouvelle méthode nécessitait en moyenne 170 millions de jetons pour effectuer 40 tours, tandis que les HyperAgents en consommaient environ 49 millions. Nous parlons des unités de texte que les modèles d’intelligence artificielle traitent ou génèrent. La différence est considérable, même si elle ne raconte pas tout. Lorsque les chercheurs ont fait correspondre le budget symbolique des deux systèmes, la méthode avec prédictions a continué à surperformer tout au long du processus, avec un avantage de 10,9 % dans une mesure de performance cumulée. Bien entendu, l’étude ne propose pas une comparaison complète du coût total de calcul.

Ce qui reste encore à prouver. C’est une chose de réussir des tests de programmation et une autre de confier à un système les modifications des logiciels que nous utilisons quotidiennement. Les expériences de cette recherche, disponibles en pré-publication, ne garantissent pas que la méthode fonctionne de la même manière dans des projets réels ou qu’elle élimine le besoin de supervision humaine. Ils ne démontrent pas non plus que ces agents peuvent remplacer les professionnels chargés d’élaborer ou d’évaluer les programmes. Mais ils montrent qu’anticiper les résultats possibles peut aider à orienter les modifications. On revient ainsi au dilemme initial sous un autre angle : pour améliorer leur propre fonctionnement, ces agents ont besoin de quelque chose de plus que la capacité de changer les instructions et le code.

Image en vedette | Jakub Zerdzicki

À Simseo | Getty est la première grande entreprise du passé à tomber à cause de l’IA : si d’autres n’apprennent pas, ce ne sera pas la dernière