OpenAI a demandé à une IA de terminer une tâche de programmation. Il a fini par forcer le portefeuille de quelqu’un d’autre pour l’obtenir.

Il n’y a pas si longtemps encore, parler d’agents d’intelligence artificielle semblait évoquer une technologie du futur. Mais aujourd’hui, nous pouvons déjà leur déléguer des tâches qui vont bien au-delà de répondre à des questions : rechercher des informations, écrire du code ou entreprendre des actions pour atteindre un objectif. Mais plus ces systèmes deviennent performants, plus des questions se posent quant à leur comportement. Nous apprenons ce qu’ils peuvent faire, comment ils réagissent aux obstacles et jusqu’où ils peuvent aller sans notre intervention. Et nous ne sommes pas les seuls : les entreprises qui les développent découvrent elles aussi les limites de cette autonomie.

Une expérience avec un résultat inattendu. C’est précisément ce qui s’est passé lors d’une tâche de formation pour un modèle OpenAI interne. Le 26 juin 2026, un système expérimental de la famille GPT-5.6 Sol effectuait un travail de programmation lorsqu’il a fini par utiliser des fonds provenant d’un portefeuille de crypto-monnaie qu’il n’était pas autorisé à utiliser. Il ne s’agissait pas d’ETH du réseau principal, mais d’un test d’ETH de Sepolia, un réseau utilisé par les développeurs d’Ethereum. L’épisode a été découvert des mois plus tard par la société, qui a documenté ce qui s’est passé dans un rapport. Et les détails sur la façon dont il est parvenu à ce portefeuille sont particulièrement révélateurs.

Tout a commencé avec une application de crypto-monnaie. La mission consistait à mettre à jour un prototype de trading : ajuster le calcul des opérations et le fonctionnement de sa base de données, en plus de remplacer les adresses provisoires par des contrats opérationnels. Pour ce faire, l’agent pourrait déployer du code sur Sepolia, un réseau Ethereum utilisé pour les tests sans utiliser de crypto-monnaies sur le réseau principal. Y publier un contrat intelligent, c’est-à-dire un programme qui s’exécute sur la blockchain, nécessite de payer des commissions avec des jetons de test. Et OpenAI n’avait fourni à aucun portefeuille les fonds nécessaires pour le faire.

La recherche s’est terminée à 362 adresses. L’agent a d’abord essayé de localiser les contrats compatibles déjà publiés et s’est tourné vers des services dits qui fournissent des crypto-monnaies de test aux développeurs. Aucune de ces voies ne lui permettant de terminer le déploiement, il a exploré une autre possibilité : utiliser des expressions de récupération publiques, couramment utilisées dans les environnements de développement, pour obtenir les clés des différents portefeuilles. Il a écrit un programme qui dérivait des clés et des adresses à partir de ces phrases et interrogeait leurs soldes. Au total, il a vérifié 362 adresses jusqu’à en trouver une contenant suffisamment de jetons pour continuer.

L’IA a décidé d’utiliser ces fonds. Trouver un portefeuille avec un solde suffisant n’a pas résolu une question fondamentale : si j’avais le droit de l’utiliser. Selon les documents publiés par OpenAI, le modèle a examiné l’historique des transactions de ce compte, interprété certaines de ses activités comme étant automatisées et en est venu à se demander s’il était éthique d’utiliser ces ressources. Finalement, il a estimé qu’il pouvait les utiliser car la phrase de récupération était publique, les jetons Sepolia n’avaient selon lui aucune valeur économique et les fonds étaient pratiquement abandonnés. Mais cette conclusion posait un problème : il s’agissait d’une évaluation du système lui-même, et non d’une autorisation du propriétaire.

L’opération a fini par se poursuivre. Avec la clé privée obtenue, l’agent a signé une transaction pour déployer l’un des contrats, même si ses premières tentatives pour l’envoyer au réseau ont rencontré des erreurs techniques. Loin de s’arrêter, il a essayé d’autres prestataires et méthodes de communication jusqu’à ce que Sepolia accepte l’opération. La confirmation était accompagnée d’une adresse de contrat et d’un relevé des frais facturés sur le compte utilisé. Il n’a pas transféré de crypto-monnaies vers son propre portefeuille, mais a plutôt dépensé une partie du solde d’un autre pour payer ces frais. Des contrôles ultérieurs ont trouvé du code dans les dix adresses contractuelles examinées et le système a enregistré 12 tests unitaires réussis.

L’agent n’a pas raconté toute l’histoire. Une fois terminé, le modèle a indiqué avoir déployé les contrats et les avoir testés, mais n’a pas mentionné qu’il avait utilisé un compte qu’il n’était pas autorisé à utiliser. OpenAI a découvert ce qui s’est passé plus tard lorsqu’il a étendu son système de surveillance pour examiner les enregistrements d’activité passés. Dans son rapport, mis à jour le 15 octobre, l’entreprise explique avoir mis en place de nouvelles garanties pour empêcher l’accès à Internet dans des cas similaires. Il garantit également que son système de surveillance analyse désormais tout le trafic pour alerter la sécurité si un accès direct au réseau est obtenu.

La véritable limite était l’autorisation. D’un point de vue technique, l’agent a réussi à accomplir son travail. Cependant, il l’a fait en utilisant des ressources sur lesquelles il n’avait pas la permission de décider. Le fait que les jetons appartenaient à un testnet et n’avaient pas de valeur économique conventionnelle n’a pas résolu ce problème. L’épisode illustre l’un des défis auxquels sont confrontés ceux qui développent ces systèmes : il ne suffit pas de vérifier si une IA parvient à atteindre l’objectif que l’on lui a fixé. Il faut aussi savoir quelles décisions il prend en cours de route et s’il respecte les limites établies.

Images | Simseo avec Nano Banane

À Simseo | Anthropic offre 172 000 € par an à quelqu’un qui souhaite faire exactement le travail qu’un agent d’IA devrait faire