La vérification du code Signal était un défi qui a nécessité des années de travail d’experts. DeepMind dit que son IA l’a fait en un mois

Google DeepMind affirme que ses agents d’IA ont prouvé mathématiquement que des éléments clés du code derrière le protocole de cryptage de Signal font ce qu’ils sont censés faire. Le protocole protège les conversations privées dans Signal et Google Messages, et soutient également le cryptage WhatsApp, tel que partagé sur Wired. L’entreprise le décrit comme une étape importante dans la sécurité des logiciels, même si les chercheurs eux-mêmes soulignent qu’il s’agit d’une étape dans un processus plus long.

Vérifié, le protocole fonctionne. La vérification formelle consiste à utiliser les mathématiques, plutôt que les tests, pour démontrer que le logiciel se comporte comme prévu. Elle est considérée comme la garantie de sécurité la plus solide disponible, mais elle est traditionnellement lente et laborieuse. La plupart des vérifications des protocoles cryptographiques s’arrêtent à la phase de conception. DeepMind affirme que son système est allé plus loin, en vérifiant la mise en œuvre réelle, qui est précisément là où se cachent souvent les erreurs du monde réel.

La société affirme que c’est la première fois que la mise en œuvre d’un protocole largement déployé comme celui-ci est formellement vérifiée par quelque méthode que ce soit, avec ou sans IA.

Comment ça marche. Le système s’appelle AlphaProof Code, un framework qui combine divers modèles d’IA avec des experts humains. Pour ce faire, les chercheurs de DeepMind et plusieurs modèles d’IA ont traduit les objectifs de sécurité de Signal en spécifications formelles, et des experts humains ont examiné chacun d’eux. Les agents, propulsés par Gemini Carbon, ont écrit les tests, générant plus de six millions de lignes de Lean, un langage qui permet à un ordinateur de vérifier automatiquement les tests.

Ensuite, les agents ont audité leur propre travail et ont identifié environ 1 % de la base de code qui nécessitait une deuxième révision par un humain. DeepMind affirme que le travail a duré quatre semaines, une tâche qui prend historiquement des années aux équipes d’experts. Les tests couvrent des propriétés telles que la protection des messages avant et après qu’un appareil soit temporairement compromis.

Détecte-t-il vraiment les erreurs ? L’analyse n’a pas trouvé de nouvelles vulnérabilités dans les parties Signal, comme l’a partagé Wired. Pour tester si le système peut distinguer le bon code du mauvais, l’équipe a réintroduit deux bogues réels précédemment corrigés dans une version isolée du code de Signal. Dans les deux cas, dit DeepMind, le système a produit une preuve vérifiée par machine que la version boguée n’était pas sûre.

Entre les lignes. Le projet n’a pas vérifié l’intégralité de l’application mobile Signal, et Wired note que DeepMind avait l’avantage grâce aux précédents travaux de vérification formelle de la Signal Foundation. Ehren Kret, directeur de la technologie de Signal, a déclaré dans un communiqué que les travaux antérieurs « se concentraient sur de plus petites parties du code », tandis que l’approche de DeepMind « permet une expansion significative ». Il ajoute en outre qu’à mesure que les menaces de sécurité basées sur l’IA augmentent, la vérification donne à Signal « une confiance encore plus grande » dans ses garanties de confidentialité.

Les chercheurs disent également vouloir éviter une configuration dans laquelle l’IA écrit à la fois les objectifs et les tests. « Nous ne voulons pas de ce genre de monde dans lequel l’IA génère les objectifs et l’IA génère les tests et passe essentiellement des examens auto-écrits », a déclaré Swarat Chaudhuri, chercheur scientifique chez DeepMind, à Wired. « Il y a un juste milieu. » Pour cette raison, la partie humaine s’est chargée de revoir les spécifications et les sections marquées.

Les questions ouvertes. On ne sait pas vraiment si cela peut évoluer, et à quel prix. Selon Wired, DeepMind a effectué l’analyse du signal gratuitement dans le cadre d’un projet de recherche, mais ils n’ont pas indiqué le coût de l’opération ni s’ils envisageaient un produit de vérification commerciale. « Il y a un long chemin à parcourir avant de pouvoir étendre cela à tous les logiciels du monde, et nous voulons le faire », a déclaré Chaudhuri à Wired.

DeepMind indique qu’il ouvre le code source de ses artefacts de vérification formelle à la communauté et suggère que l’approche pourrait éventuellement être étendue à des systèmes tels que les micrologiciels de dispositifs médicaux et les logiciels de réseau électrique.

Image de couverture | Aussi AY

À Simseo | Anthropic a découvert ce que ma mère savait déjà : l’IA prend mieux soin des choses lorsqu’elle croit qu’elles lui appartiennent