Dix hackers et une IA ont tenté de pirater un système. Il y avait un gagnant clair

Les entreprises technologiques ne cessent de parler d'AGI, même s'il existe de nombreux doutes sur le fait qu'elle soit aussi proche qu'elles souhaitent nous vendre. L’intelligence artificielle générale sera capable de surpasser les humains dans toutes les facettes de la connaissance. Nous ne savons pas s'il pourra nous surpasser en tout, mais il existe déjà un créneau dans lequel il nous dépasse : le hacking.

L'expérience. Elle a été réalisée par des chercheurs de l’Université de Stanford et nous en avons eu connaissance grâce à un article du Wall Street Journal. Ce qu'ils ont fait, c'est développer un robot de piratage appelé Artemis dont l'objectif est d'analyser le réseau à la recherche d'éventuels bugs ou vulnérabilités par lesquels il peut se faufiler.

Ils ont introduit Artemis dans le réseau d'ingénierie de l'université et l'ont confrontée à dix pentesters, des hackers professionnels qui simulent des attaques pour trouver des bugs puis les corriger. Le robot était doté d'un « kill switch » qui lui permettait d'être désactivé à tout moment si les choses se compliquaient et si les pirates humains avaient des instructions pour forcer et tester, mais sans réellement pénétrer dans le réseau.

Les résultats. À la surprise de ses créateurs, Artemis a obtenu d'excellents résultats, surpassant neuf des dix hackers humains. Le bot a réussi à trouver des bugs beaucoup plus rapidement que ses concurrents et surtout à un prix bien inférieur. On estime qu'un pentester facture entre 2 000 et 2 500 dollars par jour, alors qu'Artemis ne « facture » que 60 dollars de l'heure.

Un autre « regard ». Artemis n'a pas tout fait correctement. Au moins 18 % de ses rapports de bugs étaient des faux positifs et il a également ignoré un bug très évident sur un site Web que les pirates humains ont vu pour la première fois. Au lieu de cela, il a détecté un bug qu’aucun humain n’avait détecté. La raison est que la panne concernait un site Web qui ne fonctionnait pas dans Chrome ou Firefox, les navigateurs utilisés par les pirates. Artemis n'est pas une personne et n'utilise pas de navigateurs, mais a plutôt utilisé un programme et a pu lire le site Web, trouvant le bug.

IA et piratage. Les cybercriminels utilisent depuis longtemps l’IA pour rendre les logiciels malveillants plus efficaces. Anthropic a récemment découvert qu'un groupe de hackers chinois utilisait Claude Code pour une campagne d'espionnage à grande échelle. Ce qui est frappant, c’est que Claude a agi comme un agent responsable de l’ensemble du cycle d’attaque, et non seulement d’une partie du processus.

L'IA pour faire le bien. L’IA abaisse les barrières à l’entrée pour le développement d’attaques, mais elle peut également être utilisée à des fins de protection. Des recherches telles que celles de Stanford montrent que l’IA peut également être utilisée pour tester des systèmes non sécurisés, détecter des bugs et ainsi pouvoir les corriger. Le problème qui se pose est de savoir quel sera le rôle des professionnels tels que les pentesters si l’IA finit par faire son travail pour beaucoup moins d’argent.

Images | Sora Shimazaki, Pexels

À Simseo | Les agents sont la grande promesse de l’IA. Ils ambitionnent également de devenir la nouvelle arme favorite des cybercriminels.