Générateur de « vaccins » malveillants sous licence pour la plate-forme de cybersécurité

L’accès à l’intelligence artificielle et à l’apprentissage automatique fait évoluer rapidement la technologie et le développement de produits, conduisant à des applications plus avancées, efficaces et personnalisées en exploitant une quantité massive de données.

Cependant, les mêmes capacités sont également entre les mains de mauvais acteurs, qui utilisent l’IA pour créer des logiciels malveillants qui échappent à la détection par les algorithmes largement utilisés par les outils de sécurité réseau. Les agences gouvernementales, les institutions bancaires, les infrastructures critiques et les plus grandes entreprises du monde et leurs produits les plus utilisés sont de plus en plus menacés par les logiciels malveillants qui peuvent échapper aux systèmes antivirus, détourner les réseaux, interrompre les opérations et exposer des informations sensibles et personnelles.

Une technologie développée au laboratoire national d’Oak Ridge du ministère de l’Énergie et utilisée par le US Naval Information Warfare Systems Command, ou NAVWAR, pour tester les capacités des outils de sécurité commerciaux a été concédée sous licence à la société de cybersécurité Penguin Moustache pour créer son Plateforme Evasive.ai. La société a été fondée par le créateur de la technologie, l’ancien scientifique de l’ORNL Jared M. Smith, et son partenaire commercial, l’entrepreneur Brandon Bruce.

« L’une des principales missions de l’ORNL est de faire progresser la science derrière la sécurité nationale », a déclaré Susan Hubbard, adjointe de l’ORNL pour la science et la technologie. « Cette technologie est le résultat de notre expertise approfondie en IA appliquée à un grand défi : protéger la cybersécurité et la sécurité économique du pays. »

Smith, qui a travaillé dans la division Cyber ​​​​Resilience and Intelligence de l’ORNL pendant six ans, a créé la technologie – le générateur d’entrées de logiciels malveillants contradictoires, ou AMIGO – à la demande du ministère de la Défense. AMIGO a été créé comme outil d’évaluation pour un défi lancé par NAVWAR pour les applications d’IA qui détectent et mettent en quarantaine de manière autonome les menaces de cybersécurité. NAVWAR est une unité d’opérations au sein de la Marine qui se concentre sur les communications et les réseaux sécurisés.

« La division Cyber ​​​​Resilience and Intelligence de l’ORNL est un leader mondial de la technologie de cybersécurité », a déclaré Moe Khaleel, directeur de laboratoire associé à la Direction des sciences de la sécurité nationale du laboratoire. « L’introduction d’AMIGO sur le marché contribuera à protéger l’infrastructure essentielle de notre pays contre les attaques. »

« Nous avons mis AMIGO à l’épreuve dans un environnement réaliste. Il a été mis à l’épreuve et a été validé à un niveau de préparation technique élevé », a déclaré Smith. « La technologie de base est conçue pour créer des logiciels malveillants évasifs, comme un virus, qui peuvent contourner une technologie de détection existante. »

S’appuyant sur plus de 35 millions d’échantillons de logiciels malveillants, certains accessibles au public et d’autres jamais vus auparavant, AMIGO génère des logiciels malveillants parfaitement évasifs en tandem avec les informations de formation nécessaires pour qu’un système de sécurité les détecte à l’avenir.

Smith compare le processus au développement de vaccins. « C’est comme si nous avions généré un million de variantes de virus et un million de vaccins pour nous protéger contre eux – nous pouvons le regrouper en un seul vaccin et inoculer tout le monde. Ils sont protégés contre la menace, mais aussi contre toutes les évolutions naturelles de la menace à l’avenir.  »

Luke Koch, qui en 2019 a travaillé dans l’équipe de développement d’AMIGO par le biais du programme SULI, ou programme de stages de laboratoire de premier cycle en sciences du DOE Office of Science, est maintenant doctorant au Bredesen Center for Interdisciplinary Research and Graduate Education, une collaboration entre l’ORNL et l’Université. du Tennessee, ainsi qu’un assistant de recherche diplômé au sein du groupe de recherche sur la cybersécurité de l’ORNL. Sous la direction de Smith, Koch a écrit le code d’instrumentation binaire utilisé dans AMIGO.

« La commercialisation de la cybersécurité est importante car nos adversaires recherchent toujours des faiblesses tout au long de la chaîne d’approvisionnement », a déclaré Koch. « Un seul défaut suffit pour invalider une défense intelligente et coûteuse. »

Au milieu d’une compréhension publique croissante de la puissance de l’IA, l’équipe est impatiente de voir AMIGO intégré à Evasive.ai et mis en œuvre par les agences de sécurité nationales pour protéger les actifs et les infrastructures du gouvernement.

« Les mauvais acteurs utilisent déjà l’intelligence artificielle pour faire avancer leurs attaques », a déclaré Bruce. « A mesure que les outils d’IA ouverts s’améliorent, les tentatives de pénétration des systèmes de sécurité augmenteront en volume et en sophistication. »

De plus, l’utilisation à long terme de la plate-forme Evasive.ai pourrait éclairer une compréhension plus complète des mécanismes qui contribuent aux échantillons contradictoires. Cette idée rendra la prochaine génération de défenses d’apprentissage automatique plus robuste.

Et qu’est-ce que tout cela a à voir avec les pingouins ? Le nom ludique de l’entreprise est un riff sur le problème d’une petite mutation permettant à un virus d’échapper aux défenses existantes – un pingouin déguisé avec une moustache.