Un agent d’IA a mené une cyberattaque en Espagne. L’AEPD n’en avait jamais vu
L’Agence espagnole de protection des données (AEPD) a reçu pour la première fois notification d’une violation de données personnelles dans laquelle un tiers aurait utilisé un agent IA pour exécuter et contrôler différentes phases de l’attaque. On ne sait pas quelle entreprise a été attaquée ni quel modèle a été utilisé, mais pour l’Agence, c’est le signe que la menace théorique et potentielle de l’IA est désormais réelle.
Que s’est-il passé ? Selon les informations communiquées par l’entreprise concernée, l’agent IA a commencé à rechercher des vulnérabilités dans les fichiers génériques et a réussi à se connecter (). Une fois à l’intérieur du système, il a continué à rechercher les vulnérabilités de manière autonome. Il en a trouvé au moins un qui lui permettait de modifier des données personnelles et d’accéder à des factures. Il y a un détail pertinent : l’AEPD n’a pas encore analysé les informations reçues et n’explique pas comment ont été obtenues les autorisations pour démarrer la session.
Cela dessine un avenir inquiétant. Un agent IA va au-delà d’un chatbot : il répond non seulement aux questions, mais est capable de recevoir une demande pour atteindre un objectif, de la diviser en sous-tâches, puis d’utiliser des outils, d’exécuter du code et de consulter des informations pour décider quoi faire ensuite.
Saut qualitatif. C’est précisément ce qui inquiète l’AEPD : l’IA n’est plus un assistant qui vient en aide à un cyber-attaquant humain, mais plutôt un attaquant virtuel autonome. L’agence parle ici d’un « changement qualitatif » dans le domaine de la cybersécurité.
Ce n’est pas un cas isolé. Google a averti il y a quelques jours que les agents d’IA utilisés par les cybercriminels et les groupes d’espionnage commençaient à cesser d’être des expériences et à devenir des outils très puissants. Son équipe de renseignement sur les menaces a tout découvert, depuis les groupes utilisant des modèles d’IA pour dépanner lors d’une intrusion jusqu’à l’ensemble d’un processus de vol d’informations d’identification multi-agents.
Des milliers de données en six heures. Cette opération a réussi à élever les privilèges et à compromettre des milliers d’informations d’identification en seulement six heures. Cela représente un risque important, car les agents peuvent automatiser des processus que nous connaissons déjà et les exécuter beaucoup plus rapidement.
L’IA à l’attaque. C’est justement la préoccupation que met en avant l’AEPD : un agent IA peut analyser plusieurs fichiers en même temps, essayer différentes voies d’entrée et modifier sa stratégie en fonction de ce qu’il trouve. De plus, si vous obtenez un compte, une clé ou un jeton avec trop d’autorisations, vous pouvez passer d’un service à l’autre avant qu’une entreprise ne détecte quoi que ce soit d’anormal.
Les logiciels malveillants sont un euphémisme. C’est pourquoi l’AEPD indique que les entreprises devraient inclure les attaques impliquant des agents d’IA dans leur analyse des risques. Il ne suffit plus d’avoir une catégorie « malware », car ces nouveaux types de menaces ont une ampleur et se produisent à une vitesse bien plus grande.
Comment se défendre ? La supervision humaine reste essentielle pour l’Agence, mais la sécurité ne peut plus en dépendre seule. L’IA a démontré qu’il était possible de détecter les vulnérabilités et de les corriger, mais grâce aux agents d’IA qui peuvent être utilisés par les cybercriminels, la défense et l’attaque se produisent désormais à une vitesse et une capacité qui dépassent celles des experts humains. Le Centre National Cryptologique (CCN) pointe ce changement de paradigme, et propose un guide de bonnes pratiques pour éviter ces menaces.
Images | Chris Ried
À Simseo | Anthropic veut donner un arbitre à l’IA. Le problème est de savoir qui a choisi de le faire
