Anthropic met en garde contre une campagne de piratage basée sur l'IA liée à la Chine
Une équipe de chercheurs a découvert ce qu’ils disent être la première utilisation signalée de l’intelligence artificielle pour diriger une campagne de piratage informatique de manière largement automatisée.
La société d’IA Anthropic a déclaré cette semaine avoir perturbé une cyberopération que ses chercheurs associaient au gouvernement chinois. L’opération impliquait l’utilisation d’un système d’intelligence artificielle pour diriger les campagnes de piratage, ce que les chercheurs ont qualifié de développement inquiétant qui pourrait considérablement élargir la portée des pirates informatiques équipés de l’IA.
Même si les inquiétudes concernant l’utilisation de l’IA pour piloter des cyberopérations ne sont pas nouvelles, ce qui est préoccupant à propos de la nouvelle opération est la mesure dans laquelle l’IA a pu automatiser une partie du travail, ont déclaré les chercheurs.
« Même si nous prévoyions que ces capacités continueraient d'évoluer, ce qui nous a frappé, c'est la rapidité avec laquelle elles l'ont fait à grande échelle », écrivent-ils dans leur rapport.
L’opération était de portée modeste et ne ciblait qu’une trentaine de personnes travaillant dans des entreprises technologiques, des institutions financières, des entreprises chimiques et des agences gouvernementales. Anthropic a remarqué l'opération en septembre et a pris des mesures pour l'arrêter et informer les parties concernées.
Les pirates n'ont « réussi que dans un petit nombre de cas », selon Anthropic, qui note que si les systèmes d'IA sont de plus en plus utilisés dans divers contextes de travail et de loisirs, ils peuvent également être utilisés comme armes par des groupes de hackers travaillant pour des adversaires étrangers. Anthropic, créateur du chatbot génératif d'IA Claude, est l'une des nombreuses entreprises technologiques proposant des « agents » d'IA qui vont au-delà de la capacité d'un chatbot à accéder à des outils informatiques et à prendre des mesures au nom d'une personne.
« Les agents sont précieux pour le travail quotidien et la productivité, mais entre de mauvaises mains, ils peuvent augmenter considérablement la viabilité des cyberattaques à grande échelle », concluent les chercheurs. « Ces attaques ne feront probablement que gagner en efficacité. »
Un porte-parole de l'ambassade de Chine à Washington n'a pas immédiatement renvoyé de message sollicitant des commentaires sur l'information.
Microsoft a averti plus tôt cette année que les adversaires étrangers adoptaient de plus en plus l'IA pour rendre leurs cyber-campagnes plus efficaces et moins gourmandes en main-d'œuvre.
Les adversaires de l’Amérique, ainsi que les gangs criminels et les sociétés de piratage informatique, ont exploité le potentiel de l’IA, l’utilisant pour automatiser et améliorer les cyberattaques, propager une désinformation incendiaire et pénétrer des systèmes sensibles. L’IA peut par exemple traduire des e-mails de phishing mal rédigés en anglais courant, ainsi que générer des clones numériques de hauts fonctionnaires.
