Les agents sont la grande promesse de l’IA. Ils visent également à devenir la nouvelle arme préférée de CyberCouts

Les agents de l’IA ne sont pas l’avenir: ils sont là. Alors que les chatbots tels que Chatgpt ou Gemini continuent de gagner du terrain dans des tâches qui vont des doutes quotidiens pour vous aider à programmer des tâches, les grandes technologies ont commencé à prendre des mesures déterminées vers une nouvelle génération de systèmes beaucoup plus prometteurs. Ils sont capables d’exécuter des tâches, de prendre des décisions et de s’adapter à l’environnement. Ils ne répondent pas seulement: ils agissent. Et ce changement est présenté comme une avance très puissante.

OpenAI développe l’opérateur, un assistant qui peut naviguer dans des pages, réserver des voyages ou gérer des fichiers. Anthropic prouve son propre agent avec des fonctions similaires dans des environnements contrôlés. Google travaille à Jarvis, son futur majordome numérique. L’idée est claire: déléguer les tâches réelles dans les intelligences artificielles. Mais cette même autonomie qui en fait des alliés utiles en fait également un risque potentiel de cybersécurité.

Autonomie dangereuse. Contrairement aux robots traditionnels, les agents de l’IA ne se limitent pas aux instructions prédéfinies. Ils peuvent contrôler un système d’exploitation ou prendre des décisions en fonction du contexte. Entre de mauvaises mains, cette autonomie pourrait faciliter des attaques complexes sans avoir besoin d’experts humains. Certains tests de laboratoire montrent déjà comment ces modèles peuvent reproduire les opérations qui nécessitaient auparavant des connaissances techniques avancées, telles que l’automatisation des tâches d’espionnage ou la manipulation des configurations du système.

La menace commence à apparaître. Bien qu’il n’y ait aucune preuve qu’ils sont impliqués dans des cyberattaques à grande échelle, les signes ont commencé à apparaître. Des plates-formes telles que LLM Agent Honeypot, conçues pour détecter les accès suspects, ont enregistré des interactions avec des agents d’IA possibles. Dans deux cas confirmés, les agents ont répondu aux instructions intégrées avec une vitesse typique des modèles de langage, ce qui pointe leur sophistication croissante. Nous ne parlons pas encore d’offensives organisées, mais d’une phase de plus en plus réelle.

Moins cher, plus rapide, plus évolutif. Comme le souligne le MIT Technology Review, l’un des plus grands risques est le potentiel d’escalade. Un agent peut exécuter des actions automatisées des centaines de fois par une fraction du coût d’une équipe humaine. Pour les criminels, cela signifie élargir les opérations avec une efficacité sans précédent. Si aujourd’hui les attaques de masse nécessitent des investissements et du personnel spécialisé, demain ils pourraient être lancés automatiquement, en sélectionnant des objectifs et en explorant les vulnérabilités sans supervision constante.

Les détecter n’est pas si facile. Bien que les outils de cybersécurité actuels soient efficaces contre les menaces sophistiquées, les agents introduisent un nouveau type de défi. Contrairement aux logiciels malveillants classiques, ces systèmes peuvent raisonner, s’adapter à l’environnement et modifier leur comportement réel. Cette capacité à imiter avec des forces de trafic légitimes pour repenser les méthodes de détection et développer des techniques spécifiques pour identifier les modèles d’intelligence artificielle.

L’industrie explore toujours jusqu’où ces systèmes peuvent aller. Certaines enquêtes montrent que, compte tenu des instructions ambiguës, certains agents peuvent exécuter des actions inattendues. Bien qu’ils aient encore besoin d’un soutien humain pour terminer des attaques complexes, leur évolution est rapide. Et le plus dérangeant n’est pas ce qu’ils peuvent faire aujourd’hui, mais ce qu’ils pourraient faire demain.

Et ils le feront dans un scénario de plus en plus défavorable. Selon les données de point de contrôle, au troisième trimestre de 2024, les cyberattaques ont augmenté de 75% par rapport à la même période de l’année précédente. Chaque organisation a subi en moyenne 1 876 attaques hebdomadaires. Des secteurs tels que l’éducation, le gouvernement ou la santé sont parmi les plus battus, et des régions telles que l’Afrique, l’Europe et l’Amérique latine ont enregistré une croissance alarmante. L’industrie du matériel, par exemple, a vu les attaques augmenter de 191% en seulement un an.

Plus de 1 200 incidents de ransomwares n’ont été signalés qu’au cours de ce trimestre, affectant principalement les fabricants, les hôpitaux et les administrations publiques. Si ces types d’attaques sont délégués aux agents d’IA capables de sélectionner des objectifs et de lancer des offensives de chaîne, l’impact pourrait être tourné. Le panorama mondial est tendu et les agents pourraient être le multiplicateur que les attaquants attendaient.

Images | Simseo avec chatgpt | Recherche de palissade

Dans Simseo | Il y a une personne qui en sait plus que quiconque dans le monde sur les vols de mot de passe. Et ils volent juste son