Kaspersky, comment protéger l’IA des entreprises contre les menaces émergentes

L’intelligence artificielle est dans la ligne de mire des criminels de haute technologie, avec des vulnérabilités et de nouvelles menaces pour les opérations commerciales et la cybersécurité.

Le deuxième trimestre 2026 a marqué un tournant dans la cybersécurité mondiale : selon le dernier rapport Kaspersky, le volume de failles enregistrées a atteint des sommets sans précédent. Cette accélération est directement due à l’adoption massive de l’intelligence artificielle, tant dans les processus métiers que dans le développement de logiciels.

Si l’IA représente un moteur exceptionnel de compétitivité pour les entreprises, elle redessine également la surface d’attaque des entreprises, introduisant des risques et des vulnérabilités structurelles que les dirigeants d’entreprise ne peuvent ignorer ou sous-estimer.

Le double rôle de l’IA : chasseur de failles et générateur de code non sécurisé

L’adoption généralisée de l’IA transforme l’écriture et les tests de logiciels. Au deuxième trimestre 2026, les outils d’IA se sont révélés extrêmement efficaces pour automatiser la recherche de code problématique.

Cette technologie a permis aux chercheurs d’analyser des quantités massives de code jusqu’alors non examinés, révélant ainsi des classes entières de vulnérabilités restées invisibles pendant des années. Un exemple est la découverte de la famille’Frag sale‘ au sein du sous-système réseau du noyau Linux, identifié grâce à une analyse assistée par l’IA.

Cependant, si l’intelligence artificielle est un excellent chasseur de bugs, elle est aussi une productrice de code dont la qualité et la sécurité sont très variables.

Le cercle vicieux de l’IA, vertueuse et aussi néfaste

De nombreux outils de développement basés sur l’IA génèrent du code sans surveillance humaine des principes de sécurité, introduisant involontairement des failles logiques et des faiblesses structurelles dans les logiciels d’entreprise.

Cette prolifération de codes non vérifiés alimente la croissance des vulnérabilités dans les bases de données mondiales.

C’est un cercle vicieux : l’IA est utilisée pour produire davantage de logiciels, introduisant de nouveaux bugs qu’une autre IA devra ensuite trouver, dans une course incessante qui met à l’épreuve les processus traditionnels de gestion des correctifs en entreprise.

Les vulnérabilités intrinsèques des nouveaux logiciels et outils d’IA

Un autre aspect critique concerne la sécurité intrinsèque des plateformes d’IA elles-mêmes.

À mesure que les entreprises intègrent des agents intelligents et des grands modèles de langage (LLM) dans leurs flux de travail, les outils utilisés pour gérer ces technologies deviennent des cibles privilégiées. Les données montrent que le nombre de failles signalées dans les outils d’IA, les plugins et les technologies associées est en constante augmentation.
La précipitation des développeurs de plateformes d’IA pour publier de nouvelles fonctionnalités éclipse souvent la sécurité. De l’analyse des types de vulnérabilités les plus courantes (selon la classification CWE) qui affectent les produits avec logique AI/LLM, trois macro-problèmes principaux émergent :

• contrôle d’accès inadéquat sur les objets système critiques ;
• mise en œuvre incorrecte des mécanismes d’authentification et d’autorisation ;
• injections (Injections) de code ou d’invites pouvant générer des perturbations et des risques.

Ce sont justement les vulnérabilités liées aux injections qui sont revenues avec force sur le devant de la scène avec la diffusion des agents d’IA. Ces systèmes basés sur des invites sont sensibles aux entrées manipulées qui peuvent fausser le comportement des modèles, permettant à des utilisateurs non autorisés d’exécuter des commandes ou d’accéder à des données sensibles.

Cas d’entreprises sous l’objectif

Pour comprendre l’impact réel de ces menaces, il est utile d’examiner certaines des vulnérabilités les plus importantes découvertes ces derniers mois.

Ces cas démontrent à quel point des failles apparemment mineures dans les plateformes d’orchestration d’IA peuvent compromettre la sécurité de l’ensemble de l’écosystème d’entreprise.

Par exemple, Open WebUI permet à ses employés d’interagir avec des modèles LLM locaux et d’entreprise. La vulnérabilité apparue concerne un contrôle d’accès inadéquat sur les opérations d’épinglage et de désépinglage des messages. L’application considérait ces actions comme de simples lectures, vérifiant uniquement les autorisations de visualisation de la chaîne et non celles d’édition.

Si cette faille ne permet pas l’exécution de code arbitraire, elle porte atteinte à l’intégrité des flux collaboratifs. Un utilisateur disposant de privilèges minimaux pourrait modifier le statut des messages épinglés, créant ainsi de la confusion et diffusant des informations trompeuses au sein des équipes.
Dify est l’une des plateformes de développement d’IA d’entreprise les plus utilisées pour créer des applications basées sur LLM. La faille trouvée dans ce cas est une vulnérabilité de traversée de chemin, provoquée par une normalisation insuffisante des chemins URL avant d’être transmis aux services internes.

Un utilisateur authentifié peut exploiter cette faiblesse pour « sortir » de son locataire réservé et accéder aux API REST internes non destinées à son profil. Dans les configurations d’entreprise, cette violation représente un risque très sérieux de violation de données et ouvre la voie à des attaques en chaîne.

OpenClaw et le vol silencieux des jetons d’authentification

L’impact du développement accéléré des outils d’IA est évident dans le projet OpenClaw, qui a collecté plus de 200 cas d’alerte au deuxième trimestre 2026, le plaçant à la douzième place parmi les logiciels avec le plus grand nombre de vulnérabilités publiées.

La faille la plus pertinente est liée à la gestion du paramètre gatewayUrl dans l’interface utilisateur. Le système fait confiance à ce paramètre transmis dans l’URL de l’entreprise, établissant automatiquement une connexion WebSocket à l’adresse indiquée et envoyant le jeton d’authentification de l’utilisateur sans aucune demande de confirmation.

Un attaquant peut alors inciter un utilisateur à cliquer sur un lien modifié, connectant le client à un serveur contrôlé par l’attaquant qui recevra alors le jeton d’accès, compromettant ainsi la session et les agents IA connectés.

Le développement de l’IA entre dans l’arsenal des cybercriminels

Le rapport met en évidence une tendance encore plus alarmante pour les entreprises : l’évolution des menaces persistantes avancées (APT).

Au cours du deuxième trimestre 2026, il y a eu l’un des premiers cas documentés dans lesquels un groupe APT a ciblé spécifiquement et systématiquement les technologies d’IA pour pénétrer les réseaux d’entreprise, en exploitant une vulnérabilité de la plateforme Langflow.
Les groupes APT font preuve d’une rapidité extraordinaire dans l’adoption et l’exploitation des nouvelles vulnérabilités dès leur publication. L’intégration rapide de l’IA dans les infrastructures d’entreprise a créé une vaste zone grise : parce qu’une grande partie de ces technologies sont propriétaires, récemment mises en œuvre ou développées sans une approche « sécurisée dès la conception », elles présentent des angles morts en matière de sécurité.

L’attaque contre Langflow démontre que l’infrastructure d’orchestration de l’IA est devenue une véritable tête de pont que les attaquants utilisent pour infiltrer les systèmes centraux des entreprises.

Faux exploits et rapports générés par l’IA

La manipulation de l’IA par des acteurs malveillants ne se limite pas à l’exploitation des failles, mais s’étend aux campagnes techniques sophistiquées de désinformation.

Au cours de la période considérée par les analystes de Kaspersky, il y a eu une augmentation significative des publications d’exploits et de recherches de vulnérabilités (notamment sur Microsoft Exchange et SharePoint), qui se sont révélées complètement fausses et générées avec l’aide de l’IA.
Ces faux rapports présentent un code source et des exposés techniques extrêmement formels et raffinés, suffisamment pour tromper même les analystes experts.

Les articles générés de cette manière décrivent des problèmes qui n’existent pas dans les mécanismes logiciels réels ou qui sont adjacents à des failles connues. L’objectif est d’obliger les équipes de sécurité à perdre un temps précieux à analyser les menaces fantômes, retardant ainsi la correction des vulnérabilités réelles.

Dans plusieurs cas, les descriptions de ces fausses failles ont été distribuées aux côtés de packages d’exploits contenant des logiciels malveillants sans rapport, prêts à infecter les propres systèmes des analystes.

Comment sécuriser l’IA d’entreprise

L’adoption de l’automatisation de l’IA dans le développement de logiciels et l’analyse des vulnérabilités est désormais un fait irréversible et accompli. Les entreprises ne peuvent pas renoncer aux avantages concurrentiels de l’IA, mais elles doivent assumer les risques qui y sont associés.

La gestion traditionnelle des correctifs de sécurité ne suffit plus à garantir la protection des infrastructures modernes intégrant les logiques IA et LLM.

Pour atténuer efficacement ces menaces, les entreprises doivent adopter une approche multidimensionnelle :
Surveillance en temps réel. Il est essentiel de mettre en œuvre des solutions de sécurité d’entreprise capables de suivre la santé globale des systèmes et des postes de travail, en détectant les activités anormales liées aux outils d’IA.
Des procédures strictes pour l’utilisation des informations d’identification. Avec la prolifération d’agents d’IA autonomes et d’assistants virtuels interconnectés, il est essentiel de définir des politiques fortes sur la manière dont ces machines accèdent et échangent des données sensibles, tout en minimisant les privilèges d’exécution des agents locaux.
Validation rigoureuse des entrées et gestion des accès. Chaque opération effectuée au sein des interfaces IA (comme dans les cas d’entreprise d’Open WebUI ou de Dify) doit être soumise à des contrôles rigoureux d’autorisation d’écriture et de modération, empêchant les autorisations partielles d’autoriser des changements d’état indésirables.
Audit de code généré par l’IA. Avant de mettre en production un logiciel développé à l’aide d’assistants d’écriture de code, les entreprises doivent soumettre le résultat à des analyses statiques et dynamiques et à des contrôles humains, pour intercepter toute faille logique.
Ce n’est qu’en équilibrant innovation technologique et posture de sécurité rigoureuse qu’il sera possible de transformer l’intelligence artificielle en un véritable pilier de croissance sécurisée pour les entreprises du futur.