SAP, gouvernance des agents IA : comment prévenir les risques et la prolifération des agents

L’intelligence artificielle entre rapidement dans les processus métiers. Et cela à une vitesse que, à bien des égards, nous n’avons jamais connue auparavant. Après une première phase au cours de laquelle l’IA générative était avant tout utilisée pour créer du contenu, synthétiser des informations ou accompagner les personnes dans leurs activités quotidiennes, nous entrons aujourd’hui dans une nouvelle phase : celle des agents d’IA, des systèmes capables non seulement de répondre à une demande, mais de comprendre un objectif, de prendre des décisions et de réaliser des actions au sein de processus métiers.

C’est une étape importante. Un agent peut par exemple surveiller une expédition, identifier une anomalie, récupérer des informations sur différents systèmes et lancer automatiquement les activités nécessaires pour la résoudre. Il peut prendre en charge la prévision de la demande, interagir avec un client, gérer certaines étapes d’un processus RH ou contribuer à l’automatisation de la chaîne d’approvisionnement.

Le potentiel économique de l’IA est énorme. McKinsey estime que l’IA générative pourrait à elle seule contribuer entre 2 600 et 4 400 milliards de dollars par an à l’économie mondiale. L’IA agentique ouvre une perspective supplémentaire : déplacer la valeur de la génération de contenu vers l’exécution autonome, des projets pilotes individuels jusqu’à l’intégration de l’intelligence artificielle dans les processus avec lesquels les entreprises opèrent au quotidien.

Mais cette évolution même introduit un nouveau défi : comment gouverner un nombre croissant d’agents opérant au sein de l’entreprise ?

Le phénomène de prolifération des agents

Le phénomène a déjà un nom : étalement des agents. Cela se produit lorsque les agents d’IA sont créés, déployés ou connectés aux systèmes d’entreprise plus rapidement que l’organisation ne peut les enregistrer, en attribuer la responsabilité, contrôler leurs autorisations, surveiller leur comportement et, si nécessaire, les modifier ou les retirer.

Le parallèle avec ce qui s’est passé ces dernières années avec le cloud et le logiciel en tant que service est évident. Une seule équipe introduit un outil pour résoudre un problème spécifique. Puis une autre équipe en adopte une autre. Les décisions individuelles peuvent être parfaitement rationnelles, mais au fil du temps, le résultat peut être un écosystème fragmenté, difficile à gouverner et à comprendre dans son ensemble.

Avec les agents IA, le problème risque d’être encore plus complexe. Un agent n’est pas simplement un nouveau logiciel installé par l’entreprise : il peut avoir accès à des données, des applications et des processus, utiliser d’autres outils et interagir avec d’autres agents. Autrement dit, il peut agir.

Les chiffres de l’IA agentique

Selon le Enquête SAP LeanIX sur l’IA agentique 202698 % des entreprises dans le monde ont déjà mis en œuvre des agents d’IA ou envisagent de le faire. Dans le même temps, moins de la moitié des organisations déclarent disposer d’une visibilité complète sur leur inventaire d’agents. Les données mettent en évidence une contradiction qui devrait faire réfléchir les leaders technologiques : nous accélérons l’adoption de l’IA alors même que notre capacité à savoir où elle est utilisée et comment elle fonctionne n’augmente pas au même rythme.

Les prévisions de Gartner rendent l’ampleur du phénomène encore plus évidente : d’ici 2028, une grande entreprise du Fortune 500 pourrait utiliser plus de 150 000 agents d’IA. Et seulement 13 % des organisations estiment aujourd’hui disposer d’une gouvernance adéquate pour les gérer.

Ce n’est donc pas un problème futur. C’est un problème auquel les entreprises sont déjà confrontées aujourd’hui. Le vrai risque n’est pas l’agent, mais ce que nous ne connaissons pas.

L’IA agentique, un changement de paradigme

Lorsqu’on parle d’IA et de sécurité, la première pensée va souvent à la qualité des réponses générées par un modèle. Cependant, avec l’IA agentique, le paradigme change.

Une erreur commise par un chatbot peut produire une réponse inexacte, qu’une personne peut vérifier et corriger. Un agent peut cependant avoir la capacité d’effectuer une action. Il peut accéder à un système, modifier des informations, démarrer un processus, utiliser les données de l’entreprise ou interagir avec d’autres outils.

Pour cette raison, la question de la sécurité ne peut être dissociée de celle de la gouvernance.

Un agent ne doit avoir accès qu’aux informations et fonctionnalités dont il a réellement besoin. Il doit être possible de savoir qui l’a créé, pour quel processus il est utilisé, quelles données il peut consulter, quelles actions il peut entreprendre et avec quels autres systèmes ou agents il interagit. Et il doit être possible de suivre son comportement dans le temps.

Cela devient particulièrement important lorsque les agents sont développés directement par différentes fonctions de l’entreprise. L’objectif ne devrait pas être d’empêcher les gens d’expérimenter. Au contraire, bloquer l’innovation risque de pousser l’organisation vers des formes d’IA fantôme, dans lesquelles les outils sont utilisés sans contrôles de l’entreprise.

La réponse est de trouver le bon équilibre : créer les conditions permettant aux individus d’innover rapidement, tout en garantissant que cette innovation se déroule dans un périmètre de sécurité, de responsabilité et de contrôle.

De la conformité à la capacité stratégique

C’est là que la gouvernance de l’IA change de nature. Ce n’est plus seulement une question de conformité ou d’opérations informatiques. Cela devient une capacité stratégique de l’entreprise.

Une organisation qui souhaite faire passer l’IA de l’expérimentation à l’échelle doit être capable de répondre à des questions très concrètes : de combien d’agents disposons-nous ? Où sont-ils ? Quels processus gèrent-ils ? Qui en est responsable ? À quelles données et systèmes ont-ils accès ? À quelles politiques doivent-ils se conformer ? Quel est leur niveau de risque ? Génèrent-ils réellement de la valeur ? Et lorsqu’un agent n’est plus nécessaire, comment est-il mis à la retraite ?

Sans ces informations, il devient même difficile de mesurer le retour sur investissement en IA. Et surtout, il devient difficile de gérer les risques.

C’est pourquoi une nouvelle catégorie d’outils fait son apparition : les plateformes de gouvernance de l’IA, conçues pour offrir une vue globale de l’écosystème IA de l’organisation et pour gérer les agents, modèles et autres actifs d’intelligence artificielle en relation avec le contexte technologique et les processus métiers.

C’est un principe que je considère fondamental : on ne peut pas gouverner ce que l’on ne voit pas.

La gouvernance doit être conçue, pas ajoutée après coup

Pour les DSI, les CTO et, de plus en plus, les PDG et les conseils d’administration, la question n’est donc pas de savoir si l’IA agentique doit être gouvernée. La vraie question est de savoir quand concevoir cette gouvernance.

La réponse, à mon avis, est : depuis le début.

Si la gouvernance n’est introduite qu’après que des centaines ou des milliers d’agents sont déjà entrés dans les processus métiers, l’organisation se retrouvera inévitablement à devoir reconstruire après coup ce qui aurait dû être conçu dès le départ : responsabilités, autorisations, contrôles, pistes d’audit, politiques et critères pour mesurer la valeur.

Et cela amène le sujet directement au salle de réunion. La propagation des agents IA implique des problèmes qui vont bien au-delà de la technologie : gestion des risques, protection des données, résilience opérationnelle, conformité réglementaire, continuité des activités et responsabilité décisionnelle.

Cela ne signifie pas ralentir l’adoption de l’IA. Cela signifie créer les conditions pour que cela s’accélère de manière durable.

L’IA agentique représente probablement l’une des étapes les plus importantes dans l’évolution technologique du monde des affaires. Mais précisément parce que les agents peuvent transformer la façon dont le travail est effectué, nous devons garantir que l’autonomie n’implique pas une perte de contrôle.

Les organisations qui investiront dans la gouvernance des agents en 2026 seront les mieux placées pour transformer l’IA en un avantage concurrentiel durable. Ceux qui retardent pourraient se retrouver, dans quelques années, à devoir gérer un écosystème d’agents qui s’est développé trop vite et sans structure adéquate.

Dans le monde de la technologie, le coût de la rapidité sans gouvernance se fera tôt ou tard. Cependant, avec l’IA agentique, elle risque d’arriver plus rapidement et à une échelle beaucoup plus grande.

Le rôle de SAP

L’approche de SAP part d’un principe simple : l’IA ne peut être gouvernée de manière isolée, mais doit être insérée dans le contexte technologique et opérationnel de l’entreprise.

Avec SAP Centre d’agents IAnous avons construit un centre de commande pour découvrir, gérer et gouverner tous les agents d’IA dans le paysage de l’entreprise, quel que soit le fournisseur qui les a développés ou le système sur lequel ils fonctionnent. Comme nous le soulignions chez SAP Sapphire : « Les agents sont partout. Certains fonctionnent bien, d’autres pas, et presque aucun n’a une vision cohérente de son écosystème.

SAP AI Agent Hub change ce paradigme : un point d’accès unique pour découvrir, gérer et gouverner tous les agents, modèles et serveurs MCP IA de votre environnement.

Grâce à l’acquisition de LeanIX en 2023, nous pouvons positionner les agents IA dans le contexte architectural et commercial de l’organisation, offrant une vue unique qui connecte chaque agent aux processus, données et politiques de l’entreprise. En fait, SAP LeanIX vous permet de comprendre non seulement quelles technologies sont présentes dans l’organisation, mais aussi comment elles sont connectées les unes aux autres, quels processus elles prennent en charge et quel rôle elles jouent dans l’architecture de l’entreprise.

SAP Joule et SAP Ai Agent Hub

Mais la gouvernance n’est qu’une partie de l’équation. SAP Joulesnotre co-pilote d’IA intégré nativement aux processus métier SAP, et SAP Business Data Cloud, l’architecture de données qui garantit une base gouvernée et fiable pour chaque application d’IA, complètent une plateforme unique sur le marché : une plateforme où l’IA, les données et les processus travaillent ensemble de manière sécurisée, évolutive et mesurable.

Enfin, SAP AI Agent Hub est inséré sur cette base, conçu comme un point de gouvernance pour les agents et les actifs d’IA présents dans l’organisation, même lorsqu’ils proviennent de fournisseurs différents et fonctionnent sur des systèmes différents. L’objectif est de créer une vue unifiée qui vous permet de découvrir, comprendre, gérer et gouverner l’écosystème des agents.

La fenêtre se ferme

Pour les PDG et DSI des entreprises italiennes, la question n’est plus de savoir s’il faut adopter l’IA agentique. La question est de savoir si la gouvernance sera conçue dès le départ comme faisant partie de l’architecture, ou si elle sera ajoutée après le premier incident grave. Ceux qui investissent aujourd’hui dans une stratégie structurée d’IA agentique construiront un avantage concurrentiel durable. Ceux qui reportent risquent de dépenser 2027 et d’en subir les conséquences. Avec les agents IA, la facture de la vitesse sans structure arrive plus rapidement et à plus grande échelle que n’importe quel cycle technologique précédent.

Pour découvrir la nouvelle vision de l’IA de SAP, participez au SAP NOW AI Tour, une opportunité unique de transformer votre entreprise en Entreprise autonome et approfondissez les stratégies, les technologies et les meilleures pratiques pour accélérer l’innovation, l’efficacité et la compétitivité, avec des outils et des connaissances à appliquer immédiatement.

Article créé en collaboration avec SAP Italia