AI Agentica : risques opérationnels et nouvelles stratégies de gouvernance
L’évolution de l’intelligence artificielle au sein des structures d’entreprise connaît une transition fondamentale, marquée par le passage de systèmes génératifs utilisés pour rédiger des textes ou résumer des documents à des solutions capables de prendre des décisions et d’exécuter des flux de travail complexes. Cependant, l’introduction de l’IA agentique dans les processus d’entreprise met en évidence des problèmes critiques importants dans les mécanismes d’approbation, les parcours d’audit et les contrôles de conformité.
Chris Caldwell, président et chef de la direction de Concentrix Corporation, dresse un tableau détaillé des points de friction opérationnels et des défis d’intégration dans une interview avec le podcast L’IA en entreprise.
La transformation des opérations commerciales et l’impact de la vitesse des machines
L’adoption de l’IA agentique représente un saut qualitatif par rapport à l’intelligence artificielle traditionnelle. Alors que la technologie a jusqu’à présent aidé les employés en leur fournissant des réponses ou en rédigeant des communications, les agents autonomes sont conçus pour négocier et agir directement au nom de l’organisation. Cependant, l’impact de ces systèmes entre en conflit avec les architectures d’entreprise historiquement calquées sur les rythmes de travail humains.
La saturation des flux et le risque d’approbation passive
L’augmentation des volumes de transactions générés par les agents peut multiplier la charge de travail habituelle par dix, cent ou mille fois, mettant à rude épreuve les infrastructures informatiques traditionnelles. Caldwell souligne à quel point les systèmes traditionnels échouent parce qu’ils ne sont pas structurés pour gérer des quantités de données similaires, les temps d’arrêt la nuit ou le week-end pour le traitement par lots étant désormais insuffisants. Comme l’a déclaré le PDG de Concentrix, « les flux de travail et les systèmes d’entreprise ont été conçus pour les humains ; ils sont habitués à la vitesse humaine et à un certain nombre de transactions. »
Un autre point critique concerne les signatures physiques et les approbations humaines placées tout au long des processus. Lorsqu’un gestionnaire passe de l’examen de deux cents dossiers à celui d’en évaluer cinq mille par jour, la capacité de contrôle réel est supprimée. Au lieu d’analyser les opérations individuelles, le personnel a tendance à approuver sans discernement le fonctionnement des machines, créant ainsi des failles de sécurité et augmentant le risque de fraude.
Délégués numériques versus jumeaux numériques : définir les limites de l’autorité
Une erreur courante parmi les organisations est de ne pas définir le niveau d’autorité à accorder aux agents logiciels. L’absence de frontières claires entre les instruments dotés d’une large autonomie et les assistants dotés de pouvoirs limités génère une incertitude et une vulnérabilité opérationnelles.
Les dangers d’un accès illimité aux informations d’identification de l’entreprise
La distinction stratégique soulignée par Caldwell oppose les jumeaux numériques aux délégués numériques. Un jumeau numérique hérite de toute l’autorité du profil humain, fonctionnant avec les mêmes informations d’identification et la même portée. Cette configuration comporte des risques extrêmes. En fait, Caldwell souligne que « les jumeaux numériques sont incroyablement dangereux car ils ont accès à tout en utilisant vos identifiants ; Des choses horribles peuvent arriver. »
La solution indiquée réside dans l’adoption de délégués numériques, c’est-à-dire de systèmes auxquels est attribué un ensemble limité de pouvoirs et de tâches bien définis. La bonne approche consiste à considérer Agentic AI comme un groupe de nouveaux diplômés employés dans l’entreprise. Les agents nécessitent une formation, une supervision et une attribution progressive des responsabilités à mesure qu’ils font preuve de fiabilité dans les flux assignés.
L’évolution progressive des adjoints de direction
L’expérience interne de Concentrix démontre l’efficacité du développement progressif des assistants. L’entreprise a commencé à tester les assistants de direction en limitant initialement leurs tâches à une planification de base, sans interactions extérieures. Au fil du temps, les compétences des agents se sont étendues à la gestion de projet et au contact vocal ou à la messagerie instantanée avec les clients pour des rendez-vous déplacés, tout en conservant des blocages opérationnels comme l’interdiction d’envoyer des emails en dehors du périmètre de l’entreprise.
Vulnérabilités de gouvernance et de back-office « bot-on-bot »
Les frictions générées par Agentic AI ne se manifestent pas principalement dans l’interface avec les clients, qui bénéficient de la rapidité de résolution des demandes, mais dans les structures de back-office. Les domaines de la conformité, de la sécurité, de la gestion et du nettoyage des données représentent les véritables goulots d’étranglement de l’intégration d’entreprise.
Agents de conformité pour protéger les processus opérationnels
Pour garantir la pérennité des volumes à la vitesse des machines, les entreprises ne peuvent pas compter sur un effectif humain accru aux points de contrôle. Il est essentiel de repenser le parcours d’automatisation en introduisant des systèmes de freins et contrepoids basés sur l’interaction entre différents agents logiciels. Caldwell explique que « personne ne songe à ajouter davantage d’humains dans la boucle, mais à les utiliser pour sauvegarder le processus et garantir que le système fonctionne en toute sécurité ».
L’architecture proposée implique l’utilisation de robots agentiques dédiés à la conformité, avec pour tâche de vérifier le travail des agents qui effectuent des transactions physiques ou financières. Dans des domaines tels que le recouvrement de créances, par exemple, des robots de contrôle spécifiques surveillent le respect des directives de l’institution financière à la même vitesse de traitement des données que les agents opérationnels. Comme l’a déclaré Caldwell : « Vous disposerez de robots agents qui aideront ces équipes à faire leur travail à la même vitesse de machine que le traitement des données. »
L’effet lampe de poche sur la gestion et la sécurité des données
Un obstacle important à la mise en œuvre de l’IA agentique est représenté par la fragmentation et le manque de propreté des données de l’entreprise. L’accès des agents à des référentiels d’informations non ségrégués risque d’exposer des informations confidentielles. Caldwell utilise une métaphore directe pour décrire le phénomène : « L’IA est comme une lampe de poche qui éclaire les secrets les plus profonds de votre entreprise ; Si vous avez des choses que vous ne voulez pas retrouver, vous devez les sécuriser. »
A titre d’exemple, le PDG de Concentrix cite le cas réel d’une entreprise qui avait connecté un système de connaissances interne sans mettre en place de restrictions d’accès adéquates. Interrogé sur les dix principaux clients en termes de chiffre d’affaires et de revenus associés, le système a fourni des données hautement confidentielles à un utilisateur sans les autorisations nécessaires. Sans traçabilité de bout en bout et sans pistes d’audit claires, les équipes de sécurité des entreprises sont poussées à bloquer les déploiements pour éviter tout risque systémique.
Projets pilotes, calibrage des coûts et viabilité financière
Le chemin vers l’adoption à grande échelle de l’IA agentique présente des taux d’échec élevés. Les résultats du Massachusetts Institute of Technology indiquent qu’environ 95 % des projets pilotes d’IA ne parviennent pas à se traduire par des applications de production.
L’importance du cas d’usage et la gestion des coûts informatiques
La cause première des échecs réside dans les tentatives des entreprises de se préparer à l’IA générique, plutôt que de concentrer leurs ressources sur des tâches spécifiques et bien définies. Lorsque l’objectif se limite à un processus précis, l’application passe directement à la phase opérationnelle, évitant ainsi la stagnation des projets pilotes.
Un autre facteur de risque concerne la durabilité économique des agents. Un mauvais calibrage des algorithmes peut générer des coûts de traitement très élevés, supérieurs aux coûts liés au travail humain. À cet égard, Caldwell affirme que «nous avons découvert que les agents mal calibrés coûtent beaucoup plus cher que les humains et peuvent coûter beaucoup d’argent».
En fait, les estimations du secteur indiquent que plus de 40 % des projets d’AI Agentica risquent d’être annulés d’ici 2027 en raison d’une planification financière ou opérationnelle inadéquate.
Cycles d’investissement courts et approche stratégique du marché
La gestion des technologies d’agents nécessite également un changement de paradigme dans la planification des investissements. Contrairement aux infrastructures informatiques traditionnelles, conçues pour durer une décennie ou plus, les systèmes basés sur l’IA d’Agentica nécessitent des mises à jour et des révisions continues. Caldwell observe que « les investissements dans l’IA doivent être renouvelés tous les 6 mois ou un an ; ce n’est pas comme les anciennes technologies qui duraient 10 ou 20 ans. »
Dans ce scénario en évolution rapide, la précipitation pour adopter chaque innovation du marché ne garantit pas un avantage concurrentiel. Il est plus efficace de définir une orientation opérationnelle pratique pour les six ou huit mois suivants, en évitant de courir après les annonces et les tendances impromptues. Pour décrire le positionnement idéal des entreprises, Caldwell rappelle un proverbe métaphorique : « Il y a un dicton : le premier oiseau attrape le ver, mais la seconde souris attrape le fromage ». Dans le domaine de l’automatisation des affaires, attendre que les solutions mûrissent et analyser les erreurs des autres permet de capter la vraie valeur de la technologie tout en garantissant la sécurité des processus.
