AI agentique: les principaux défis et comment les surmonter

L’intelligence artificielle générative est à la plupart de sa popularité, mais évolue déjà dans une nouvelle technologie de génération plus avancée basée sur l’apprentissage automatique: Intelligence artificielle agentique.

Avec l’intelligence artificielle de l’agentica, un utilisateur ne se limite pas à la sollicitation d’un modèle et à recevoir une réponse dans un processus simple avec une seule phase. L’intelligence artificielle agentique est interfacée avec des processus plus complexes et interagit souvent avec différents systèmes pour obtenir le résultat souhaité.

Par exemple, une organisation peut avoir un service d’assistance basé sur l’intelligence artificielle avec un agent qui utilise le traitement du langage naturel pour comprendre et traiter les billets pour les employés informatiques. Ces agents pourraient réinitialiser indépendamment les mots de passe, installer des mises à jour logicielles et signaler les billets pour le personnel humain, si nécessaire.

D’ici 2028, l’IA Agentica prendra 15% des décisions de travail

Les agents représentent l’une des innovations les plus importantes du secteur de l’intelligence artificielle, peut-être plus que les générations futures de modèles de base. D’ici 2028, Gartner prévoit que l’intelligence artificielle de l’agent prendra au moins 15% des décisions quotidiennes sur le lieu de travail, contre 0% en 2024.

Cependant, malgré les agents qu’ils soient en mesure d’améliorer l’efficacité, de permettre des économies de coûts et de permettre au personnel informatique de se concentrer sur des projets plus stratégiques qui nécessitent un raisonnement humain, ils ne sont pas exempts de défis.

Avant de mettre en œuvre une infrastructure d’intelligence artificielle, Les entreprises devraient être prêtes à résoudre certains problèmes critiques qui, sinon, pourraient avoir un impact sur la fiabilité et la sécurité des systèmes et des résultats.

Logique des modèles et de la pensée critique

Dans l’intelligence des agents artificiels, Un agent agit comme un « planificateur » et l’orchestre les actions de plusieurs agents. Le modèle comprend une fonction « Thinker Critical » qui offre des commentaires sur la sortie du planificateur et sur les différents agents qui effectuent les instructions. Plus les commentaires que vous recevez sont importants, plus les idées du modèle sont élevées, plus les résultats seront grands.

Pour s’assurer que tout cela fonctionne bien, le modèle du penseur critique doit être formé autant que possible sur les données. En d’autres termes, nous devons fournir beaucoup d’informations sur les objectifs, les plans, les actions, les résultats spécifiques et fournir de nombreux commentaires.

Cela peut demander de nombreuses itérations, grâce à des centaines, voire des milliers de plans et de résultats, avant que le modèle ne dispose de données suffisantes pour commencer à agir en tant que penseur critique.

IA agentique, fiabilité et prévisibilité

La façon dont nous interagissons aujourd’hui avec les ordinateurs est prévisible. Par exemple, lorsque vous planifiez un logiciel commun, un ingénieur écrit un code et communique à l’ordinateur exactement quoi faire, étape par étape. Dans un processus d’intelligence artificielle avec Agent, le logiciel ne se dit pas quoi faire étape par étape, mais le résultat que vous voulez atteindre est indiqué et lui-même déterminera comment y parvenir. L’agent a un certain degré d’autonomie et cela signifie qu’il peut y avoir un certain hasard dans les sorties.

Nous avons rencontré un problème similaire avec Chatte et d’autres systèmes d’intelligence artificielle générative basés sur LLMquand ils ont fait leurs débuts pour la première fois. Mais au cours des deux dernières années, nous avons assisté à des améliorations considérables dans la cohérence des résultats de l’intelligence artificielle générative, grâce au développement, aux cycles de rétroaction humaine et aux efforts constants pour former et perfectionner ces modèles. Nous devrons travailler de manière similaire pour minimiser l’aléatoire des systèmes d’intelligence artificielle d’agent, pour les rendre plus prévisibles et fiables.

Confidentialité et sécurité des données

Certaines entreprises hésitent à utiliser l’IA agentique en raison de problèmes de Confidentialité et sécuritésimilaire à ceux de l’intelligence artificielle générative mais potentiellement plus critique. Par exemple, lorsqu’un utilisateur interagit avec un LLM, chaque bit d’information fourni au modèle est incorporé à l’intérieur. Vous ne pouvez pas revenir en arrière et demander à « oublier » ces informations.

Certains types d’attaques cybercrimins, telles que le injection rapideessayez de prendre possession d’informations dans les modèles. Les agents logiciels ont accès à de nombreux systèmes différents avec un niveau d’autonomie élevé, pour cette raison, il augmente le risque qu’ils puissent exposer des données sensibles à partir de plusieurs sources.

Pour résoudre ce problème, les entreprises doivent commencer dans les petites, contenant autant que possible les données, afin de s’assurer qu’elles ne sont pas exposées au-delà du domaine interne dans lequel elles sont nécessaires. C’est aussi fondamental rendre les données anonymesobscurcir l’utilisateur et supprimer des informations personnelles (telles que les numéros de compte bancaire ou l’adresse) de l’invite, avant de les envoyer au modèle.

À un niveau supérieur, il est possible d’examiner 3 différents types de systèmes basés sur l’agent d’intelligence artificielle et les implications respectives sur la sécurité dans l’entreprise:

• IA agentique pour le consommateur: Généralement une interface utilisateur interne avec un modèle d’intelligence artificielle externe. L’entreprise n’a aucun contrôle sur l’intelligence artificielle elle-même, mais uniquement sur les données et les instructions qu’elle envoie;
• IA agentique pour les employés: construit en interne et pour un usage interne. Le risque est moindre, mais il est possible que des informations hautement privées soient exposées aux utilisateurs non qualifiés au sein de l’entreprise. Par exemple, les organisations peuvent décider de créer leur propre expérience similaire à GPT uniquement pour un usage interne;
• Agent-AI pour les clients: créé par une entreprise au service de ses clients. Puisqu’il existe un certain risque d’interaction et de travail avec les clients, le système doit avoir une bonne segmentation pour éviter d’exposer les clients privés des clients.

Qualité et pertinence des données

Une fois que les données et l’utilisateur ont été rendus anonymes, le modèle d’agent doit fournir des résultats basés sur des données de qualité et pertinents pour la demande de l’utilisateur. C’est un défi important. Trop souvent, les modèles génératifs de l’intelligence artificielle ne peuvent pas fournir les résultats attendus car ils sont déconnectés de données plus précises et actuelles.

Les systèmes d’importance artificielle agentiques sont confrontés à d’autres problèmes, car ils accèdent aux données grâce à une grande variété de plates-formes et sources différentes.

Une plate-forme de streaming de données (plate-forme de streaming de données DSP) peut être utile car elle permet aux ingénieurs d’activer les réponses pertinentes en fonction de données de haute qualité. Par exemple, les développeurs peuvent utiliser Apache Kafka Et Kafka Connect pour importer des données provenant de sources disparates e Apache Flink pour communiquer avec d’autres modèles. Les systèmes de renseignement artificiel agentiques réussiront, vaincront les hallucinations et donneront les bonnes réponses que s’ils seront basés sur des données mises à jour et fiables.

Agent AI: ROI et nouvelles compétences

L’intelligence artificielle est toujours un territoire inexploré pour de nombreuses organisations et nécessite l’achat de nouveaux matériels, GPU et la création d’une nouvelle infrastructure de données avec une nouvelle gestion de la mémoire, pour enregistrer des activités dans le cache et pour un stockage à court et à long terme. Il nécessite également la création, dans l’entreprise, d’un modèle d’inférence. Pour cette raison, de nouveaux talents devront être pris avec des compétences spécifiques ou former des employés sur l’intelligence artificielle. Le retour sur investissement prendra du temps, surtout pour Adoptant précoce.

Malgré ces obstacles, une intelligence artificielle d’agent se propagera aux entreprises comme cela s’est déjà produit avec l’intelligence artificielle générative. Certains fournisseurs de technologies d’IA se déplacent déjà dans ce sens. Par exemple, Microsoft Copilot a évolué à partir de la simple automatisation des processus de code de code en mode agent, pour écrire et tester le code.

Avant que les entreprises puissent voir les avantages de l’intelligence artificielle de l’agent, elles devront être prêtes à résoudre les problèmes de fiabilité, de confidentialité, de qualité des données et de logique du modèle. Ils devront également soutenir à l’avance des investissements importants. Cependant, l’impact potentiel sur l’entreprise pourrait être beaucoup plus élevé que celui qui a connu maintenant l’intelligence artificielle générative.