Comment se concentrer sur les résultats de GenAI, et non sur l’infrastructure

Voyez-vous des résultats tangibles de votre investissement dans l’IA générative – ou cela commence-t-il à ressembler à une expérience coûteuse ?

Pour de nombreux leaders et ingénieurs en IA, il est difficile de prouver la valeur commerciale, malgré tout leur travail acharné. Dans une récente enquête Omdia menée auprès de plus de 5 000 professionnels de l’informatique d’entreprise dans le monde, seuls 13 % d’entre eux ont pleinement adopté les technologies GenAI.

Pour citer une étude récente de Deloitte, « La question récurrente est la suivante : pourquoi est-ce si difficile ? »

La réponse est complexe, mais la dépendance envers un fournisseur, une infrastructure de données désordonnée et des investissements antérieurs abandonnés sont les principaux coupables. Deloitte a constaté qu’au moins un programme d’IA sur trois échoue en raison de problèmes de données.

Si vos modèles GenAI sont inutilisés (ou sous-utilisés), il est probable qu’ils n’aient pas été intégrés avec succès dans votre pile technologique. Cela fait que GenAI, pour la plupart des marques, ressemble plus à une exacerbation des mêmes défis rencontrés avec l’IA prédictive qu’à une solution.

Tout projet GenAI donné contient un large mélange de différentes versions, langages, modèles et bases de données vectorielles. Et nous savons tous que rassembler 17 outils d’IA différents et espérer le meilleur crée une infrastructure en désordre. C’est complexe, lent, difficile à utiliser et risqué à gouverner.

Sans une couche d’intelligence unifiée au-dessus de votre infrastructure principale, vous créerez des problèmes plus importants que ceux que vous essayez de résoudre, même si vous utilisez un hyperscaler.

C’est pourquoi j’ai écrit cet article, et c’est pourquoi Brent Hinks et moi-même en avons discuté en profondeur lors d’un récent webinaire.

Ici, je décompose six tactiques qui vous aideront à passer du prototypage sans enthousiasme à la valeur réelle de GenAI.

6 tactiques qui remplacent les problèmes d’infrastructure par la valeur GenAI

L’intégration de l’IA générative dans vos systèmes existants n’est pas seulement un problème d’infrastructure ; il s’agit d’un problème de stratégie commerciale, qui sépare les prototypes non réalisés ou cassés des résultats durables de GenAI.

Mais si vous avez pris le temps d’investir dans une couche de renseignement unifiée, vous pouvez éviter les défis inutiles et travailler en toute confiance. La plupart des entreprises se heurteront à au moins une poignée des obstacles détaillés ci-dessous. Voici mes recommandations sur la façon de transformer ces pièges courants en accélérateurs de croissance :

1. Restez flexible en évitant le verrouillage des fournisseurs

De nombreuses entreprises qui souhaitent améliorer l’intégration de GenAI dans leur écosystème technologique se retrouvent dans l’une des deux catégories suivantes :

1. Ils sont enfermés dans une relation avec un hyperscaler ou un fournisseur unique
2. Ils rassemblent au hasard divers composants tels que des bases de données vectorielles, des modèles d’intégration, des outils d’orchestration, etc.

Étant donné la rapidité avec laquelle l’IA générative évolue, vous ne voulez pas vous retrouver coincé dans l’une ou l’autre de ces situations. Vous devez conserver votre optionnalité afin de pouvoir vous adapter rapidement à mesure que les besoins technologiques de votre entreprise évoluent ou que le marché technologique évolue. Ma recommandation? Utilisez un système API flexible.

Simseo peut vous aider à vous intégrer avec tous les principaux acteurs, oui, mais ce qui est encore mieux, c’est la façon dont nous avons construit notre plate-forme pour être indépendante de votre technologie existante et s’adapter là où vous en avez besoin. Notre API flexible offre la fonctionnalité et la flexibilité dont vous avez besoin pour unifier réellement vos efforts GenAI dans l’écosystème technologique existant que vous avez construit.

2. Créer des modèles indépendants de l’intégration

Dans le même ordre d’idées, pour éviter la dépendance vis-à-vis d’un fournisseur, ne créez pas de modèles d’IA qui s’intègrent uniquement à une seule application. Par exemple, disons que vous créez une application pour Slack, mais que vous souhaitez maintenant qu’elle fonctionne avec Gmail. Il faudra peut-être tout reconstruire.

Essayez plutôt de créer des modèles pouvant s’intégrer à plusieurs plates-formes différentes, afin d’être flexible pour les cas d’utilisation futurs. Cela ne vous fera pas seulement gagner du temps de développement initial. Les modèles indépendants de la plate-forme réduiront également le temps de maintenance requis, grâce à moins d’intégrations personnalisées à gérer.

Avec la bonne couche d’intelligence en place, vous pouvez apporter la puissance des modèles GenAI à un mélange diversifié d’applications et de leurs utilisateurs. Cela vous permet de maximiser les investissements que vous avez réalisés dans l’ensemble de votre écosystème. De plus, vous pourrez également déployer et gérer des centaines de modèles GenAI à partir d’un seul emplacement.

Par exemple, Simseo pourrait intégrer des modèles GenAI qui fonctionnent parfaitement dans les applications d’entreprise telles que Slack, Tableau, Salesforce et Microsoft Teams.

3. Intégrez l’IA générative et prédictive dans une seule expérience unifiée

De nombreuses entreprises sont confrontées au chaos de l’IA générative car leurs modèles génératifs et prédictifs sont dispersés et cloisonnés. Pour une intégration transparente, vous avez besoin de vos modèles d’IA dans un référentiel unique, peu importe qui les a construits ou où ils sont hébergés.

Simseo est parfait pour cela ; une grande partie de la valeur de notre produit réside dans notre capacité à unifier l’intelligence artificielle au sein d’une organisation, en particulier en partenariat avec des hyperscalers. Si vous avez construit la plupart de vos frameworks d’IA avec un hyperscaler, nous sommes juste la couche dont vous avez besoin pour ajouter de la rigueur et de la spécificité à la gouvernance, à la surveillance et à l’observabilité de vos initiatives.

Et cela ne concerne pas seulement les modèles génératifs ou prédictifs, mais aussi les modèles construits par n’importe qui sur n’importe lequel La plate-forme peut être intégrée pour la gouvernance et le fonctionnement directement dans Simseo.

4. Construire pour faciliter le suivi et le recyclage

Compte tenu du rythme de l’innovation en matière d’IA générative au cours de l’année écoulée, bon nombre des modèles que j’ai construits il y a six mois sont déjà obsolètes. Mais pour que mes modèles restent pertinents, je donne la priorité au recyclage, et pas seulement aux modèles d’IA prédictive. GenAI peut également devenir obsolète si les documents sources ou les données de base sont obsolètes.

Imaginez que vous ayez des dizaines de modèles GenAI en production. Ils pourraient être déployés dans toutes sortes d’endroits tels que Slack, les applications destinées aux clients ou les plateformes internes. Tôt ou tard, votre modèle aura besoin d’un rafraîchissement. Si vous n’avez qu’un ou deux modèles, ce n’est peut-être pas un gros problème pour le moment, mais si vous disposez déjà d’un inventaire, il vous faudra beaucoup de temps manuel pour mettre à l’échelle les mises à jour de déploiement.

Les mises à jour qui ne s’effectuent pas via une orchestration évolutive bloquent les résultats en raison de la complexité de l’infrastructure. Ceci est particulièrement critique lorsque vous commencez à penser dans un an ou plus, car les mises à jour de GenAI nécessitent généralement plus de maintenance que l’IA prédictive.

Simseo propose un contrôle de version de modèle avec des tests intégrés pour garantir qu’un déploiement fonctionnera avec les nouvelles versions de plate-forme qui seront lancées à l’avenir. Si une intégration échoue, vous recevez une alerte pour vous informer immédiatement de l’échec. Il indique également si un nouvel ensemble de données comporte des fonctionnalités supplémentaires qui ne sont pas les mêmes que celles de votre modèle actuellement déployé. Cela permet aux ingénieurs et aux constructeurs d’être beaucoup plus proactifs dans la réparation des problèmes, plutôt que de découvrir un mois (ou plus) plus tard qu’une intégration est défectueuse.

En plus du contrôle du modèle, j’utilise Simseo pour surveiller des métriques telles que la dérive des données et l’ancrage afin de contrôler les coûts d’infrastructure. La simple vérité est que si les budgets sont dépassés, les projets sont arrêtés. Cela peut rapidement donner lieu à une situation dans laquelle des équipes entières sont affectées parce qu’elles ne peuvent pas contrôler les coûts. Simseo me permet de suivre les métriques pertinentes pour chaque cas d’utilisation, afin que je puisse rester informé des KPI commerciaux importants.

5. Restez en phase avec les dirigeants de votre entreprise et vos utilisateurs finaux

La plus grande erreur que commettent les praticiens de l’IA est de ne pas suffisamment parler aux gens autour de l’entreprise. Vous devez impliquer les parties prenantes dès le début et leur parler souvent. Il ne s’agit pas d’avoir une seule conversation pour demander aux dirigeants d’entreprise s’ils seraient intéressés par un cas d’utilisation spécifique de GenAI. Vous devez continuellement affirmer qu’ils ont toujours besoin du cas d’utilisation et que tout ce sur quoi vous travaillez répond toujours à leurs besoins évolutifs.

Il y a trois composants ici :

1. Engagez vos utilisateurs d’IA

Il est crucial d’obtenir l’adhésion de vos utilisateurs finaux, et pas seulement celle des dirigeants. Avant de commencer à créer un nouveau modèle, parlez à vos utilisateurs finaux potentiels et évaluez leur niveau d’intérêt. Ils sont des consommateurs et ils doivent adhérer à ce que vous créez, sinon ils ne seront pas utilisés. Astuce : assurez-vous que les modèles GenAI que vous créez doivent se connecter facilement aux processus, solutions et infrastructures de données dans lesquels les utilisateurs se trouvent déjà.

Étant donné que ce sont vos utilisateurs finaux qui décideront en fin de compte d’agir ou non sur les résultats de votre modèle, vous devez vous assurer qu’ils font confiance à ce que vous avez construit. Avant ou dans le cadre du déploiement, parlez-leur de ce que vous avez construit, de son fonctionnement et, surtout, de la façon dont cela les aidera à accomplir leur objectifs.

2. Impliquez les parties prenantes de votre entreprise dans le processus de développement

Même après avoir confirmé l’intérêt initial de la direction et des utilisateurs finaux, ce n’est jamais une bonne idée de partir et de revenir des mois plus tard avec un produit fini. Vos parties prenantes auront presque certainement de nombreuses questions et suggestions de changements. Soyez collaboratif et prévoyez du temps pour les commentaires sur vos projets. Cela vous aide à créer une application qui répond à leurs besoins et leur donne l’assurance qu’elle fonctionne comme ils le souhaitent.

3. Articulez précisément ce que vous essayez d’accomplir

Il ne suffit pas d’avoir un objectif tel que « Nous voulons intégrer la plateforme X à la plateforme Y ». J’ai vu trop de clients s’accrocher à des objectifs à court terme comme ceux-ci au lieu de prendre du recul pour réfléchir aux objectifs globaux. Simseo offre suffisamment de flexibilité pour que nous puissions développer une architecture globale simplifiée plutôt que de nous concentrer sur un seul point d’intégration. Vous devez être précis : « Nous voulons que ce modèle Gen AI qui a été construit dans Simseo soit associé à l’IA prédictive et aux données de Salesforce. Et c’est ainsi que les résultats doivent être intégrés à cet objet.

De cette façon, vous pourrez tous vous mettre d’accord sur l’objectif final, et définir et mesurer facilement le succès du projet.

6. Allez au-delà de l’expérimentation pour générer de la valeur dès le début

Les équipes peuvent passer des semaines à créer et à déployer des modèles GenAI, mais si le processus n’est pas organisé, tous les défis habituels en matière de gouvernance et d’infrastructure ralentiront la rentabilisation.

L’expérience elle-même n’a aucune valeur : le modèle doit générer des résultats (en interne ou en externe). Sinon, il s’agit simplement d’un « projet amusant » qui ne génère pas de retour sur investissement pour l’entreprise. C’est jusqu’à ce qu’il soit déployé.

Simseo peut vous aider à opérationnaliser vos modèles 83 % plus rapidement, tout en économisant 80 % des coûts normaux requis. Notre fonctionnalité Playgrounds donne à votre équipe l’espace créatif nécessaire pour comparer les plans LLM et déterminer la meilleure solution.

Au lieu de faire attendre les utilisateurs finaux pour une solution finale ou de laisser la concurrence prendre une longueur d’avance, commencez par un produit minimum viable (MVP).

Mettez un modèle de base entre les mains de vos utilisateurs finaux et expliquez-leur qu’il s’agit d’un travail en cours. Invitez-les à tester, bricoler et expérimenter, puis demandez-leur leur avis.

Un MVP offre deux avantages essentiels :

1. Vous pouvez confirmer que vous avancez dans la bonne direction avec ce que vous construisez.

2. Vos utilisateurs finaux tirent rapidement profit de vos efforts d’IA générative.

Même si vous ne pouvez pas fournir de parfait expérience utilisateur avec votre intégration de travail en cours, vous constaterez que vos utilisateurs finaux accepteront un peu de frictions à court terme pour bénéficier de la valeur à long terme.

Débloquez une intégration transparente de l’IA générative avec Simseo

Si vous avez du mal à intégrer GenAI dans votre écosystème technologique existant, Simseo est la solution dont vous avez besoin. Au lieu d’un fouillis d’outils et d’actifs d’IA cloisonnés, notre plateforme d’IA pourrait vous offrir un paysage d’IA unifié et vous éviter de sérieuses dettes techniques et des tracas à l’avenir. Avec Simseo, vous pouvez intégrer vos outils d’IA à vos investissements technologiques existants et choisir parmi les meilleurs composants. Nous sommes là pour vous aider :

• Évitez le verrouillage du fournisseur et empêcher la prolifération des actifs d’IA
• Créez des modèles GenAI indépendants de l’intégration qui résisteront à l’épreuve du temps
• Gardez vos modèles et intégrations d’IA à jour avec des alertes et un contrôle de version
• Combinez vos modèles d’IA génératifs et prédictifs créés par n’importe qui, sur n’importe quelle plateforme, pour découvrir une réelle valeur commerciale

Prêt à tirer le meilleur parti de votre IA avec moins de frictions ? Commencez dès aujourd’hui avec un essai gratuit de 30 jours ou organisez une démo avec l’un de nos experts en IA.