photo 7

Adopter une approche à plusieurs niveaux pour modéliser la gestion des risques et les risques

Quel est votre plan d’atténuation des risques liés à l’IA ? Tout comme vous ne partiriez pas en voyage sans vérifier les routes, connaître votre itinéraire et vous préparer à d’éventuels retards ou accidents, vous avez besoin d’un modèle de plan de gestion des risques en place pour vos projets d’apprentissage automatique. Un modèle bien conçu combiné à une bonne gouvernance de l’IA peut aider à minimiser les résultats imprévus comme le biais de l’IA. Avec un mélange de personnes, de processus et de technologies appropriés en place, vous pouvez minimiser les risques associés à vos projets d’IA.

Existe-t-il une IA impartiale ?

Une préoccupation commune avec l’IA lorsqu’il est question de gouvernance est la partialité. Est-il possible d’avoir un modèle d’IA impartial ? La dure vérité est non. Vous devez vous méfier de quiconque vous dit le contraire. Bien qu’il existe des raisons mathématiques pour lesquelles un modèle ne peut pas être impartial, il est tout aussi important de reconnaître que des facteurs tels que les besoins commerciaux concurrents peuvent également contribuer au problème. C’est pourquoi une bonne gouvernance de l’IA est si importante.

Ainsi, plutôt que de chercher à créer un modèle impartial, cherchez plutôt à en créer un qui soit équitable et se comporte comme prévu lors du déploiement. Un modèle équitable est un modèle où les résultats sont mesurés parallèlement aux aspects sensibles des données (par exemple, sexe, race, âge, handicap et religion.)

Validation de l’équité tout au long du cycle de vie de l’IA

Une méthode d’atténuation des risques est une approche à trois volets pour atténuer les risques parmi les multiples dimensions du cycle de vie de l’IA. Le cadre du fromage suisse reconnaît qu’aucun ensemble unique de défenses ne garantira l’équité en éliminant tous les dangers. Mais avec plusieurs lignes de défense, le chevauchement est une forme puissante de gestion des risques. C’est un modèle éprouvé qui a fonctionné dans l’aviation et la santé pendant des décennies, mais il est toujours valable pour une utilisation sur les plates-formes d’IA d’entreprise.

Cadre de fromage suisse

La première tranche consiste à impliquer les bonnes personnes. Vous avez besoin de personnes capables d’identifier le besoin, de construire le modèle et de surveiller ses performances. Une diversité de voix aide le modèle à s’aligner sur les valeurs d’une organisation.

La deuxième tranche consiste à mettre en place des processus MLOps qui permettent des déploiements reproductibles. Les processus standardisés permettent de suivre les mises à jour des modèles, de maintenir la précision des modèles grâce à un apprentissage continu et d’appliquer les workflows d’approbation. L’approbation du flux de travail, la surveillance, l’apprentissage continu et le contrôle des versions font tous partie d’un bon système.

La troisième tranche est la technologie MLDev qui permet des pratiques courantes, des flux de travail auditables, un contrôle de version et des KPI de modèle cohérents. Vous avez besoin d’outils pour évaluer le comportement du modèle et confirmer son intégrité. Ils doivent provenir d’un ensemble limité et interopérable de technologies pour identifier les risques, tels que la dette technique. Plus vous avez de composants personnalisés dans votre environnement MLDev, plus vous êtes susceptible d’introduire une complexité inutile et des conséquences et biais imprévus.

Le défi de se conformer aux nouvelles réglementations

Et toutes ces couches doivent être considérées dans le contexte de la réglementation. Aux États-Unis, par exemple, la réglementation peut provenir des juridictions locales, étatiques et fédérales. L’UE et Singapour prennent des mesures similaires pour codifier les réglementations concernant la gouvernance de l’IA.

Il y a une explosion de nouveaux modèles et techniques, mais la flexibilité est nécessaire pour s’adapter à mesure que de nouvelles lois sont mises en œuvre. Se conformer à ces réglementations proposées devient de plus en plus un défi.

Dans ces propositions, la réglementation de l’IA ne se limite pas à des domaines tels que l’assurance et la finance. Nous constatons que les directives réglementaires s’étendent à des domaines tels que l’éducation, la sécurité, les soins de santé et l’emploi. Si vous n’êtes pas prêt pour la réglementation de l’IA dans votre secteur maintenant, il est temps de commencer à y penser, car cela s’en vient.

Conception et déploiement de documents pour la réglementation et la clarté

La gestion des risques liés aux modèles deviendra monnaie courante à mesure que les réglementations augmenteront et seront appliquées. La possibilité de documenter vos choix de conception et de déploiement vous aidera à agir rapidement et à vous assurer de ne pas être laissé pour compte. Si vous avez les couches mentionnées ci-dessus en place, alors l’explicabilité devrait être facile.

  • Les personnes, les processus et la technologie sont vos lignes de défense internes en matière de gouvernance de l’IA.
  • Assurez-vous de comprendre qui sont toutes vos parties prenantes, y compris celles qui pourraient être négligées.
  • Recherchez des moyens d’obtenir des approbations de flux de travail, un contrôle de version et une surveillance importante.
  • Assurez-vous de penser à l’IA explicable et à la normalisation des flux de travail.
  • Cherchez des moyens de codifier vos processus. Créez un processus, documentez le processus et respectez-le.

Dans la session enregistrée IA prête pour l’entreprise : gestion de la gouvernance et des risques, vous pouvez apprendre des stratégies pour créer de bons processus de gouvernance et des conseils pour surveiller votre système d’IA. Commencez par créer un plan de gouvernance et identifiez vos ressources existantes, ainsi que par savoir où demander de l’aide.

A lire également