L'IA en entreprise, toutes les questions à se poser

Les entreprises du monde entier adoptent de plus en plus de solutions intelligence artificielle pour améliorer l’efficacité opérationnelle, optimiser les processus métier et offrir des expériences client personnalisées. Cependant, avec les progrès rapides de l’IA, de nouvelles questions juridiques et commerciales complexes apparaissent également que les entreprises doivent résoudre pour garantir l’exploitation de l’IA.IA responsable et réussi.

L’IA en entreprise : transparence et responsabilité

Une question clé concerne la transparence et la responsabilité des décisions prises par l’IA. Les solutions d’IA fonctionnent souvent selon des modèles complexes qui font qu’il est difficile pour les humains de comprendre pleinement le raisonnement derrière certaines décisions. Être capable d’en expliquer les raisons est déjà une exigence fondamentale. Il est essentiel d’établir des mécanismes pour assurer la traçabilité des décisions d’IA et pour tenir les entreprises responsables des conséquences de leurs actes et assurer le suivi des demandes de leurs employés ou utilisateurs.

Protection des données personnelles

L’IA fonctionne efficacement avec de grandes quantités de données. La réglementation sur la protection des données personnelles doit être prise en compte lors de la formation d’un outil, lors de l’obtention de données auprès de sources tierces pour les mêmes finalités. Ils doivent également être pris en considération lors de l’utilisation de l’outil d’IA, qu’il soit créé ad hoc ou basé sur une licence achetée auprès de fournisseurs tiers en mode « as a service ». Les obligations d’information sont évidemment cruciales, tout comme le choix de la base juridique la plus adaptée aux différentes phases du cycle de vie de l’outil d’IA. Pouvoir donner suite aux demandes d’exercice des droits prévus par le RGPD n’est peut-être pas facile si les règles de protection des données n’étaient pas prises en compte dès le départ. A cet égard, relire la dernière partie du considérant 71 du RGPD est toujours utile »Dans tous les cas, ce traitement devrait être soumis à des garanties adéquates, qui devraient inclure des informations spécifiques à la personne concernée et le droit d’obtenir une intervention humaine, d’exprimer son opinion, d’obtenir une explication sur la décision prise après une telle évaluation et de contester la décision« .

Propriété intellectuelle

L’IA repose sur des algorithmes et des logiciels innovants qui peuvent être soumis à des droits de propriété intellectuelle. Il est primordial de veiller à ce que vous respectiez les droits de propriété intellectuelle des tiers et, en même temps, de protéger vos créations ou, en tout état de cause, les informations, données, bases de données utilisées dans un contexte d’IA.

Responsabilité juridique

Si une entreprise utilise l’IA pour prendre des décisions critiques, par exemple dans le domaine de la santé ou de la finance, il doit être clair dès le départ qui en est légalement responsable. Si une IA prend une mauvaise décision qui nuit à un individu ou à une organisation, qui est responsable ? Les entreprises doivent être claires sur les risques de ces scénarios possibles et, si nécessaire, s’assurer qu’elles disposent d’une couverture d’assurance adéquate pour faire face à tout litige juridique.

Préjugés et discrimination

Les solutions d’IA peuvent être sujettes à des biais et à des discriminations, car leur apprentissage est basé sur les données historiques fournies. Si les données contiennent effectivement des biais, l’IA pourrait les perpétuer dans les résultats de ses décisions. Les entreprises doivent adopter des stratégies pour identifier et atténuer les biais existants dans l’IA, comme la diversification des données de formation, l’audit des algorithmes (par exemple, si la solution se comporte comme un « »boîte noire« , il pourrait être utile, voire nécessaire, d’utiliser des « outils supplémentaires », c’est-à-dire des logiciels supplémentaires qui étudient le fonctionnement de l’IA) et l’implication d’experts humains dans la révision des décisions de l’IA. Il faut également tenir compte du fait que si des préjugés et des comportements discriminatoires étaient découverts après l’utilisation complète de l’IA, l’élimination de ces distorsions ne serait pas du tout une tâche facile, sans parler de la probable vague de répercussions en termes de réputation. de vue.

Impact sur le personnel

L’adoption de l’IA peut avoir un impact significatif sur les ressources humaines. Certains processus automatisés par l’IA peuvent entraîner des réductions de personnel ou des modifications des compétences requises. Les entreprises doivent s’assurer que leurs employés possèdent les compétences nécessaires pour travailler avec l’IA et exploiter efficacement ses avantages. À court terme, il pourrait y avoir un risque de ce que l’on appelle « déqualification » de son personnel, n’étant plus habitué ou peu à peu complètement incapable d’avoir une approche critique du produit IA.

Questions à poser en entreprise

À la lumière de ce qui précède, des différents types d’IA disponibles (des outils d’apprentissage automatique à créer jusqu’aux services tiers déjà disponibles « as a service »), pour atténuer certains des risques indiqués ci-dessus et, en général, pour pour pouvoir gouverner cette révolution je vous propose quelques questions à poser dans l’entreprise :

Quel usage de l’IA est fait dans l’entreprise ?

Comment utilisez-vous/envisagez-vous d’utiliser l’IA dans votre entreprise ? Comment vos employés utilisent-ils l’IA (par exemple générative) pour créer du travail et du contenu ?
Quel type d’IA utilisez-vous ou envisagez-vous d’utiliser ?
Quel contrat utilisez-vous ? Modèle d’entreprise vs ouvert au public
Existe-t-il des cas d’usage de l’IA générative dans votre entreprise ?
L’utilisation prévue/existante de l’IA est-elle uniquement interne ou également externe (aux clients) ?
S’il est externe, l’outil d’IA sera-t-il utilisé par des « consommateurs » ou dans un contexte B2B ?
S’il est destiné à un usage interne, sera-t-il également appliqué aux RH ?

Les risques possibles ont-ils été analysés ?

Sécurité
Imprécision de sortie
Perte de compétences (déqualification)
Préjugés et discrimination
Utilisation illicite (risques réglementaires)
Dommage à la réputation
Révélation d’informations sur l’entreprise (par exemple secrets d’entreprise, savoir-faire)
Violation des droits de propriété intellectuelle de tiers
Traitement illégal des données personnelles

Existe-t-il une politique de gestion de l’IA dans l’entreprise ?

Comment votre entreprise supervisera-t-elle l’utilisation de l’IA ? De quelles approbations disposerez-vous en interne pour acheter de nouvelles technologies d’IA ?
Allez-vous limiter l’usage de l’IA aux modèles « entreprises » (voire à ceux librement accessibles au public) ?
Votre gouvernance d’entreprise actuelle est-elle adaptée ?
Aurez-vous une politique sur l’IA générative ?
Vos politiques en matière d’IA sont-elles uniquement de nature opérationnelle/informatique ou s’étendent-elles à d’autres questions (y compris éthiques) ?
Quelles protections inclurez-vous dans les contrats de fournisseurs concernant l’utilisation de l’IA ?
Quelles protections inclurez-vous dans les contrats de travail, les accords de confidentialité et les accords sur les droits de propriété intellectuelle concernant l’utilisation par les employés de ces outils sur le lieu de travail ?
Savez-vous quelles réglementations s’appliquent aujourd’hui à l’IA et lesquelles se profilent à l’horizon ?
Qui au sein de votre entreprise assumera la responsabilité du contenu généré ou des choix effectués par l’IA ?
Comment assurerez-vous la continuité des activités et la cyber-résilience ?
Comment allez-vous communiquer votre utilisation de l’IA en interne et en externe ? Comment allez-vous communiquer l’utilisation des outils d’IA aux candidats ?
Quelle formation pourriez-vous dispenser aux collaborateurs pour assurer la conformité et l’utilisation efficace des outils d’IA que vous avez adoptés ?

La formation dans l’entreprise, à tous points de vue, y compris juridique, est fondamentale et le sera de plus en plus, afin d’augmenter les chances d’avoir une attitude active, critique et consciente à l’égard de cet outil technologique extraordinaire sans pour autant perdre son esprit critique et sa foi en ce qui risque d’être le nouvel « oracle » numérique.