Des pratiques d’IA responsables aident les entreprises à créer de la valeur

Les efforts des entreprises pour utiliser l’intelligence artificielle d’une manière plus socialement responsable présentent un avantage surprenant : ils peuvent souvent améliorer la qualité des produits, selon une enquête nationale menée auprès des responsables de l’entreprise.

Les responsables interrogés ont classé la qualité des produits comme le domaine de leur entreprise qui a bénéficié le plus de la mise en œuvre de pratiques de gestion responsable de l'IA (RAIM), au-dessus de choix plus évidents, tels que la réduction des risques réglementaires et juridiques.

Cette réponse était surprenante, a déclaré l'un des responsables de l'enquête, Dennis Hirsch, directeur du programme de gouvernance des données de l'Ohio State University.

« Nous ne nous attendions pas à ce que la principale réponse à la manière dont la gouvernance de l'IA créerait de la valeur soit l'amélioration de la qualité des produits », a déclaré Hirsch. « C'est très intéressant et encourageant. »

Ce résultat est l'une des nombreuses conclusions importantes de l'enquête, révélées dans le rapport « Gestion responsable de l'IA : pratique en évolution, valeur croissante ».

Le rapport a été produit par le Programme sur les données et la gouvernance, qui fait partie du Moritz College of Law et du Translational Data Analytics Institute de l'Ohio State.

La ruée des entreprises vers l’utilisation de l’IA a sonné l’alarme quant aux dommages et aux abus potentiels, tels que les violations de la vie privée, la discrimination et la désinformation.

L'enquête, envoyée début 2023, a examiné les pratiques RAIM dans les entreprises qui développent et utilisent l'IA. L'enquête a été envoyée par courrier électronique à des personnes identifiées comme responsables de la gouvernance des données dans des entreprises américaines. Les enquêtes complétées provenaient de 75 personnes, dont la plupart travaillaient dans de grandes entreprises comptant plus de 1 000 employés et un chiffre d'affaires annuel de 10 millions de dollars ou plus.

De nombreux secteurs d'activité étaient représentés parmi les répondants à l'enquête, tels que les technologies de l'information, la finance, les soins de santé et les biens de consommation.

Hirsch a déclaré que le taux de réponse relativement faible à l'enquête et le fait que la plupart des réponses provenaient de grandes entreprises suggèrent que peu d'entreprises disposent aujourd'hui de programmes RAIM significatifs.

« Nous pensons que les plus grandes entreprises disposent du plus de ressources et sont les plus engagées dans la gouvernance de l'IA », a déclaré Hirsch.

Alors, quelles sont exactement les pratiques de gestion responsable de l’IA utilisées par les entreprises ?

L'étude a révélé que les activités RAIM les plus fréquemment signalées comprenaient l'évaluation des risques réglementaires, l'identification des risques pour les parties prenantes, la création d'une structure de gestion RAIM et l'adoption de normes telles que les principes d'éthique de l'IA et les politiques RAIM.

Les résultats ont montré que 68 % des personnes interrogées ont déclaré que RAIM était soit important, soit extrêmement important pour leur entreprise. Cependant, même parmi les grandes entreprises qui ont répondu, la mise en œuvre des programmes RAIM a considérablement tardé à susciter l'enthousiasme. La plupart des personnes interrogées ont déclaré que leurs programmes RAIM en étaient encore à leurs débuts.

Cette enquête a été réalisée juste avant l'explosion de l'IA générative et la large utilisation d'outils comme ChatGPT, la situation pourrait donc changer, selon Hirsch. De plus en plus d’entreprises comprennent probablement désormais qu’elles doivent régir l’utilisation de l’IA, mais celle-ci n’est pas encore aussi répandue qu’elle devrait l’être, a-t-il déclaré.

Davantage d'entreprises pourraient investir dans le RAIM si elles connaissaient l'expérience de ces grandes entreprises et la valeur qu'elles pensent que cela apporte à leurs activités, a-t-il déclaré.

Près de 40 % des personnes interrogées ont déclaré que leur entreprise tirait « beaucoup » ou « beaucoup » de valeur de ses programmes de gestion responsable de l'IA. Un autre 38 % ont déclaré qu'il produisait « une quantité modérée » de valeur. Aucun n’a dit qu’il n’avait aucune valeur.

Ce qui est peut-être le plus frappant, cependant, est le fait que les participants à l'enquête considèrent que la qualité des produits est le domaine dans lequel RAIM apporte le plus de valeur. Cette enquête n'a pas demandé comment RAIM a amélioré la qualité des produits, et ce résultat nécessitera une étude plus approfondie, a déclaré Hirsch.

« Notre idée préliminaire est que cela améliore la qualité des produits en promouvant l'innovation en matière d'IA et en répondant mieux aux attentes des clients », a-t-il déclaré.

Une étude réalisée en 2018 par le Programme sur les données et la gouvernance, qui comprenait des entretiens avec des responsables impliqués dans la gouvernance de l'IA d'entreprise, pourrait expliquer comment cela fonctionne.

Les gens pensent que la gouvernance des données entrave l’innovation, car elle restreint ce que les gens peuvent faire. Mais il se pourrait que ce soit le contraire, selon les personnes interrogées dans le cadre de l’étude de 2018.

« Si les employés disposent de normes, de politiques et de directives sur la manière dont ils peuvent utiliser l'IA, ils peuvent innover avec beaucoup plus de confiance. Cela peut en fait libérer l'innovation, plutôt que de la freiner », a déclaré Hirsch.

Le nouveau rapport indique : « Ces résultats suggèrent une nouvelle façon importante de penser la gestion de l'IA, en tant que source de valeur et de compétitivité, et pas seulement comme moyen d'atténuer les risques et les coûts. »

Bien que ce soit une bonne nouvelle pour les entreprises qui mettent en place des pratiques de gestion responsables de l'IA, Hirsch a souligné que cette enquête concernait principalement de très grandes entreprises.

« Je pense que si nous examinions plus largement les entreprises qui utilisent l'IA à travers le pays, nous ne verrions pas une image aussi optimiste de l'importance de la gouvernance de l'IA », a-t-il déclaré.

La gestion de l’IA en est encore à ses balbutiements dans la plupart des entreprises.

Selon Hirsch, davantage d’entreprises doivent entreprendre des évaluations d’impact algorithmiques pour déterminer si leur utilisation de l’IA pourrait nuire à leurs clients ou à d’autres. Ils doivent également mettre en place une structure de gestion et des politiques de fond qui puissent aider leurs employés à déterminer comment ils peuvent utiliser l’IA.

« Nous devons faire beaucoup plus avec les entreprises pour les aider à comprendre comment utiliser l'IA de manière responsable », a déclaré Hirsch.