L'approche de l'IA s'est développée avec les décideurs humains à l'esprit

Alors que l'intelligence artificielle décolle, comment l'intégrer efficacement dans nos vies et notre travail? Le fait de combler l'écart entre la promesse et la pratique, Jann Spiess, professeur agrégé d'opérations, d'informations et de technologie à la Stanford Graduate School of Business, explore comment les algorithmes peuvent être conçus pour soutenir le plus efficacement – plutôt que remplacer – les décideurs humains.

Cette recherche, publiée sur le arxiv Le serveur préalable est particulièrement pertinent car les machines de prédiction sont intégrées dans les applications du monde réel. Le montage des preuves empiriques suggère que les décisions à enjeux élevés prises avec l'aide de l'IA ne sont souvent pas meilleures que celles prises sans elle.

Des rapports de crédit, lorsqu'une exception excessive de l'IA peut conduire à une mauvaise interprétation des scores des risques, aux médias sociaux, où les modèles peuvent dépendre de certains mots pour signaler la toxicité, conduisant à des classifications erronées – une mise en œuvre de l'incitation est en retard sur les capacités remarquables de la technologie.

« Nous n'avons pas beaucoup de travail – mais – qui prend très sérieusement la conception de l'interface humaine-AI », explique Spiess. « Notre débat sur l'IA et les capacités de l'IA est vraiment déplacé, car il s'agit de 'L'IA est-elle meilleure que l'humain?' », Poursuit-il. « Je pense qu'au lieu de cela, nous devrions demander: » Quelles sont les utilisations complémentaires de l'IA? «  »

L'IA d'aujourd'hui a tendance à hiérarchiser la capacité, plutôt que la convivialité, ce qui crée un ensemble de problèmes qui conduisent les utilisateurs à prendre de mauvaises décisions. Si les utilisateurs s'appuient trop sur un algorithme, par exemple, ils peuvent ignorer le contexte ou les informations pertinentes que l'algorithme peut ne pas connaître.

D'un autre côté, si les utilisateurs perçoivent les recommandations comme rigides, trop complexes ou non pertinentes, ils peuvent les rejeter complètement, défautant à leur propre jugement et renoncer à tout avantage Les recommandations algorithmiques peuvent fournir. Il y a aussi une mauvaise interprétation, qui peut se produire si un utilisateur comprend mal comment un algorithme arrive à ses résultats ou ne réalise pas les limites de l'algorithme mais agit de toute façon sur sa recommandation.

Une conception plus réfléchie pour l'interaction humaine-AI, les pose Spiess, reconnaît comment les décideurs réagissent aux recommandations que les algorithmes fournissent. « Le meilleur algorithme est celui qui prend en compte la façon dont un humain interagira avec les informations qu'il fournit », dit-il.

Dans un article récent, Spiess et Bryce McLaughlin, Ph.D. '24, du Wharton Healthcare Analytics Lab de l'Université de Pennsylvanie, décrivent un cadre de conception conceptuel modélisant comment les humains réagissent aux recommandations algorithmiques – et présentent une approche différente de la construction d'outils d'IA. Cette approche, connue sous le nom de complémentarité, vise à affiner la collaboration humaine-AI plutôt que de contourner complètement l'apport humain.

De meilleures décisions, de meilleurs résultats

Pour déterminer son efficacité, les chercheurs ont testé différentes stratégies de recommandation dans une expérience d'embauche simulée, où les sujets ont pris 25 décisions d'embauche avec différents niveaux d'assistance algorithmique.

Les personnes utilisant un algorithme complémentaire – qui offraient des recommandations sélectives dans les cas où un humain était susceptible d'être incertain ou incorrect – a pris les décisions les plus précises, surpassant ceux qui utilisent un algorithme purement prédictif ainsi que ceux qui n'utilisent aucun support algorithmique.

C'est un résultat encourageant, que Spiess et ses collaborateurs évaluent dans plusieurs projets de recherche. « Il y a beaucoup de promesses [around] L'IA améliore les décisions et grâce à l'amélioration des résultats « , dit Spiess.

« Et cela a conduit à de nouvelles questions: comment dois-je concevoir un algorithme pour prendre des décisions publiques ou de politique sociale, par exemple? Si nous pouvons apprendre à améliorer la politique en utilisant des données – et en l'utilisant à grande échelle dans des processus transparents et équitables – nous pouvons être en mesure de produire des algorithmes qui tiennent la promesse de cette nouvelle technologie. »

Spiess est particulièrement intéressé par les applications qui affectent la façon dont les services sont alloués dans des environnements liés aux ressources, tels que la mise en place de tuteurs dans les districts scolaires mal desservis avec des budgets limités.

Spiess suggère que l'approche des entreprises à but lucratif – la réduction des rendements – peut être appliquée à l'impact social. « Les publicités sont ciblées, mais pouvons-nous mieux cibler les interventions sociales? Il s'agit d'une décision à enjeux élevés, et si vous pouviez utiliser des algorithmes pour améliorer l'allocation des ressources à grande échelle, il existe un certain nombre de cas d'utilisation de grande valeur dans les domaines où nous n'avons pas de solutions prêtes ou claires. »

C'est le type de question à laquelle Stanford GSB est particulièrement bien adapté pour répondre, dit Spiess, citant des collègues tels que le professeur d'économie Susan Athey, directeur du Golub Capital Social Impact Lab.

« La livraison de ces solutions nécessite de mettre en place la capacité technique avec le contexte et de pouvoir modéliser la composante humaine. Nous sommes particulièrement bien placés pour penser aux algorithmes dans le contexte et nous avons une riche histoire de le faire », dit-il. « De plus, nous sommes dans la Silicon Valley. Nous sommes plongés avec les outils pour mettre en œuvre des projets dans cet espace. »