Le nouveau test peut aider les voitures sans conducteur à prendre des décisions «morales»
Les chercheurs ont validé une technique pour étudier comment les gens prennent des décisions « morales » lors de la conduite, dans le but d'utiliser les données résultantes pour former l'intelligence artificielle utilisée dans les véhicules autonomes. Ces expériences de psychologie morale ont été testées en utilisant le public le plus critique que les chercheurs pouvaient penser: les philosophes.
L'article, «Morality on the Road: The ADC Model in Low Stake Traffic Vignettes», est publié dans le Journal Frontières en psychologie.
« Très peu de gens ont décidé de provoquer un accident ou de blesser d'autres personnes sur la route », explique Veljko Dubljević, auteur correspondant de l'étude et professeur dans le programme Science, Technology & Society à la North Carolina State University. « Les accidents découlent souvent de décisions à faibles enjeux, telles que de parcourir cinq miles au-dessus de la limite de vitesse ou de faire un arrêt roulant à un panneau d'arrêt. Comment prendre ces décisions? Et qu'est-ce qui constitue une décision morale lorsque nous sommes au volant? »
« Nous devions trouver un moyen de collecter des données quantifiables à ce sujet, car ce type de données est nécessaire si nous voulons former des véhicules autonomes pour prendre des décisions morales », explique Dubljević.
« Une fois que nous avons trouvé un moyen de collecter ces données, nous devions trouver un moyen de valider la technique – pour démontrer que les données sont significatives et peuvent être utilisées pour former l'IA. Pour la psychologie morale, l'ensemble de critiques le plus axé sur le détail serait des philosophes, alors nous avons décidé de tester notre technique avec eux. »
La technique que les chercheurs ont développée est basée sur le modèle de conséquence d'agent d'actes, qui postule que les gens prennent en compte trois choses lorsqu'ils portent un jugement moral: l'agent, qui est le caractère ou l'intention de la personne qui fait quelque chose; l'acte, ou ce qui est fait; et la conséquence, ou le résultat résultant de l'acte.
Plus précisément, la technique teste comment les gens jugent la moralité des décisions de conduite en partageant une variété de scénarios de trafic avec les sujets de test, puis en faisant répondre aux sujets de test d'une série de questions sur l'acceptabilité morale et divers aspects de ce qui s'est passé dans chaque scénario.
Pour cette étude de validation, les chercheurs ont enrôlé 274 participants à l'étude titulaire d'un diplôme avancé en philosophie. Les chercheurs ont partagé des scénarios de conduite avec les participants à l'étude et leur ont posé des questions sur la moralité des décisions prises par les conducteurs dans chaque scénario. Les chercheurs ont également utilisé une mesure validée pour évaluer les cadres éthiques des participants à l'étude.
« Différents philosophes souscrivent à différentes écoles de pensée concernant ce qui constitue une prise de décision morale », explique Dubljević. « Par exemple, les utilitaires abordent les problèmes moraux très différemment des déontologues qui sont très axés sur les règles suivantes. En théorie, parce que différentes écoles de pensée approchent différemment la moralité, les résultats sur ce qui constituait le comportement moral aurait dû varier en fonction du cadre utilisé par différents philosophes.
« Ce qui était passionnant ici, c'est que nos résultats étaient cohérents dans tous les domaines », explique Dubljević. «Utilitaires, déontologues, éthiciens de vertu – quelle que soit leur école de pensée, ils ont tous pris les mêmes conclusions concernant la prise de décision morale dans le contexte de la conduite.
« Cela signifie que nous pouvons généraliser les résultats », explique Dubljević. « Et cela signifie que cette technique a un énorme potentiel pour l'entraînement en IA. Il s'agit d'un pas en avant significatif.
« L'étape suivante consiste à augmenter les tests parmi les populations plus larges et dans plusieurs langues, dans le but de déterminer dans quelle mesure cette approche peut être généralisée à la fois dans la culture occidentale et au-delà. »
Le premier auteur du journal est Michael Pflanzer, un doctorat. Étudiant à NC State. Le document a été co-écrit par Dario Cecchini, chercheur postdoctoral à NC State; et par Sam Cacace, professeur adjoint de psychologie à l'Université de Caroline du Nord à Charlotte.
