Vos journaux de chatbot peuvent-ils être utilisés contre vous devant le tribunal?
Nous savons que l'histoire de Google d'une personne peut être utilisée comme preuve devant les tribunaux, mais qu'en est-il d'une conversation avec un chatbot d'intelligence artificielle?
Beaucoup de gens se tournent vers de grands modèles de langue pour tout, des conseils de vie à la recherche en ligne.
Ces journaux peuvent-ils être utilisés contre eux légalement?
Mark Esposito, professeur en affaires internationales et stratégie de l'École d'activité d'Amore-McKim et experte de la gouvernance de l'IA, dit qu'en théorie, les chatbots d'IA pourraient être utilisés comme preuve, mais « nous sommes encore loin d'avoir le cadre juridique et procédural » pour rendre cela réaliste.
« Les tribunaux sont construits sur la transparence, l'explication et l'équité, et ce sont précisément les domaines où les chatbots d'IA sont toujours du mal », dit-il.
Tout d'abord, c'est le problème de la façon dont les données du chatbot sont collectées et gérées, dit-il. Les entreprises d'IA stockent chaque interaction de chatbot dans un emplacement sécurisé sur leurs serveurs, explique-t-il.
« Les interactions Chatbot sont permanentes par conception car chaque échange est enregistré et stocké », dit-il. « Cela soulève des problèmes de découverte (les conseils adverses pourraient exiger l'accès à tout, même des bits non pertinents), et cela complique comment les tribunaux traiteraient ces journaux comme des preuves. »
La responsabilité est également une préoccupation majeure, dit-il.
« Si un chatbot génère un argument ou une recommandation, qui est responsable? L'utilisateur, le développeur ou le système lui-même? Les tribunaux ont besoin d'attribution et d'audit claire, mais la plupart des modèles sont toujours des boîtes noires », dit-il.
Il existe également des règles de protection des données, car les chatbots « ont tendance à surélecter les informations par rapport à ce qui est légalement » proportionné « », dit-il.
Bien qu'il existe de nombreux défis dans l'utilisation des chatbots d'IA dans les salles d'audience, Esposito n'exclut pas qu'ils pourraient un jour jouer un rôle plus important. Des chercheurs comme lui ont développé des cliniques juridiques pour tester comment ces technologies devraient être utilisées à l'avenir.
« Ce sont des pilotes sous forme juridique qui testent des hypothèses qui mènent à un ensemble spécifique de comportements », dit-il.
Mais les questions plus importantes avec lesquelles les chercheurs sur l'IA sont aux prises avec le moment sont beaucoup plus intéressantes sur la confidentialité, la propriété des données et la surveillance, dit-il.
« De là, les implications juridiques de ces choses ne sont pas trop un saut », dit-il. « Nous avons commencé à reconnaître qu'au cours des quatre dernières années sous l'administration Biden. Maintenant, nous sommes beaucoup plus orientés autour de la question: » Où sont les données et comment est-elle utilisée? » C'est là que la responsabilité doit éventuellement être configurée. «
