Qu'est-ce que l'effet ELIZA, ou pourquoi sommes-nous si surpris de lire un article "écrit" par une intelligence artificielle comme GPT-3

Le premier juge fait par l’intelligence artificielle est tout à fait impartial. Mauvaise (et bonne) nouvelle pour la justice

Ruth Bader Ginsburg était l’une des juges les plus reconnues de la Cour suprême des États-Unis, avec plus de 27 ans d’expérience. Maintenant, tout ce travail a été condensé dans une intelligence artificielle. une société israélienne, Laboratoires AI21a créé une IA basée sur les réponses du juge Ginsburg pour offrir un chat qui comprend les questions du domaine juridique et répond si c’est vrai ou faux.


Réponses d’un juge de la Cour suprême en quelques secondes. Pour tester l’IA, nous pouvons accéder au site dédié du programme Jurassic-1, l’expérience où les avis, interviews et sentences du juge ont été passés en revue. Au total, plus de 600 000 mots issus du domaine juridique ont été utilisés pour former cette IA. Tous viennent de l’un des juges les plus renommés, décédé il y a quelques années.

Dans une boîte, nous pouvons écrire n’importe quoi à l’IA, tant que c’est en anglais et qu’on peut répondre par oui, non ou peut-être. En plus de choisir l’une des trois options, l’IA argumentera légèrement la réponse. Nous lui avons posé des questions sur les questions de vie privée, les droits du travail et les meurtres et les réponses nous ont semblé assez logiques.

Parler comme un juge ne signifie pas penser comme eux. Comme cela arrive avec les différents développements de l’intelligence artificielle, aussi adéquates que soient les réponses, elles seront encore loin d’être à la hauteur des réflexions du juge d’origine, dans ce cas. Emily Bender, professeur à l’Université de Washington Expliquer que « il peut renvoyer des mots et leur style sera basé sur le texte qu’ils ont saisi, mais ce n’est pas un raisonnement ».

L’IA a déjà été implantée dans Justice, mais pour l’instant en tant que support. Cet outil basé sur le juge Ginsburg est frappant et fait partie des œuvres les plus modernes, mais l’utilisation des algorithmes et de l’IA dans la justice n’est pas nouvelle. L’administration de la Justice utilise depuis longtemps des algorithmes pour calculer la probabilité de récidive ou pour récupérer des informations dans de grandes bases de données, mais elle s’est arrêtée là.

L’intelligence artificielle est-elle impartiale ? « Dans la mesure où un algorithme ne comporte lui-même aucun élément de subjectivité, mais se limite à exécuter une série d’ordres, la possibilité d’interférence par des préjugés ou des croyances qui pourraient altérer l’application mécanique des règles est éliminée », explique David Martinezprofesseur de droit à l’UOC.

Les robots sont postulés comme la solution à la différence de critères des juges. Insensibles aux émotions, les algorithmes promettent une plus grande objectivité. Cependant, comme cela a déjà été démontré à de nombreuses reprises, ils ne sont pas non plus exempts de biais. Face à ces algorithmes, en Espagne, l’Agence espagnole de surveillance de l’intelligence artificielle a été créée.

« Un algorithme n’est pas capable de détecter les raisons pour lesquelles les comportements humains se produisent », expose à la RTVE le magistrat galicien, Luis Villares. Ce manque de capacité à comprendre les émotions joue également un rôle négatif lors de l’établissement d’une phrase.

J'enseigne l'éthique en intelligence artificielle et c'est ce que j'enseigne aux futurs ingénieurs

La justice est aussi imparfaite que l’être humain. « L’IA redonne des heures de travail aux magistrats et aux managers qui peuvent être investies dans d’autres tâches, comme l’évaluation plus approfondie des preuves », expose Antonio del Moral, magistrat de la Cour suprême. Cependant, il estime que « l’IA ne peut pas remplacer les juges. La justice, par définition, est humaine et imparfaite, ce que nous supposons. Le raisonnement judiciaire ne peut pas être mis dans des moules standardisés car chaque citoyen mérite une solution personnelle ».

À Simseo | Je fais des recherches sur la robotique et l’intelligence artificielle et j’essaie donc de ne pas l’utiliser pour le mal

A lire également