L’accusation a utilisé l’IA, la défense a utilisé l’IA : le juge a annulé le procès et leur a infligé une amende

Le droit est l’une des professions qui ont adopté l’utilisation de l’IA générative avant même l’arrivée du boom de ChatGPT. Nous avons connu des cas où des avocats ont été sanctionnés pour avoir inclus de fausses citations, mais cela n’a pas dissuadé d’autres de faire de même. La dernière affaire dont nous avons entendu parler porte la question à un nouveau niveau : l’accusation et la défense ont utilisé l’IA et le juge en a dit assez.

Que s’est-il passé ? Cela s’est produit dans le Mississippi, aux États-Unis. L’affaire en question impliquait un avocat, nommé Tom Withers, qui réclamait des frais juridiques impayés auprès de la ville d’Aberdeen. Selon 404media, tout se passait bien jusqu’à ce que le juge remarque qu’il y avait quelque chose d’étrange dans les mémoires présentés par les avocats des deux parties : tous deux citaient des cas qui n’existaient pas. Allez, ils avaient utilisé l’IA et ne s’étaient même pas arrêtés pour vérifier les inexactitudes.

Conséquences. Les avocats ont reconnu avoir utilisé l’IA sans en vérifier les résultats. La juge Sharion Aycock a non seulement décidé de suspendre le procès, mais elle a également interdit à deux des quatre avocats impliqués de comparaître devant son tribunal pendant deux ans. Les autres n’ont pas été épargnés et ont tous reçu une amende variant entre 1 000 et 3 500 dollars. Withers, l’avocat du plaignant, ne se représentait pas lui-même et a donc échappé aux sanctions.

Pourquoi c’est important. Cette affaire représente une tendance de plus en plus courante dans le secteur juridique. De nombreux avocats sont déjà surpris en train d’utiliser l’IA, mais cette fois, cela passe à un nouveau niveau car toutes les parties sont tombées dans la tentation. Comme l’a dit l’avocat Rob Freund dans X, « il y avait deux clients qui payaient essentiellement pour ChatGPT pour se disputer ».

En Espagne aussi. Des dizaines de cas ont déjà été enregistrés aux États-Unis, mais ce n’est pas une tendance exclusive à là-bas. Il y a quelques jours, le Tribunal Supérieur de Justice de Galice a ouvert une enquête contre un avocat pour « mauvaise foi procédurale ». Apparemment, l’appel qu’il a présenté ne contenait pas moins de « 24 fausses citations jurisprudentielles ». Il n’était pas le seul : au début de l’année, un avocat a été condamné à une amende de 420 euros aux îles Canaries pour avoir cité 48 fausses phrases.

Les hallucinations. Ils continuent d’être le talon d’Achille des LLM et ont beaucoup à voir avec la façon dont ils sont formés : les modèles donnent toujours la priorité à donner une réponse, même si elle est inexacte. Il existe des moyens de minimiser les hallucinations, mais nous connaissons tous ces faiblesses, c’est pourquoi ces cas sont si frappants. Le plus grave n’est pas que les avocats utilisent l’IA, mais que certains le font sans aucune vérification. Bien sûr, on ne sait pas quels outils ils ont utilisés, mais il existe des outils d’IA spécifiques pour les avocats qui promettent une plus grande fiabilité.

Images | Simseo avec les Gémeaux

À Simseo | « Ce sont des choses pour lesquelles un étudiant universitaire aurait des ennuis » : Deloitte a arnaqué l’Australie avec un rapport réalisé avec l’IA