Un avocat américain désolé après que ChatGPT ait créé des cas « faux »
Que s’est-il passé lorsqu’un avocat américain a utilisé ChatGPT pour préparer un dossier judiciaire ? Le programme d’intelligence artificielle a inventé de faux cas et de fausses décisions, laissant l’avocat plutôt rouge.
L’avocat new-yorkais Steven Schwartz s’est excusé auprès d’un juge cette semaine pour avoir soumis un mémoire rempli de mensonges générés par le chatbot OpenAI.
« Je n’avais tout simplement aucune idée que ChatGPT était capable de fabriquer des citations entières de cas ou des avis judiciaires, en particulier d’une manière qui semblait authentique », a écrit Schwartz dans un dossier judiciaire.
La bévue s’est produite dans une affaire civile entendue par le tribunal fédéral de Manhattan impliquant un homme qui poursuit la compagnie aérienne colombienne Avianca.
Roberto Mata affirme avoir été blessé lorsqu’une assiette de service en métal a heurté sa jambe lors d’un vol en août 2019 entre El Salvador et New York.
Après que les avocats de la compagnie aérienne ont demandé au tribunal de rejeter l’affaire, Schwartz a déposé une réponse qui prétendait citer plus d’une demi-douzaine de décisions pour justifier la poursuite du litige.
Ils comprenaient Petersen contre Iran Air, Varghese contre China Southern Airlines et Shaboon contre Egyptair. L’affaire Varghese comprenait même des citations et citations internes datées.
Il y avait cependant un problème majeur : ni les avocats d’Avianca ni le président du tribunal, P. Kevin Castel n’ont pu trouver les affaires.
Schwartz a été forcé d’admettre que ChatGPT avait tout inventé.
« Le tribunal est confronté à une circonstance sans précédent », a écrit le juge Castel le mois dernier.
« Six des cas soumis semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes », a-t-il ajouté.
Le juge a ordonné à Schwartz et à son associé de comparaître devant lui pour faire face à d’éventuelles sanctions.
‘ridiculisé’
Dans un dossier déposé mardi, avant l’audience, Schwartz a déclaré qu’il souhaitait « profondément s’excuser » auprès du tribunal pour son « erreur profondément regrettable ».
Il a déclaré que ses enfants diplômés de l’université lui avaient présenté ChatGPT et que c’était la première fois qu’il l’utilisait dans son travail professionnel.
« Au moment où j’ai effectué les recherches juridiques dans cette affaire, je pensais que ChatGPT était un moteur de recherche fiable. Je sais maintenant que c’était incorrect », a-t-il écrit.
Schwartz a ajouté que « ce n’était jamais mon intention d’induire le tribunal en erreur ».
ChatGPT est devenu une sensation mondiale depuis son lancement à la fin de l’année dernière pour sa capacité à produire un contenu de type humain, y compris des essais, des poèmes et des conversations à partir de simples invites.
Cela a déclenché une prolifération de contenus d’IA génératifs, laissant les législateurs se démener pour essayer de comprendre comment réglementer ces bots.
Un porte-parole d’OpenAI n’a pas immédiatement répondu à une demande de commentaire sur le snafu de Schwartz.
L’histoire a été rapportée pour la première fois par le New York Times.
Schwartz a déclaré que lui et son entreprise, Levidow, Levidow & Oberman, avaient été « publiquement ridiculisés » dans la couverture médiatique.
« Cela a été profondément embarrassant à la fois sur le plan personnel et professionnel, car ces articles seront disponibles pendant des années », a-t-il écrit.
Schwartz a ajouté: « Cette affaire a été une expérience révélatrice pour moi et je peux assurer au tribunal que je ne commettrai plus jamais une erreur comme celle-ci. »