Une université a utilisé une IA pour traquer les étudiants qui utilisaient l’IA. Le résultat fut un désastre prévisible

Que s'est-il passé ? On dit dans Futurism qu'en 2024, l'Université catholique australienne a accusé environ 6 000 étudiants de mauvaise conduite académique. Au moins 90 % des cas étaient liés à l’utilisation de l’IA à des fins de triche. Ce qui est frappant, c’est que l’université elle-même a utilisé une IA pour lancer ces accusations, dont beaucoup étaient erronées.

Pourquoi c'est important. C’est un exemple supplémentaire du fait que l’IA n’est toujours pas fiable. Nous le voyons constamment avec des résultats erronés et des hallucinations. L’université australienne n’est pas la seule à s’appuyer sur l’IA pour accuser ses étudiants, c’est une pratique assez courante et il y a eu d’autres cas similaires. La réalité est que les détecteurs de texte IA sont également des IA et, du moins pour l’instant, ils sont imparfaits.

Turnitin. Il s'agit d'un logiciel de détection de plagiat dont la première version a été publiée en 1997 et est largement utilisé dans les universités et les centres éducatifs. En 2023, il a ajouté un outil pour détecter les textes créés avec l’IA et c’est celui qu’ils ont utilisé à l’Université catholique australienne. L'entreprise elle-même indique dans son guide d'utilisation que le détecteur d'IA n'est pas toujours précis et ne doit pas être utilisé comme seule source pour accuser un étudiant. Cependant, selon ABC Australia, l'université l'a utilisé comme seule preuve lors de la délivrance de son dossier d'inconduite.

La version universitaire. Les allégations concernant l’utilisation de l’IA incluaient des œuvres générées par l’IA, des références fabriquées (hallucinations) et l’utilisation d’outils d’IA pour citer et traduire du contenu. L'université affirme qu'au moins un quart de toutes les allégations ont été abandonnées après une enquête. Ils ont également rejeté ceux dans lesquels la seule preuve était l'IA elle-même et en mars de cette année, ils ont arrêté d'utiliser ce logiciel.

Le dilemme. L’émergence des outils d’IA pose des défis dans le secteur de l’éducation. Certaines voix prônent leur interdiction, tandis que d’autres défendent l’intégration et la promotion des bonnes pratiques. L'UNESCO a publié un guide pour l'utilisation de l'IA générative dans l'éducation dans lequel elle établit des normes et des obligations, telles que la protection de la vie privée, des limites d'âge et une approche garantissant une utilisation éthique et sûre de ces outils.

Images | Turnitine

À Simseo | Un enseignant a corrigé un examen final réalisé avec ChatGPT, mais une autre IA l'a évalué différemment et a exposé le dilemme