Les enseignants leur ont promis qu’ils seraient très satisfaits du filigrane Anthropic. En un jour, ils l’avaient déjà hacké (et ce n’était pas nécessaire)
La semaine dernière, Anthropic a annoncé l’arrivée de son filigrane pour les textes générés avec Claude, afin de se conformer à la législation européenne. Après le tumulte provoqué et les menaces de résiliation d’abonnement, il a expliqué en détail comment cela fonctionnait. Spoiler : cela ne précise pas qui a écrit le texte ni le degré d’utilisation de l’IA.
Les textes générés avec l’IA sont à l’ordre du jour, mais il existe un scénario où ils sont particulièrement inquiétants pour ceux qui les utilisent : l’éducation. Vous pouvez réussir le travail, mais l’apprentissage a des conséquences néfastes. Et là, les enseignants sont confrontés à un défi majeur : les détecteurs d’IA échouent plus qu’un fusil de chasse dans une foire, et le problème est si grave qu’en Chine, ils ont même choisi de « désactiver » les modèles de sélectivité. Dans ce scénario, sans moyen fiable de savoir ce que les étudiants ont réellement écrit, le filigrane d’Anthropic sonne comme une manne tombée du ciel. Sur papier.
(Presque) tous les étudiants utilisent l’IA. Une récente enquête menée au Royaume-Uni a abouti à une conclusion écrasante : 95 % des étudiants de premier cycle utilisent l’IA et 94 % l’utilisent spécifiquement pour leurs évaluations. En Australie, la société de logiciels Turnitin a publié en juillet dernier un rapport révélant que plus de 53 % des articles universitaires avaient utilisé une forme d’IA. En bref : (presque) tout le monde l’utilise.
Le dernier espoir du secteur éducatif. Vous demandez le texte à Claude, il le génère pour vous et vous le copiez volontiers dans Word et modifiez quatre mots en espérant que cela ne soit pas remarqué. Et bien non : il est toujours là. Le balisage caché de l’IA d’Anthropic n’ajoute pas de caractères, de jetons ou de contenu supplémentaire : il biaise le choix de certains mots parmi ceux qui tiendraient déjà dans le texte, générant un modèle statistique détectable à partir d’une certaine quantité de texte et qui ne peut être lu que si la clé cryptographique est disponible.
Sur le papier, cela sonne comme une musique divine pour le secteur éducatif qui cherche à détecter la tricherie : si la notation de Claude était fiable, elle pourrait devenir une meilleure alternative aux détecteurs statistiques traditionnels.
Peut-être pas. D’abord parce que ce filigrane de Claude n’est pas capable d’affirmer si un texte a été écrit par un humain : il ne parle que de probabilité et ne fait pas de distinction entre l’avoir écrit complètement ou simplement lui avoir demandé d’en corriger le style et l’orthographe. De plus, dans les textes courts ou dans le code, il y a peu de place pour introduire ce biais dans le choix des mots. Et ce n’est même pas infaillible : ce n’est pas parce qu’un texte ne comporte pas de filigrane qu’il a été écrit par un humain.
En revanche, Anthropic a expliqué le fonctionnement de son filigrane, mais contrairement à Google (qui possède son site de vérification), il lui manque son propre détecteur. Autrement dit, dans la pratique, aucun tiers ne peut actuellement vérifier si un texte porte ce filigrane.
Il y a déjà un hack. Mais c’est encore pire : à peine 24 heures après l’annonce d’Anthropic, il existait déjà un outil sur GitHub qui promettait de supprimer les filigranes Claude, ChatGPT et Gemini. En quelques jours, il y avait déjà un bon assortiment d’outils pour tous les goûts, comme le rappelle Forbes.
Que reste-t-il aux enseignants ? Le résumé est clair : ni les enseignants ni les institutions ne peuvent faire confiance à ces filigranes pour éviter de tricher. Au-delà de ce faux sentiment de sécurité, nous revenons à la case départ. La solution réside plutôt dans un changement de paradigme : abandonner l’approche d’intégrité académique basée sur la détection ou modifier le système d’évaluation.
Jason Lodge, expert en psychologie éducative à l’Université du Queensland, conseille d’arrêter de chercher des preuves que les étudiants utilisent ces outils pour tricher et, selon ses mots, de « concentrer son attention sur la recherche de preuves qu’un apprentissage a eu lieu ».
À Simseo | Quelqu’un a décidé de suivre l’envoi d’un livre avec un AirTag. Le voyage s’est terminé sur un navire Amazon dédié à alimenter son IA
À Simseo | Les livres écrits avec l’IA inondent Amazon. Et cela a des conséquences pour les écrivains qui ne l’utilisent pas.
Couverture | Simseo avec Nano Banane
