Claude va laisser une marque invisible sur tout ce qu’il écrit. Le problème, c’est que cela ne prouve même pas que Claude l’a écrit.
Anthropic a indiqué que les modèles lancés dans l’Union européenne depuis le 2 août incorporeront une marque invisible dans les textes qu’ils génèrent dès le premier jour, et l’entreprise appliquera le système globalement dans Claude, son API, Claude Code ou Claude CoWork, entre autres. Il ne s’agira pas d’une balise visible ou de métadonnées qui disparaîtront lorsque vous collerez le texte ailleurs. Cela permettra au système de survivre aux modifications de texte, mais attention : tout n’est pas positif.
La marque n’est pas une garantie absolue. Anthropic veut faciliter quelque chose que nous attendons depuis longtemps : l’identification de textes générés avec l’IA. Cela permettra par exemple de les détecter sur des plateformes et services tiers, et constitue d’ailleurs une exigence de transparence exigée par la loi européenne sur l’IA. Cependant, l’entreprise elle-même ajoute un avertissement : le fait que la marque soit dans un texte ne prouve pas que Claude a écrit ce texte, mais seulement qu’il a été traité par ces modèles d’IA. Cette distinction ne semble pas très grave, mais elle est bien plus importante qu’il n’y paraît.
Un texte humain peut aussi finir par être marqué. Imaginons que quelqu’un écrit seul un article et le transmette ensuite à Claude pour qu’il vérifie l’orthographe, le traduise ou le résume. Si vous utilisez ensuite la version résultante, ce texte portera une marque indiquant que le texte a bien été traité par Claude. Anthropic le reconnaît clairement : les idées, les données et même le texte original peuvent provenir entièrement de quelqu’un d’autre. C’est encore une fois crucial, car un texte portant cette marque indique qu’il a été traité par Claude, pas qu’il a nécessairement été écrit par Claude.
Le processus fonctionne également dans l’autre sens. Le fait qu’un texte ne porte pas la marque de Claude ne prouve pas non plus qu’il est humain. Anthropic reconnaît que cette marque peut disparaître si le texte a été fortement édité, paraphrasé, traduit, mélangé à d’autres textes ou s’il est trop court. De plus, l’entreprise n’a pas encore publié le mécanisme technique qui permet de détecter cette marque, on ne sait donc pas jusqu’où peut aller cette détection. Certains développeurs soulignent un problème évident : si le but est de masquer la marque, un autre modèle peut réécrire le texte jusqu’à ce que la marque soit détruite. Le filigrane Anthropic est un indice et non une preuve définitive de quoi que ce soit.
Conditionner la sortie ? Chez Anthropic, ils assurent que ce filigrane n’altère pas le sens, la qualité ou la lisibilité des réponses, mais ils n’ont pas donné de détails sur la manière dont il est intégré dans le texte. Dans certains systèmes, il s’agit de favoriser certains jetons par rapport à d’autres, ce qui détermine le résultat optimal. Le doute est particulièrement frappant dans le cas du code, où les développeurs peuvent être contraints de se conformer à une exigence qui n’a rien à voir avec la résolution du problème de l’utilisateur.
On avait déjà vu ce film il y a 30 ans. Ou du moins Steven Sinofsky, ancien responsable du développement de Windows 8, l’a vu. Il a commenté dans Cette information pourrait être combinée avec d’autres documents pour, en théorie, relier un document à l’ordinateur qui l’a créé. Microsoft a fini par les supprimer suite à des critiques pour atteinte à la vie privée et a même publié un outil permettant de les supprimer des documents existants.
Anthropic n’identifie pas les utilisateurs. Il n’y a aucune preuve que le filigrane actuel de Claude inclut le nom, le compte, l’invite, le lieu ou la date, et la documentation proposée par la société ne prétend rien de tel. Le parallèle souligné par Sinofsky est un autre : dès lors qu’il existe une trace invisible et persistante dans un élément de contenu, il importe beaucoup de savoir qui le contrôle et dans quelle mesure il peut être étendu. Dans le cas de Microsoft, un identifiant créé pour résoudre les liens rompus a fini par permettre de lier des documents à du matériel spécifique. Et ce n’est pas tout : des années plus tard, il a même aidé à retrouver le créateur du virus Melissa.
Une idée bonne et imparfaite. De plus en plus de textes sont un mélange de ce qu’écrivent les humains et de ce qu’écrivent les machines. Le chercheur Ian Miers, qui travaille sur cette technologie depuis 2024, a commenté dans Cette technologie peut être utile pour identifier les AI Slop générés en masse et publiés sans être édités, mais elle ne répond pas à l’autre question cruciale : dans quelle mesure un texte a été écrit par une machine et dans quelle mesure par la personne qui l’a publié.
À Simseo | Qu’est-il arrivé à Technicolor : évolution et mort de l’entreprise qui a changé le cinéma et dépassée par son ambition
