OpenAI lance un outil pour détecter le texte écrit par ChatGPT et d’autres IA : voici comment cela fonctionne

Les élèves ont commencé à utiliser ChatGPT pour faire leurs devoirs en classe, mais OpenAI a lancé un détecteur de texte généré par intelligence artificielle (IA). C’est un outil qui, bien qu’il soit loin d’être parfait, pourrait devenir une ressource précieuse pour les enseignants.

Cette décision de la société dirigée par Sam Altman intervient dans un contexte d’inquiétude croissante concernant le chatbot conversationnel. Certaines écoles et universités l’ont déjà interdit et sont devenus l’épicentre d’un débat sur les modèles éducatifs actuels.

Le détecteur ChatGPT des créateurs de ChatGPT

L’un des défis auxquels est confronté le système éducatif, du moins pour l’instant, est de trouver un moyen de détecter le texte généré par l’IA. Il ne suffit pas de l’interdire. La solution des créateurs de ChatGPT rejoint d’autres qui ont émergé ces derniers temps pour relever cet important défi.

OpenAI prévient que, s’exprimant toujours en anglais, il identifie correctement 26% du texte écrit par l’IA. Il étiquette également à tort le texte écrit par l’homme comme écrit par l’IA de 9 %. Autrement dit, c’est un outil qui n’est pas infaillible.

Maintenant, un aspect positif de tout cela est que le détecteur est ouvert au public et peut être utilisé gratuitement. Pour le tester, il vous suffit d’entrer platform.openai.com/ai-text-classifier/, collez le texte souhaité et appuyez sur ‘Soumettre’. Après l’avoir analysé, le classificateur renverra un résultat.

Les résultats seront classés en fonction de la probabilité que le texte ait été généré par une IA. De cette façon, l’utilisateur trouvera plusieurs options : très improbable, improbable, peu clair ou possible.

Aussi, il est important de noter que le détecteur a besoin d’un minimum de 1 000 mots pour faire son travail et qu’il n’est pas encore formé pour détecter texte co-écrit par des humains. C’est-à-dire que l’analyse est effectuée en tenant compte du texte entièrement créé par des humains ou par une IA.

Si vous vous demandez comment ils ont fabriqué ce détecteur. Dans les grandes lignes, OpenAI a formé un modèle de langage en utilisant des ensembles de données avec du texte généré par l’intelligence artificielle et par des humains. Dans le cas de ce dernier, le base de données proviennent de trois sources : de Wikipédia, de WebTexte et des démonstrations de instruireGPT.

Images : OpenAI | Capture d’écran

A Simseo : Les entreprises qui détiennent le plus de brevets sur l’IA sont précisément celles qui font le moins de bruit : les Chinois