OpenAI lance un nouvel outil pour dissuader la triche sur sa propre plateforme

ChatGPT, un outil d’intelligence artificielle capable d’écrire des essais, des poèmes et des e-mails sur n’importe quel sujet d’un simple clic de souris, a envoyé une onde de choc dans le monde de l’éducation lors de son introduction à la fin de l’année dernière. Maintenant, ses créateurs ont construit un nouveau programme qui peut aider à attraper les étudiants qui utilisent le bot AI pour tricher.

Mais au lieu d’apaiser les craintes des enseignants, le nouvel outil de détection a été quelque peu décevant dans les mondes de la technologie et de l’éducation. Créée par la société OpenAI basée à San Francisco, la plateforme n’identifie avec précision le texte écrit par l’IA qu’un quart du temps et donne un faux positif pour près d’une soumission sur 10. Même un outil de détection différent créé par un étudiant de Princeton fonctionne légèrement mieux.

Certains experts craignent que le programme de détection de l’entreprise ne conduise à accuser à tort les étudiants de plagiat.

« Je suis surpris qu’OpenAI publie cet outil avec son niveau de performance actuel », a déclaré Victor Lee, responsable de la faculté AI + Education au Stanford Accelerator for Learning. « Si c’est repris trop rapidement, cela pourrait être vraiment risqué et nocif pour les étudiants. »

Après la sortie du chatbot à la fin de l’année dernière, les districts scolaires de tout le pays ont réagi avec inquiétude. Avec la possibilité de produire du contenu en quelques secondes, ChatGPT était considéré par beaucoup comme le code de triche ultime pour les étudiants et, selon certains, le clou dans le cercueil pour l’écriture originale. Les étudiants ont commencé à remettre des devoirs écrits par l’IA ; les entreprises ont commencé à intégrer ChatGPT dans leurs protocoles de rédaction. Et en quelques semaines, son utilisation a été interdite dans les écoles de New York, Los Angeles et Seattle.

Certaines des plus grandes entreprises technologiques du monde se sont empressées de rattraper leur retard. La semaine dernière, Microsoft a révélé qu’il intégrait la technologie de ChatGPT dans son moteur de recherche Bing. Google a suivi avec sa propre version, appelée Bard.

« Cela va tout changer », a déclaré Jake Carr, professeur d’anglais à Chico, au début du mois.

En développant un outil pour faire la distinction entre le texte écrit par l’homme et celui écrit par l’IA, les créateurs de ChatGPT, OpenAI basé à San Francisco, espèrent dissuader l’implication du bot dans les campagnes de désinformation automatisées, la tricherie dans les écoles et d’autres types de tromperie infusée par l’IA.

« Nous rendons ce classificateur accessible au public pour obtenir des commentaires sur l’utilité d’outils imparfaits comme celui-ci », a déclaré OpenAI dans un récent article de blog. « Notre travail sur la détection de texte généré par l’IA se poursuivra et nous espérons partager des méthodes améliorées à l’avenir. »

Mais le classificateur de texte de l’entreprise est en retard. Début janvier, l’étudiant de Princeton, Edward Tian, ​​a construit GPTZero, un outil avec le slogan « les humains méritent la vérité ».

En comparant les deux mêmes essais écrits par ChatGPT sur le classificateur de texte d’OpenAI et GPTZero de Tian – trois paragraphes sur les dangers du plagiat – le classificateur de texte a déclaré que le texte était « peut-être généré par l’IA », tandis que GPTZero a déclaré qu’il était « susceptible d’être entièrement écrit ». par l’IA. »

De plus, le « classificateur de texte AI » n’est pas particulièrement fiable. Selon l’entreprise, l’outil a identifié le texte écrit par ordinateur dans 26 % de leurs évaluations, tout en étiquetant à tort le texte écrit par l’homme comme étant de l’IA 9 % du temps. La détection est particulièrement mauvaise avec du texte de moins de 1 000 caractères. Pourtant, OpenAI a déclaré que son classificateur de texte est plus précis que d’autres outils essayant d’analyser du texte.

Lee a déclaré qu’il appréciait l’ouverture de l’entreprise sur les limites de son classificateur, mais qu’il avait toujours des inquiétudes.

« Je crains que beaucoup de gens entendent dire qu’il existe un outil qui détectera des choses sans regarder les petits caractères sur ses performances. »

Distribué par Tribune Content Agency, LLC.