La promesse et le péril de ChatGPT, un chatbot d’IA remarquablement puissant

Les analystes et les experts prédisent que Ouvrez le nouveau ChatGPT d’AI entraînerait tout, de la « mort de l’essai scolaire » à l’aube d’une nouvelle ère de communication. Mais qu’est-ce que ChatGPT et comment pourrait-il changer nos vies ?

Posez une question à ChatGPT et il résume rapidement une réponse dans un paragraphe grammaticalement correct et ponctué. Il écrit également du code. Dans les deux semaines suivant son lancement le 30 novembre, des millions d’utilisateurs ont essayé la grande application d’intelligence artificielle à modèle linguistique. En fait, il recevait tellement d’attention que le système dépassait périodiquement sa capacité d’utilisation.

Si vous demandez à ChatGPT de quoi il s’agit et comment il fonctionne, il vous dira : « En tant que grand modèle de langage formé par OpenAI, je génère des réponses aux requêtes textuelles basées sur la grande quantité de données textuelles sur lesquelles j’ai été formé. Je n’ai pas la possibilité d’accéder à des sources d’informations externes ou d’interagir avec Internet, donc toutes les informations que je fournis sont dérivées des données textuelles sur lesquelles j’ai été formé. »

Aussi remarquable que puisse paraître ChatGPT, le système ne « pense » pas et est incapable de proposer des idées originales. Il fonctionne en imitant étroitement le langage humain, offrant le potentiel de rendre les tâches d’écriture plus rapides et plus faciles d’une manière jamais vue auparavant.

« Cet outil particulier est étonnamment efficace pour déterminer ce que veut un utilisateur et mettre les choses pertinentes de manière vraiment logique et claire, dans la mesure où certains peuvent être trompés en pensant qu’il est sensible », a déclaré Tinglong Dai, professeur de gestion des opérations. à la Johns Hopkins Carey Business School et un expert en intelligence artificielle. « Aucune autre IA n’a été aussi frappante que ChatGPT. Elle a vraiment ouvert la fenêtre sur les derniers développements dans les grands modèles de langage avec quelque chose que la plupart des gens ne savaient pas possible auparavant. »

Nous nous sommes déjà familiarisés avec certaines formes d’IA. Roomba peut cartographier votre maison et aspirer vos sols. DALL-E créera des images à partir d’un texte descriptif. Siri ou Alexa peuvent accomplir une multitude de tâches avec une simple commande vocale. Ce qui rend ChatGPT si captivant, c’est son utilisation transparente du langage humain. Bien que ses essais soient impressionnants, Dai a déclaré que le système n’était pas infaillible.

« Il est également très trompeur dans le sens où il est incapable de dire si ce qu’il écrit est exact », a-t-il expliqué. « En fait, juste sur la base de mes propres tests approfondis, j’ai trouvé qu’il faisait des tonnes d’erreurs factuelles, mais il le faisait d’une manière confiante et autoritaire. »

Dai a également noté que les réponses de ChatGPT semblent devenir de plus en plus répétitives et même « défensives » lorsqu’on leur pose sans cesse la même question. Les réponses de ChatGPT varient également en fonction de la langue utilisée pour poser la question, car ses réponses refléteront la langue du matériel source dont ChatGPT s’inspire pour formuler sa réponse.

Risques ou récompenses

Comme de nombreux outils à notre disposition, ChatGPT est très prometteur et a un potentiel effrayant. Remplacera-t-il des emplois ou rendra-t-il encore plus difficile pour les consommateurs de distinguer la réalité de la fiction ?

« Cet outil pourrait poser un grave défi à la démocratie, car cela signifie que le coût de la désinformation deviendrait incroyablement bas, de sorte qu’il sera presque impossible pour les gens de détecter le contenu créé par l’IA », a déclaré Dai. « Disons que vous pouvez même rendre l’IA plus authentique en insérant des fautes de frappe et d’autres erreurs et préjugés qui la rendent encore plus authentique et personnelle. Je pense que c’est la partie la plus effrayante. »

Dans le même temps, a déclaré Dai, il y aura probablement une prime à l’écriture authentique et à la pensée réelle, que seuls les humains peuvent fournir pour l’instant.

« L’écriture n’est pas seulement l’écriture; une bonne écriture reflète une bonne réflexion », a déclaré Dai. « En prenant un raccourci, je crains que les gens ne perdent cette capacité de réflexion vraiment précieuse. »

Apporter l’IA en classe

La Carey Business School est la seule grande école de commerce américaine qui exige des étudiants MBA à temps plein qu’ils étudient l’IA.

« Nous voulons qu’ils soient intimement familiarisés avec la théorie de l’IA et ce qui sous-tend tous les outils d’IA sur le marché », a déclaré Dai, qui a conçu le cours. « Nous voulons que nos diplômés sachent qu’ils ne seront pas remplacés ou victimes de fausses promesses d’IA. Au lieu de cela, nous voulons que les étudiants aient une pensée critique et apprennent à utiliser l’IA pour améliorer leur avantage concurrentiel et ce qui les différencie des autres – les humains et Agents de l’IA pareils. »

Alors, comment pouvons-nous être sûrs de connaître la source de ce que nous lisons ? Dai dit que la divulgation est importante et que les développeurs doivent fournir des outils de détection, afin qu’ils sachent s’ils lisent quelque chose qu’un humain a écrit ou non.

« Si vous pouvez combiner un produit comme ChatGPT avec des informations en temps réel, ou même avec des données qui ne sont pas immédiatement disponibles sur Internet, vous pourriez imaginer que des milliards de personnes voudront l’utiliser », a déclaré Dai. « Je pense vraiment que cela pourrait être au moins quelque chose d’aussi important que les médias sociaux, ou d’aussi important que le marché des smartphones. Les industries doivent trouver des moyens de travailler aux côtés de l’IA à l’avenir. Elles devraient chercher à être augmentées par l’IA, et non remplacées. » par l’IA. »