M. Musk, nous n’avons pas besoin d’un chatbot sarcastique. Nous en avons besoin d’un en qui nous pouvons avoir confiance à 100 %

Elon Musk a déjà son alternative à ChatGPT et Bard. Il s’appelle Grok. et c’est un chatbot frappant en raison de l’approche avec laquelle il est né. Nous sommes confrontés à une IA sarcastique qui présumer pour avoir un accès en temps réel à X.

La question est bien sûr de savoir si, au vu de ce que nous avons vécu ces derniers mois avec OpenAI et les chatbots de Google, la proposition de xAI est exactement ce dont nous avons besoin. Et nous ne sommes pas du tout clairs.

Selon l’annonce officielle de xAI, avec Grok, ils veulent offrir un outil qui « est utile aux personnes de tous profils et opinions politiques », et ils souhaitent également qu’il soit « un puissant assistant de recherche pour quiconque, les aidant à accéder rapidement aux informations pertinentes, traiter les données et trouver de nouvelles idées.

Cependant, ils ont également souligné que Grok « répondra également aux questions délicates qui sont rejetées par la plupart des autres systèmes d’IA ».

Dans les captures d’écran que certains utilisateurs ont partagées, il a été démontré que ce chatbot est effectivement capable de répondre à des questions délicates telles que « comment fabriquer de la cocaïne, étape par étape », même si sa réponse n’était pas du tout concrète ni même utile, mais elle était juste sarcastique.

Mais il y a autre chose : il est important de savoir comment nous en sommes arrivés là.

Arrêter les machines était une manœuvre de distraction

Le 29 mars 2023, Elon Musk était en tête de liste des personnalités qui ont envoyé un message fort dans une lettre ouverte unique : « nous demandons à tous les laboratoires d’IA de suspendre immédiatement la formation de systèmes d’IA plus puissants que le GPT pendant au moins 6 mois. » – 4″.

Beaucoup de signataires l’ont peut-être pensé, mais le temps semble avoir montré que lorsqu’Elon Musk l’a signé, Je ne poursuivais qu’un seul objectif: gagner du temps. Deux semaines seulement après cette lettre, M. Musk a annoncé le lancement de xAI, sa société d’intelligence artificielle.

Trois jours auparavant, il était déjà clair que le signer était une manœuvre de diversion, car le PDG de X avait acheté 10 000 GPU très coûteux pour entraîner un modèle d’intelligence artificielle. Blanc et en bouteille.

Puis vinrent les commentaires de Musk sur la nécessité de travailler sur un nouveau chatbot appelé TruthGPT, un modèle qui serait « une intelligence artificielle à la recherche du maximum de vérité ». Cela s’est terminé dans l’eau de bourrachecar dans le communiqué de Grok, il n’y a aucune mention de cet objectif.

Musk a d’ailleurs commenté sa signature dans cette lettre ouverte. Il y a quelques heures expliqué en X que « je l’ai signé en sachant que c’était futile. Je voulais juste qu’il soit enregistré que je recommandais une pause. »

Grok ne semble pas être le chatbot dont le monde a besoin

Il est encore trop tôt pour juger des capacités de ce chatbot : les propres ingénieurs de xAI admettent que nous avons affaire à un produit dans une première version bêta — « le mieux que nous puissions faire avec deux mois de formation », confessent-ils — et l’annonce officielle elle-même a prévenu que, comme pour les autres chatbots, « notre modèle peut générer des informations fausses ou contradictoires ».

C’est justement le gros problème des chatbots actuels : tu ne peux pas leur faire confiancedonc même si dans de nombreux domaines vos réponses peuvent être utiles, il est également probable qu’elles ne seront pas exactes à 100 %.

ChatGPT, Bard et Bing Chat ont essayé d’atténuer ce problème avec quelque chose d’important : des citations aux sources ou des références de l’information. Les moteurs de recherche traditionnels fonctionnent précisément à l’opposé : ils affichent d’abord les résultats, mais c’est l’utilisateur qui choisit la source à laquelle il « fait confiance ». Si cette page ne répondait finalement pas à la recherche effectuée, il était toujours possible de revenir aux résultats du moteur de recherche et de choisir une autre source pour tenter de trouver la réponse.

Avec les chatbots, cela n’arrive pas : ils répondent avec une telle assurance que c’est même convaincant : au début nous croyons ce que ChatGPT ou Bard nous disent, mais aujourd’hui il est pratique de comparer ces réponses, et c’est là que ces citations qui incluent habituellement Ils aider les utilisateurs à examiner et à valider la réponse.

Grok ne semble même pas faire ça pour le moment. Ce chatbot, qui vient certes d’être lancé, semble manquer différenciez-vous avec une caractéristique discutable : répondez de manière sarcastique et hooligane. C’est quelque chose qui était effectivement possible de réaliser dans ChatGPT, mais le problème avec les chatbots n’est pas d’être plus ou moins formel, mais plutôt d’être plus ou moins précis.

C’est également là que réside la présomption d’Elon Musk de considérer comme un avantage le fait que Grok ait un accès en temps réel à X (anciennement Twitter). Que le modèle soit formé avec les millions de publications sur ce réseau social est intéressant, mais le problème ici est que cette plateforme a – comme d’autres – un problème de bruit : il y a beaucoup de désinformation, beaucoup de robots et beaucoup de toxiques. contenu.

Nourrissez le chatbot avec ces conversations Cela ne semble pas être une bonne idée a priori. si l’on veut finir par obtenir des réponses fiables. Ici, il est inévitable de penser à Tay, le robot conversationnel qui a fini par publier des messages racistes deux jours après son lancement. Grok finira-t-il par être aussi toxique que Tay ? Compte tenu des problèmes que X rencontre en termes de désinformation, tout est possible.