La dernière idée d’Elon Musk est TruthGPT, une IA en « recherche de la vérité ultime ». ça va être difficile

Il y a quelques semaines, Elon Musk est devenu l’une des personnalités qui ont signé la lettre pour suspendre immédiatement la formation des nouvelles IA. Le message était dans une certaine mesure raisonnable, mais Musk avait des raisons supplémentaires de souscrire à cette initiative. Le plus important : lancer son propre projet de chatbot pour rivaliser avec ChatGPT. Nous en savons maintenant un peu plus sur la façon dont vous souhaitez aborder ce développement.

VéritéGPT. Comme il le souligne Le bordMusk a récemment accordé une interview sur Fox News. Dans ce document, il prétendait travailler sur TruthGPT (« vérité » signifie « vérité »), une alternative à ChatGPT qui agit comme une « intelligence artificielle à la recherche de la vérité ultime ». Le propriétaire milliardaire de Twitter a déjà publié un message en février parlant précisément de cette possibilité.

Nous devons éviter la destruction de l’humanité. Pour Musk, ce chatbot « essaie de comprendre la nature de l’univers. Et je pense que cela pourrait être la meilleure voie vers la sécurité dans le sens où une IA qui se soucie de comprendre l’univers a peu de chances d’anéantir les humains parce que nous en faisons partie ». . » univers intéressant ».

comparaisons dangereuses. Musk a fait référence à la façon dont les êtres humains s’efforcent de protéger des espèces telles que les chimpanzés, ce qui est étrange compte tenu ce qui s’est passé pendant vos expériences avec eux dans le développement de Neuralink. Le milliardaire a commenté que « nous reconnaissons que l’humanité pourrait décider de chasser tous les chimpanzés et de les tuer. En fait, nous sommes heureux qu’ils existent et aspirons à protéger leurs habitats ».

Est-ce que TruthGPT est un produit réalisable ? L’intention est peut-être bonne, mais la vérité est que les algorithmes qui contrôlent nos vies sont tout aussi injustes que nous. Des problèmes en ce sens se manifestent depuis des années dans divers projets d’intelligence artificielle, en particulier dans le domaine des préjugés raciaux et sexistes. ChatGPT a montré qu’il peut se comporter de manière toxique, par exemple.

Les IA mentent et inventent. Et puis il y a l’autre problème : les chatbots qui apparaissent sur le marché – ChatGPT en est un bon exemple, mais c’est aussi le cas de Bing avec ChatGPT et Google Bard -, ils n’arrêtent pas d’inventer et de nous mentir. Ils le font par inadvertance, bien sûr, mais c’est une limitation majeure de ces services, et on ne sait pas comment Musk et sa nouvelle équipe vont résoudre le problème.

Les formateurs humains ne sont pas la solution absolue. Les développeurs de ces systèmes tirent souvent parti de l’apprentissage par renforcement à partir de la rétroaction humaine (RLHF), un moyen pour les utilisateurs humains de tester d’abord intensivement ces systèmes et de les affiner avant qu’ils ne soient accessibles au public. Ouvrir l’IA expliqué déjà en janvier 2022 comment j’utilisais cette technique pour le développement de GPT-3, mais encore, les problèmes existent.

Qu’il soit très « Vérité » ou pas, Musk veut avoir son IA. Ceci est démontré par les derniers mouvements. En plus d’avoir acheté 10 000 GPU pour former son propre grand modèle de langage, Musk a également fondé début mars X.AI, une nouvelle société d’intelligence artificielle, bien avant de signer la fameuse lettre pour suspendre l’IA, et sans rien dire à personne.

À Simseo | L’Espagne enquête officiellement sur OpenAI par ChatGPT : une éventuelle violation du RGPD apparaît sur la scène