"L'ère de l'IA a commencé": Bill Gates pense que nous sommes face à notre deuxième grande révolution technologique

« mettre en pause » son développement avant qu’il n’aille trop vite

ParSteven de Simseo

L’intelligence artificielle est si prodigieuse qu’elle commence à faire peur. En fait, il y a ceux qui veulent mettre en pause la formation de l’IA. Un énorme groupe d’experts et de personnalités du monde entier a signé une lettre ouverte ces jours-ci pour le demander, et parmi tous se détachait la présence d’Elon Musk, qui était curieusement co-fondateur d’OpenAI. Cette demande suscite un grand débat parmi les experts.

La lettre. L’initiative est venue du Future of Life Institute (FLI), une ONG dont la mission est de « réduire les risques catastrophiques et existentiels mondiaux des technologies puissantes ». L’un de ses objectifs est d’atténuer « le risque existentiel à long terme » de l’intelligence artificielle superintelligente. Elon Musk, qui avait déjà fait part de son inquiétude à ce sujet, a fait don de 10 millions de dollars à cette organisation en 2015.

Des experts favorables à la suspension de l’IA. Parmi ceux qui soutiennent cette demande figurent Steve Wozniak (co-fondateur d’Apple), Emad Mostaque (CEO de Stability AI), Yval Noah Harari (auteur et historien), Evan Sharp (co-fondateur de Pinterest) ou encore Max Tegmark (professeur de physique au MIT et président du FLI). Il y a même des ingénieurs travaillant pour DeepMind ou Microsoft qui ont signé cette pétition, mais personne d’OpenAI ne l’a fait.

fausses signatures. Le FLI a souligné sur la carte mère que tous les signataires ont été vérifiés « par communication directe » avec eux, mais il a été révélé que certains de ceux qui avaient théoriquement signé ne l’avaient pas fait. Parmi eux se trouvaient des imitations du PDG d’OpenAI, Sam Altman, du président de la Chine, Xi Jinpingou le responsable de l’IA chez Meta, Yann LeCunn, qui commenté sur Twitter qu’il ne l’a pas signé et qu’il était « contre la prémisse ». FLI a fini par éditer la liste pour revérifier les signatures.

critiques. Des experts comme Arvind Narayanan, professeur à Princeton, ont expliqué qu’une seule des menaces posées dans la lettre – la désinformation – était crédible, mais même dans ce cas, son impact était exagéré. Même certains des signataires ne sont pas entièrement convaincus par les arguments. Gary Marcus, professeur de psychologie et de neurosciences à l’Université de New York, a expliqué à Reuters que « la lettre n’est pas parfaite, mais l’esprit est adéquat ».

et plus d’avis. La lettre cite plusieurs études, et l’un des auteurs de l’un d’eux, Emily M. Bender, a publié un fil sur Twitter notant que la lettre « dégouline de battage médiatique sur l’IA » et abuse de ses conclusions. Dans cette étude, intitulée « Stochastic Parrots », ils ne parlaient pas du risque d’une IA trop puissante, « mais de la concentration du pouvoir entre les mains du peuple, et de la reproduction de systèmes d’oppression ».

Et encore plus. Des experts comme Andrew Ng, co-fondateur de Coursera, s’opposent également aux arguments de la lettre. Ng a déjà déclaré il y a des années que « l’intelligence artificielle est la nouvelle électricité », et a décrit la proposition de la lettre comme « une idée terrible » et a ajouté le danger d’entreprendre quelque chose comme ça :

« Il n’y a aucun moyen réaliste d’imposer un moratoire et d’empêcher toutes les équipes d’étendre les LLM, à moins que les gouvernements n’interviennent. Le fait que les gouvernements freinent les technologies émergentes qu’ils ne comprennent pas est anticoncurrentiel, crée un terrible précédent et craint l’innovation. politique ».

Les autres raisons de Musk. L’inquiétude de Musk semble raisonnable jusqu’à un certain point, mais les choses se sont compliquées après que les détails de sa relation difficile avec OpenAI et Sam Altman ont été révélés. Musk, l’un des premiers investisseurs, a quitté l’entreprise et regrette probablement cette décision. On parle de la façon dont il essaie de créer un rival pour OpenAI, et cette pause dans la formation à l’IA lui ferait du bien de se rattraper. Pendant ce temps Altmann confesser qu’il est « très calme dans l’œil de l’ouragan ».

Image | Unsplash

À Simseo | Nous avons demandé la même chose à Bard et ChatGPT. Ce sont les réponses que chacun nous a données

Steven de Simseo
Steven de Simseo

Steven, rédacteur en chef et moteur de Simseo, fusionne une expertise en intelligence artificielle avec une vision futuriste. Pionnier dans son domaine, il guide son équipe avec passion, transformant les complexités de l'IA en récits captivants et accessibles pour le grand public.