Le « parrain de l’IA » exhorte les gouvernements à arrêter la prise de contrôle des machines
L’informaticien Geoffrey Hinton, connu comme le « parrain de l’IA », prend la parole lors de la conférence Collision Tech à Toronto, au Canada.
Geoffrey Hinton, l’un des soi-disant parrains de l’intelligence artificielle, a exhorté mercredi les gouvernements à intervenir et à s’assurer que les machines ne prennent pas le contrôle de la société.
Hinton a fait la une des journaux en mai lorsqu’il a annoncé qu’il quittait Google après une décennie de travail pour parler plus librement des dangers de l’IA, peu de temps après que la sortie de ChatGPT ait captivé l’imagination du monde.
Le scientifique très respecté de l’IA, basé à l’Université de Toronto, s’adressait à un public nombreux lors de la conférence technologique Collision dans la ville canadienne.
La conférence a réuni plus de 30 000 fondateurs de startups, investisseurs et travailleurs de la technologie, la plupart cherchant à apprendre à surfer sur la vague de l’IA et à ne pas entendre de leçon sur ses dangers.
« Avant que l’IA ne soit plus intelligente que nous, je pense que les personnes qui la développent devraient être encouragées à faire beaucoup d’efforts pour comprendre comment elle pourrait essayer de prendre le contrôle », a déclaré Hinton.
« En ce moment, il y a 99 personnes très intelligentes qui essaient d’améliorer l’IA et une personne très intelligente qui essaie de comprendre comment l’empêcher de prendre le dessus et peut-être que vous voulez être plus équilibré », a-t-il déclaré.
Hinton a averti que les risques de l’IA doivent être pris au sérieux malgré ses détracteurs qui pensent qu’il exagère les risques.
« Je pense qu’il est important que les gens comprennent que ce n’est pas de la science-fiction, ce n’est pas seulement de la peur », a-t-il insisté. « C’est un risque réel auquel nous devons réfléchir, et nous devons déterminer à l’avance comment y faire face. »
Hinton a également exprimé sa crainte que l’IA n’aggrave les inégalités, le gain de productivité massif résultant de son déploiement profitant aux riches et non aux travailleurs.
« La richesse n’ira pas aux gens qui font le travail. Elle servira à enrichir les riches et non les plus pauvres et c’est très mauvais pour la société », a-t-il ajouté.
Les participants prennent une pause pour vérifier leurs appareils lors de la conférence Collision à Toronto.
Il a également souligné le danger des fausses nouvelles créées par les robots de type ChatGPT et a déclaré qu’il espérait que le contenu généré par l’IA pourrait être marqué d’une manière similaire à la façon dont les banques centrales filigranent l’argent en espèces.
« Il est très important d’essayer, par exemple, de marquer tout ce qui est faux comme faux. Si nous pouvons le faire techniquement, je ne sais pas », a-t-il déclaré.
L’Union européenne envisage une telle technique dans sa loi sur l’IA, une législation qui fixera les règles de l’IA en Europe, qui est actuellement en cours de négociation par les législateurs.
« Surpopulation sur Mars »
La liste des dangers de l’IA de Hinton contrastait avec les discussions de la conférence qui portaient moins sur la sécurité et les menaces, et plus sur la saisie de l’opportunité créée à la suite de ChatGPT.
La capitaliste en capital-risque Sarah Guo a déclaré que parler pessimiste de l’IA en tant que menace existentielle était prématuré et l’a comparé à « parler de surpopulation sur Mars », citant un autre gourou de l’IA, Andrew Ng.
Elle a également mis en garde contre la « capture réglementaire » qui verrait l’intervention du gouvernement protéger les titulaires avant qu’elle n’ait une chance de profiter à des secteurs tels que la santé, l’éducation ou la science.
Les opinions divergeaient sur la question de savoir si les géants actuels de l’IA générative, principalement soutenus par Microsoft, OpenAI et Google, resteraient inégalés ou si de nouveaux acteurs élargiraient le domaine avec leurs propres modèles et innovations.
« Dans cinq ans, j’imagine encore que si vous voulez aller chercher le modèle général le meilleur, le plus précis, le plus avancé, vous allez probablement encore devoir vous adresser à l’une des rares entreprises qui ont le capital pour le faire. « , a déclaré Leigh Marie Braswell de la société de capital-risque Kleiner Perkins.
Zachary Bratun-Glennon de Gradient Ventures a déclaré qu’il prévoyait un avenir où « il y aura des millions de modèles sur un réseau, un peu comme nous avons un réseau de sites Web aujourd’hui ».
