Ai apocalypse? Pourquoi la langue entourant la technologie semble de plus en plus religieuse
À 77 ans, Geoffrey Hinton a une nouvelle vocation dans la vie. Comme un prophète moderne, le lauréat du prix Nobel stimule les dangers de l'intelligence artificielle incontrôlée et non réglementée.
Fréquemment surnommé le «parrain de l'IA», Hinton est connu pour son travail pionnier sur l'apprentissage en profondeur et les réseaux de neurones qui ont aidé à jeter les bases de la technologie d'IA souvent utilisée aujourd'hui. Se sentant « quelque peu responsable », il a commencé à parler publiquement de ses préoccupations en 2023 après avoir quitté son emploi chez Google, où il a travaillé pendant plus d'une décennie.
Comme la technologie – et les fonds d'investissement – l'IA alimentaire ont progressé ces dernières années, il en va de même pour les enjeux derrière.
« C'est vraiment divin », a déclaré Hinton.
Hinton fait partie d'un nombre croissant de personnalités technologiques éminentes qui parlent de l'IA en utilisant un langage une fois réservé au divin. Le PDG d'Openai, Sam Altman, a qualifié la technologie de son entreprise de « Magic Intelligence in the Sky », tandis que Peter Thiel, le co-fondateur de Paypal et Palantir, a même fait valoir que l'IA pourrait aider à provoquer l'Antéchrist.
L'IA apportera-t-elle la condamnation ou le salut?
Il y a beaucoup de sceptiques qui doutent que la technologie mérite ce type de peur, notamment Dylan Baker, un ancien employé de Google et ingénieur de recherche principale au Distributed IA Research Institute, qui étudie les impacts néfastes de l'IA.
« Je pense souvent qu'ils opèrent à partir de la pensée fantastique magique informée par beaucoup de science-fiction qu'ils ont probablement obtenue au cours de leurs années de formation », a déclaré Baker. « Ils sont vraiment détachés de la réalité. »
Bien que les chatbots comme Chatgpt aient récemment pénétré le zeitgeist, certains cercles de la Silicon Valley ont prophétisé la puissance de l'IA pendant des décennies.
« Nous essayons de réveiller les gens », a déclaré Hinton. « Pour que le public comprenne les risques afin que le public fait pression sur les politiciens de faire quelque chose. »
Alors que des chercheurs comme Hinton mettent en garde contre la menace existentielle qu'ils croient que l'IA pose pour l'humanité, il y a des PDG et des théoriciens de l'autre côté du spectre qui soutiennent que nous approchons d'une sorte d'apocalypse technologique qui inaugurera une nouvelle ère de l'évolution humaine.
Dans un essai publié l'année dernière intitulé « Machines of Loving Grace: How Ai pourrait transformer le monde pour le mieux », le PDG d'Anthropic Dario Amodei exposait sa vision d'un avenir « Si tout va bien avec l'IA ».
L'entrepreneur de l'IA prédit «la défaite de la plupart des maladies, la croissance de la liberté biologique et cognitive, la levée de milliards de personnes de la pauvreté pour partager les nouvelles technologies, une renaissance de la démocratie libérale et des droits de l'homme».
Alors qu'Amodei opte pour l'expression «IA puissante», les autres utilisent des termes comme «la singularité» ou «l'intelligence générale artificielle (AGI)». Bien que les partisans de ces concepts ne soient pas souvent d'accord sur la façon de les définir, ils se réfèrent largement à un point futur hypothétique auquel l'IA dépassera l'intelligence au niveau de l'homme, déclenchant potentiellement des changements rapides et irréversibles dans la société.
L'informatique et auteur Ray Kurzweil prédit depuis les années 1990 que les humains fusionnent un jour avec la technologie, un concept souvent appelé transhumanisme.
« Nous n'allons pas réellement dire ce qui vient de notre propre cerveau par rapport à ce qui vient de l'IA. Tout va être ancré en nous-mêmes. Et cela va nous rendre plus intelligent », a déclaré Kurzweil.
Dans son dernier livre, « La singularité est plus proche: quand nous fusions avec l'IA », Kurzweil double ses prédictions antérieures. Il pense qu'en 2045, nous aurons « multiplié notre propre intelligence un million de dollars ».
« Oui », a-t-il finalement concédé lorsqu'on lui a demandé s'il considérait AI comme sa religion. Cela informe son sens de l'objectif.
« Mes réflexions sur l'avenir et l'avenir de la technologie et la rapidité avec laquelle cela arrive affecte définitivement mes attitudes envers d'être ici et ce que je fais et comment je peux influencer les autres », a-t-il déclaré.
Visions de la bulle d'apocalypse
Malgré l'invocation explicite de Thiel du langage du Livre de l'Apocalypse, les visions positives d'un avenir d'IA sont plus « apocalyptiques » au sens historique du mot.
« Dans le monde antique, l'apocalyptique n'est pas négative », explique Domenico Agostini, professeur à l'Université de Naples L'Orientale qui étudie la littérature apocalyptique ancienne. « Nous avons complètement changé la sémantique de ce mot. »
Le terme «apocalypse» vient du mot grec «apokalypsis», ce qui signifie «révélation». Bien que souvent associées aujourd'hui à la fin du monde, les apocalypses dans la pensée juive et chrétienne ancienne étaient une source d'encouragement en période de difficultés ou de persécution.
« Dieu promet un nouveau monde », a déclaré le professeur Robert Geraci, qui étudie la religion et la technologie au Knox College. « Afin d'occuper ce nouveau monde, vous devez avoir un nouveau corps glorieux qui triomphe sur le mal que nous vivons tous. »
Geraci a d'abord remarqué le langage apocalyptique utilisé pour décrire le potentiel de l'IA au début des années 2000. Kurzweil et d'autres théoriciens l'ont finalement inspiré à écrire son livre de 2010, « apocalyptique AI: Visions of Heaven in Robotics, Artificiel Intelligence et Virtual Reality ».
La langue lui a rappelé le début du christianisme. « Seulement, nous allons glisser Dieu et glisser… Votre choix de lois sur les sciences cosmiques qui le font et nous allions ensuite avoir le même genre d'avenir glorieux à venir », a-t-il déclaré.
Geraci soutient que ce genre de langue n'a pas beaucoup changé depuis qu'il a commencé à l'étudier. Ce qui le surprend, c'est à quel point il est devenu omniprésent.
« Ce qui était autrefois très bizarre est un peu partout », a-t-il déclaré.
La Silicon Valley a-t-elle finalement trouvé son Dieu?
Un facteur dans le culte croissant de l'IA est la rentabilité.
« Il y a vingt ans, ce fantasme, vrai ou non, ne générait pas vraiment beaucoup d'argent », a déclaré Geraci. Maintenant, cependant, « il y a une incitation financière à Sam Altman qui dit qu'Agi est au coin de la rue. »
Mais Geraci, qui soutient que Chatgpt « n'est même pas à distance, vaguement, plausiblement conscient », pense qu'il peut y avoir plus de conduite de ce phénomène.
Historiquement, le monde de la technologie a été notoirement dépourvu de religion. Sa réputation laïque l'avait tellement précédé qu'un épisode de la série satirique de comédie HBO, « Silicon Valley », tourne autour de « sortir » un collègue en tant que Christian.
Plutôt que de considérer la vénération sceptique du monde de la technologie de l'IA comme ironique, Geraci pense qu'ils sont liés de manière causale.
« Nous, les êtres humains, sommes profondément, profondément, intrinsèquement religieux », a-t-il dit, ajoutant que les technologies impressionnantes derrière l'IA pourraient plaire aux gens de la Silicon Valley qui ont déjà écarté « des approches ordinaires de la transcendance et du sens ».
Aucune religion n'est sans sceptiques
Tous les PDG de la Silicon Valley n'ont pas été convertis, même s'ils veulent dans la technologie.
« Lorsque les gens de l'industrie de la technologie parlent de la construction de cette vraie IA, c'est presque comme s'ils pensaient qu'ils créent Dieu ou quelque chose », a déclaré le méta-PDG Mark Zuckerberg sur un podcast l'année dernière alors qu'il a promu la propre entreprise de son entreprise dans l'IA.
Bien que les théories transhumanistes comme celles de Kurzweil se soient répandues, elles ne sont toujours pas omniprésentes dans la Silicon Valley.
« Le cas scientifique pour cela n'est en aucun cas plus fort que le cas d'une vie après la mort religieuse », fait valoir Max Tegmark, physicien et chercheur à l'apprentissage automatique au Massachusetts Institute of Technology.
Comme Hinton, Tegmark a été franc sur les risques potentiels de l'IA non réglementée. En 2023, en tant que président du Future of Life Institute, Tegmark a aidé à diriger une lettre ouverte appelant à de puissants laboratoires d'IA à « faire une pause immédiatement » de la formation de leurs systèmes.
La lettre a recueilli plus de 33 000 signatures, dont Elon Musk et le co-fondateur d'Apple, Steve Wozniak. Tegmark considère que la lettre a réussi parce qu'elle a aidé à « maintenir la conversation » sur la sécurité de l'IA, mais pense que son travail est loin d'être terminé.
Avec les réglementations et les garanties, Tegmark pense que l'IA peut être utilisée comme un outil pour faire des choses comme guérir les maladies et augmenter la productivité humaine. Mais il est impératif, soutient-il, de rester à l'écart de la race « assez marginale » que certaines entreprises dirigent – « la poursuite pseudoreligieuse pour essayer de construire un Dieu alternatif ».
« Il y a beaucoup d'histoires, à la fois dans les textes religieux et dans, par exemple, la mythologie grecque ancienne, sur la façon dont lorsque nous, les humains, commençons à jouer des dieux, cela se termine mal », a-t-il déclaré. « Et je pense qu'il y a beaucoup d'orgueil à San Francisco en ce moment. »
