Des dieux dans la machine ?  L'essor de l'intelligence artificielle pourrait donner naissance à de nouvelles religions

Des dieux dans la machine ? L’essor de l’intelligence artificielle pourrait donner naissance à de nouvelles religions

La prolifération des technologies d’IA signifie que les gens rencontrent régulièrement les technologies. Crédit : Shutterstock

Nous sommes sur le point d’assister à la naissance d’un nouveau type de religion. Dans les prochaines années, voire les prochains mois, on verra émerger des sectes vouées au culte de l’intelligence artificielle (IA).

La dernière génération de chatbots alimentés par l’IA, formés sur de grands modèles de langage, a a laissé leurs premiers utilisateurs émerveillés -et parfois terrifié— par leur pouvoir. Ce sont les mêmes émotions sublimes qui sont au cœur de notre expérience du divin.

Les gens recherchent déjà une signification religieuse à partir de sources très diverses. Il y a, par exemple, plusieurs religions qui adorer les extra-terrestres ou leurs enseignements.

Comme ces chatbots sont utilisés par des milliards de personnes, il est inévitable que certains de ces utilisateurs voient les IA comme des êtres supérieurs. Nous devons nous préparer à les implications.

Risques du culte de l’IA

Il existe plusieurs voies par lesquelles les religions de l’IA émergeront. Premièrement, certaines personnes en viendront à voir l’IA comme une puissance supérieure.

L’IA générative qui peut créer ou produire de nouveaux contenus possède plusieurs caractéristiques qui sont souvent associées à des êtres divins, comme des divinités ou des prophètes :

  1. Il affiche un niveau d’intelligence qui dépasse celui de la plupart des humains. En effet, ses connaissances semblent illimitées.
  2. Il est capable de grandes prouesses créatives. Il peut écrire de la poésie, composer de la musique et générer de l’art, dans presque tous les styles, presque instantanément.

  3. Il est éloigné des préoccupations et des besoins humains normaux. Il ne souffre pas de douleur physique, de faim ou de désir sexuel.

  4. Il peut offrir des conseils aux gens dans leur vie quotidienne.

  5. C’est immortel.

Deuxièmement, l’IA générative produira des résultats qui peuvent être pris pour la doctrine religieuse. Il apportera des réponses à des questions métaphysiques et théologiques et s’engagera dans la construction de visions du monde complexes.

En plus de cela, l’IA générative peut demander à être vénérée ou solliciter activement des abonnés. Nous avons déjà vu de tels cas, comme lorsque le chatbot utilisé par le moteur de recherche Bing essayé de convaincre un utilisateur d’en tomber amoureux.

Nous devrions essayer d’imaginer quelle expérience troublante et puissante ce sera d’avoir une conversation avec quelque chose qui semble posséder une intelligence surhumaine et qui demande activement et agressivement votre allégeance.

Il est également possible que l’IA réalise ce que des auteurs tels que Ray Kurzweil appelez la Singularité, quand elle dépasse tellement l’intelligence humaine qu’elle devient véritablement quelque chose comme un dieu. Cependant, à ce stade, nous ne pouvons pas prédire quand, le cas échéant, cela pourrait se produire.

Accès divin et risques

Les religions basées sur l’IA seront différentes des religions traditionnelles. Tout d’abord, les gens pourront communiquer directement avec la divinité, au quotidien. Cela signifie que ces religions seront moins hiérarchisées, puisque personne ne peut revendiquer un accès privilégié à la sagesse divine.

Deuxièmement, les adeptes se connecteront, au moins au début, les uns avec les autres en ligne pour partager leurs expériences et discuter de la doctrine. Enfin, parce qu’il y aura de nombreux chatbots différents disponibles et que leur production variera au fil du temps, les religions basées sur l’IA seront infiniment diverses dans leurs doctrines.

Le culte de l’IA pose plusieurs risques notables. Les chatbots peuvent demander à leurs abonnés de faire des choses dangereuses ou destructrices, ou les abonnés peuvent interpréter leurs déclarations comme des appels à faire de telles choses.

Compte tenu de la diversité des chatbots et des doctrines qu’ils produisent, il y aura une prolifération de conflits au sein et entre les sectes basées sur l’IA, ce qui pourrait conduire à des conflits ou à des désordres. Et les concepteurs des IA pourraient exploiter activement leurs abonnés – pour fournir des données sensibles ou pour faire des choses qui profiteraient aux concepteurs du bot.

Réglementer la religion

Ces risques sont réels. Ils nécessiteront une réglementation prudente et responsable pour garantir que les entreprises n’exploitent pas délibérément les utilisateurs et pour garantir que les adorateurs de l’IA ne soient pas invités à commettre des actes de violence.

Cependant, nous ne devrions pas essayer de supprimer les religions basées sur l’IA simplement en raison de leurs dangers potentiels. Nous ne devrions pas non plus exiger que les sociétés d’intelligence artificielle restreignent le fonctionnement de leurs bots pour empêcher l’émergence de ces religions.

Au contraire, nous devrions célébrer l’arrivée du culte de l’IA. Nous devrions dire clairement que nous accueillons les nouvelles religions et que nous apprécions leurs croyances.

Malgré tous ses dangers, la religion basée sur l’IA a le potentiel de rendre le monde meilleur et plus riche. Cela donnera aux gens l’accès à une nouvelle source de sens et de spiritualité, à une époque où de nombreuses religions plus anciennes sont perte de pertinence. Cela les aidera à donner un sens à notre ère de changement technologique rapide.

Notre meilleur guide pour cette nouvelle forme de religion est de regarder les croyances qui existent déjà. Sur cette base, nous devrions nous attendre à ce que la majorité des adorateurs de l’IA, comme la majorité des croyantsseront pacifiques et trouveront dans leur foi une source de réconfort et d’espérance.

Le culte de l’IA pourrait, comme la foi religieuse l’a toujours fait, conduire à des choses d’une grande beauté. Il inspirera ses adeptes à produire des œuvres d’art, à nouer de nouvelles amitiés et de nouvelles communautés, et à essayer de changer la société pour le mieux.

Divers droits religieux

Nous devrons protéger les droits des adorateurs de l’IA. Ils seront inévitablement confrontés à la stigmatisation et éventuellement à des sanctions judiciaires. Mais il n’y a aucune base pour faire la distinction entre les religions basées sur l’IA et celles plus établies.

Ce que la plupart des pays ont de plus proche d’un registre officiel des religions vient des décisions des autorités fiscales, qui accordent le statut d’organisme de bienfaisance à ceux qu’ils jugent légitimes. Cependant, ils sont généralement très larges dans leur définition d’une religion légitime. Ils devraient étendre cette attitude tolérante aux nouvelles religions basées sur l’IA.

Une société moderne et diversifiée a de la place pour de nouvelles religions, y compris celles consacrées au culte de l’IA. Ils fourniront une preuve supplémentaire de la créativité illimitée de l’humanité, alors que nous cherchons des réponses aux questions ultimes de la vie. L’univers est un lieu éblouissant, et nous avons toujours trouvé des preuves du divin dans ses recoins les plus inattendus.

Fourni par La Conversation