Ne déléguons pas notre avenir aux machines : message du pape François au G7

« Restons humains et ne déléguons pas notre avenir aux machines. C'est pourquoi, face aux défis et aux dangers de l'intelligence artificielle, nous avons besoin d'une vision éthique et de la primauté d'une politique bonne et saine. » C'est l'appel que le pape François a lancé le 14 juin, dans la section de sensibilisation du G7, devant les dirigeants du monde au sommet de Borgo Egnazia. « L'humanité est sans espoir si elle dépend du choix des machines », a souligné le Pontife.

Puis ajoutant, en référence par exemple à l'utilisation de l'IA dans la guerre, que « dans un drame comme celui des conflits armés, il est urgent de repenser le développement et l'utilisation de dispositifs tels que les soi-disant « armes autonomes mortelles » pour interdire leur utilisation. utiliser, en commençant déjà par un engagement actif et concret pour introduire un contrôle humain toujours plus grand et significatif. Aucune machine ne devrait jamais choisir de tuer ou non un être humain. »

Un discours de principes, mais aussi d'exemples concrets donc, prononcé par le Pontife. Tous se sont concentrés sur l’ambivalence de l’intelligence artificielle et la nécessité de sa maîtrise par les hommes et les femmes d’aujourd’hui et de demain.

L'IA fascinante et terrible à la fois, il faut de l'éthique

Lorsque le Pape a pris la parole, il a immédiatement annoncé qu'il avait une version longue à livrer et une version courte à lire. Et c’est exactement ce qu’il a lu, le tout en moins d’une demi-heure. L’intelligence artificielle est à la fois fascinante et terrible. Il rappelle donc la relation « entre liberté et responsabilité » et cela « signifie parler d'éthique ».

« Lorsque nos ancêtres, en effet, aiguisaient des silex pour fabriquer des couteaux, ils les utilisaient à la fois pour couper le cuir pour les vêtements et pour s'entre-tuer. On pourrait dire la même chose – a déclaré le Pape – d'autres technologies beaucoup plus avancées, comme l'énergie produite par la fusion d'atomes comme cela se produit sur le Soleil, qui pourrait certes être utilisée pour produire de l'énergie propre et renouvelable, mais aussi pour réduire notre planète. dans un tas de cendres. »

Selon le Pape, « l’intelligence artificielle est cependant un outil encore plus complexe. Je dirais presque qu'il s'agit d'un instrument sui generis. Ainsi, alors que l'utilisation d'un outil simple (comme un couteau) est sous le contrôle de l'être humain qui l'utilise et que son bon usage ne dépend que de ce dernier, l'intelligence artificielle, en revanche, peut s'adapter de manière autonome à la tâche. qui lui est assigné et, s'il est conçu de cette manière, faire des choix indépendants de l'être humain pour atteindre l'objectif fixé ». C’est pourquoi il est nécessaire que l’homme ne perde pas le contrôle.

Réguler l’IA contre le danger des fausses nouvelles

Le G7 d’Hiroshima en 2023 avait proposé un code moral, à adhésion volontaire, pour les entreprises et institutions publiques qui exploitent l’intelligence artificielle. Le sommet de Borgo Egnazia s'appuie sur le sommet précédent et accueille, lors de la séance du vendredi 14 juin, le pape François, qui a souligné à plusieurs reprises l'importance d'établir des limites éthiques à une technologie qui, si elle n'est pas réglementée, pourrait alimenter de manière innovante la désinformation et présenter des défis sans précédent. sur des questions telles que la vie privée et l’identité numérique.

Bergoglio a abordé ce sujet dans le message publié à l'occasion de la dernière Journée mondiale de la paix, le 1er janvier dernier. En 2020, le Vatican a lancé une initiative visant à promouvoir une dimension éthique qui définit des limites claires pour l’application des algorithmes. L'objectif de la présidence italienne est de parvenir à un accord sur un ensemble de normes qui réglementent l’utilisation de ces technologiesles rendant « centré sur l’humain » et ainsi éviter qu’ils aient un impact négatif sur le marché du travail, alimentant ainsi le chômage.

Mais la préoccupation la plus urgente est l'impact que l'intelligence artificielle aura, et a déjà, sur une désinformation numérique déjà répandue qui pourrait encore miner le processus démocratique avec des « fausses nouvelles » de plus en plus difficiles à reconnaître comme telles, même pour un œil expertune préoccupation particulièrement pressante en une année, 2024, qui verra près de la moitié de la population mondiale se rendre aux urnes.

Au niveau national, le gouvernement italien a récemment approuvé le « projet de loi cyber », basé sur trois principes : la défense du droit d'auteur, l'identification des contenus générés par l'intelligence artificielle et le renforcement des sanctions contre ceux qui produisent des « deepfakes ».