Commission d’IA sur l’information : la présidence de Benanti au nom de l’algorithmique

Père Paolo Benantithéologien du Troisième Ordre régulier de Saint François, ancien professeur à l’Université pontificale grégorienne et conseiller du pape François sur les thèmes de l’intelligence artificielle et de l’éthique technologique ainsi que membre du Comité de l’ONU sur l’IA, depuis le 5 janvier 2024 il est été le nouveau président de la Commission gouvernementale sur l’intelligence artificielle, à la place du démissionnaire Giuliano Amato. Nous pensons qu’il est utile de proposer quelques réflexions sur le changement de rythme ; mais pour ce faire, il est essentiel de partir de ses pensées.

Le Père Benanti et ses pensées

La nomination du Père Benanti n’est pas fortuite. Il y a quelques années, il a réussi à réunir autour de la même table des représentants de différentes religions, comme les musulmans, les juifs et les chrétiens, en leur faisant signer le même accord commun axé sur un modèle de développement de l’intelligence artificielle basé sur le CD. « algorithmique».

La pensée du Père Benanti est donc principalement orientée vers l’éthique.

La philosophie de l’algoréthique et de l’algocratie

L’algoréthique est un néologisme appartenant au Père Benanti, reconnu comme tel par l’Académie des Lincei, qui désigne « l’investigation des problèmes éthiques liés à l’utilisation de l’intelligence artificielle et, en particulier, d’outils basés sur des algorithmes », par définition.

Bref, et dit autrement, une éthique toujours faite par les hommes, mais calculable par une machine. Non seulement cela, nous ajoutons également le CD. « algocratie» qui décrit plutôt le phénomène de « l’utilisation croissante des algorithmes informatiques et de l’IA afin d’exercer un contrôle sur n’importe quel aspect de la vie quotidienne des individus », toujours par définition.

D’un autre côté, comme le rapporte Benanti lui-même dans une interview, « … le lien entre l’IA et l’information est crucial.». Et pour appuyer le poids de cette affirmation il met trois thèmes sur la table :

• le premier concernant la valorisation du métier de journaliste, figure de garantie dans le processus démocratique, va jusqu’à souligner comment dans le journalisme il y a «… un fort mission sociale que l’automatisation de l’information conduirait à l’extinction » ;
• le second, évoquant « la pérennité de la profession» en vient à considérer clairement que « l’automatisation a un impact sur l’industrie de l’édition, en la minant d’un point de vue économique » comme un effet susceptible de rendre problématique la poursuite (du rôle) du journalisme ;
• le troisième thème sur la table est donné par la présence des grands joueurdont certains sont des éditeurs sans avoir une idée claire de la responsabilité qu’ils ont face à ces questions.

C’est pourquoi le Père Benanti considère la gestion de l’IA comme essentielle « en deuxième lieu ». critères éthiques et de justice sociale». Autrement, nous risquons d’avoir des effets dévastateurs, compliqués, voire affaiblis, sur les capacités de cohésion entre les États.

L’IA au service du bien commun

En outre, selon le Père Benanti, « l’Église peut apporter une contribution importante en faveur dehumanisation de ces nouvelles technologies puissantes désigné pour servir en vue d’un bien commun. Plutôt qu’un simple instrument de pouvoir.

Plus généralement, le Chiesa ne peut pas éviter le débat sur l’intelligence artificielle étant une entité qui a la réputation d’être un « expert en humanité ».

L’intelligence artificielle et la vision du pape François à la Journée mondiale de la PAIX – GMP

La 57e Journée mondiale de la paix a été célébrée le 1er janvier 2024, avec pour thème central « Intelligence artificielle et paix ». Le message est éloquent dans sa portée dès le titre du GMP : «l’intelligence artificielle est éthique et pour la paix».

L’éthique et la paix sont deux thèmes absolument centraux du moment historique actuel. D’un côté, il y a le « désir de comprendre une technologie nouvelle et mystérieuse ». De l’autre, dans son message, le pape François associe l’intelligence artificielle et la paix à l’éthique.

Mais ce n’est pas tout : le pape François affirme également que « les progrès de la science et de la technologie (…) conduisent… à l’amélioration de l’homme et à la transformation du monde », même s’il estime que « le progrès technico-scientifique » (…) met entre les mains de l’homme un vaste éventail de possibilités, dont certaines peuvent représenter un risque pour la survie et un danger pour la maison commune ».

Toujours sur la recherche scientifique et la neutralité présumée, le pape François affirme clairement que « la recherche scientifique et les innovations technologiques ne sont pas désincarnées de la réalité et neutremais soumis aux influences culturelles (…) les résultats qu’ils obtiennent (…) ont toujours une dimension éthique ».

En pratique, l’éthique a un impact perturbateur dans ce contexte.

Le pape François rappelle ensuite que l’éthique prend une dimension universelle dans la mesure où, autre passage intéressant, «la dignité intrinsèque de chaque personne et la fraternité qui nous lie en tant que membres de l’unique famille humaine doivent sous-tendre le développement des nouvelles technologies et servir de critères incontestables».

Et voici à nouveau la poussée éthique.

La Commission gouvernementale sur l’intelligence artificielle : tâche et fonction

La Commission du gouvernement italien sur l’intelligence artificielle ou plus communément connue sous le nom de « Commission Algorithmes » il (a été) créé par le Département de l’information et de l’édition, relevant de la présidence du Conseil, et est composé de professeurs d’université et de quelques journalistes.

Cette Commission a pour mission de conseiller le ministère sur les stratégies à suivre afin de gérer les implications des logiciels d’intelligence artificielle sur le secteur de l’information. Il a donc un fonction principalement consultative avec la charge de préparer certains rapports sur l’avancement de ces questions.

Nous tenons également à souligner que les travaux de cette Commission entièrement italienne ont commencé le 24 octobre 2023, dans l’espoir de produire dans les premiers mois de cette nouvelle année 2024 un premier rapport contenant des lignes directrices sur :

• usage

• développement

• implications connexes de l’intelligence artificielle.

Il s’agira d’un rapport qui sera remis au Gouvernement, également en vue des prochaines comparaisons européennes et internationales.

Conclusions

En conclusion, la nomination du Père Benanti, si d’une part rassurante puisqu’il est l’un des principaux experts en IA avec une approche hautement éthique – soit pour les vêtements qu’il porte, soit pour les théories qu’il a formulées -, d’autre part produit le risque que, quelle que soit la personne nommée, une seule pensée dominante soit créée.