Lettre ouverte sur l’intelligence artificielle en Italie

Le texte intégral de la « lettre ouverte à la société »

Ces dernières années, les technologies informatiques communément appelées « intelligence artificielle » sont entrées avec force dans le débat public, avec l’arrivée et la diffusion explosive des systèmes génératifs. Nous parlons de révolution, de machines qui « pensent », de conscience artificielle, de remplacement des hommes. Dans ce contexte, nous pensons qu’il est nécessaire de ramener le débat sur une base claire et réaliste.

Une question simple reste souvent sans réponse : que sont réellement ces systèmes et où en sommes-nous réellement ?

Essayons de clarifier.

Qu’est-ce que l’intelligence artificielle ?
L’intelligence artificielle vise à simuler la pensée humaine, tant celle basée sur le raisonnement (déductive) que celle basée sur les données (inductive). Dans le passé, nous travaillions principalement avec la première approche, car ni les quantités de données ni la puissance de calcul actuellement disponibles n’étaient disponibles.

Qu’est-ce qu’un système d’intelligence artificielle générative ?
Les systèmes d’intelligence artificielle générative sont des modèles mathématiques et statistiques entraînés sur d’énormes quantités de données. Leur fonctionnement, dans son essence, est simple : ils apprennent des données pour faire des prédictions. Ils peuvent estimer quel mot est le plus probable dans une phrase, quelle image est cohérente avec une description ou quelle réponse est compatible avec une question. Ils fonctionnent car, dans les données d’entraînement, il existe des régularités que le modèle peut identifier à très grande échelle. Des résultats techniques impressionnants et inattendus ont été obtenus dans plusieurs tâches cognitives, mais ils ne correspondent pas à une compréhension au sens humain du terme. Bien connaître ses limites et son potentiel devient donc de plus en plus critique.

Les systèmes d’IA générative « comprennent-ils » ?
Chez les humains, la compréhension implique l’expérience du monde et la capacité de vérifier les informations. Les systèmes d’IA générative peuvent rédiger des textes convaincants, résoudre des exercices ou tenir des conversations complexes. Cela ne signifie cependant pas qu’ils comprennent ce qu’ils disent : il n’y a qu’un calcul de probabilité. Lorsqu’ils semblent raisonner, ils combinent des modèles appris à partir de données. Lorsqu’ils semblent savoir quelque chose, ils produisent le résultat qui est statistiquement le plus cohérent avec le contexte, sans avoir d’accès direct au monde ni à des mécanismes de vérification autonomes.

Où ils travaillent et où ils ne travaillent pas
Ces systèmes fonctionnent très bien lorsque le problème est similaire à des situations déjà présentes dans les données de formation et lorsqu’il existe de nombreux exemples disponibles pour tirer des leçons. Cependant, ils deviennent plus fragiles lorsque les informations évoluent rapidement, lorsque le sujet est controversé ou lorsque le sujet est très différent des données connues. Dans ces situations, ils peuvent produire des réponses fluides, c’est-à-dire apparemment cohérentes et correctes, mais incorrectes. Le fait n’est pas qu’ils se trompent parfois. Le fait est que ces systèmes produisent des réponses plausibles sans disposer d’un mécanisme interne pour vérifier leur véracité.

Où en sommes-nous réellement : le thème de l’AGI (Artificial General Intelligence)
Dans le débat public, nous parlons souvent d’« AGI », c’est-à-dire de systèmes capables de comprendre et de raisonner de manière large et autonome comme un être humain. Les systèmes d’IA générative actuels ne possèdent pas ces caractéristiques. Ils sont très puissants pour réorganiser les informations déjà présentes dans les données, mais ils ne construisent pas de modèles du monde dans le sens où le font les humains. L’augmentation des données et de la puissance de calcul améliore les performances, mais ne change pas la nature du mécanisme sous-jacent, qui reste essentiellement basé sur des prédictions statistiques à grande échelle, même si les représentations internes qui émergent lors de l’entraînement peuvent être très complexes.

Le risque de malentendu
Le risque ne vient pas de cette technologie elle-même, mais de la manière dont nous l’interprétons. Si nous traitons la maîtrise linguistique comme un test de connaissances ou déléguons le jugement sans comprendre le fonctionnement de l’instrument, nous risquons de confondre cohérence et fiabilité. De cette manière, le critère avec lequel nous reconnaissons ce qu’est la connaissance peut changer, souvent sans s’en rendre compte.

Ce qu’il faut faire
La véritable priorité est de former les gens à comprendre ces technologies. Savoir comment ils fonctionnent, quelles sont leurs limites et comment les utiliser de manière responsable est aujourd’hui une compétence fondamentale pour tous les citoyens.

Nous invitons la communauté académique informatique à contribuer activement à ce travail de clarification et de formation. Expliquer précisément ce que sont réellement ces technologies, et ce qu’elles ne sont pas, est un travail d’alphabétisation qui fait partie intégrante de notre travail de chercheurs et d’enseignants.

Nous invitons également les universitaires et chercheurs d’autres secteurs à contribuer à cette activité, chacun dans le cadre de sa propre expertise disciplinaire.

Nous invitons donc tous les collègues qui la partagent à apposer leur signature à cette lettre ouverte.