La domination de l’IA est-elle inévitable ? Un éthicien de la technologie dit non, en fait
Quiconque a suivi le discours sur l’intelligence artificielle ces dernières années a entendu une version ou une autre de l’affirmation selon laquelle l’IA est inévitable. Les thèmes communs sont que l’IA est déjà là, qu’elle est indispensable et que les personnes qui y sont pessimistes se font du mal.
Dans le monde des affaires, les partisans de l’IA disent aux entreprises et aux travailleurs qu’ils prendront du retard s’ils ne parviennent pas à intégrer l’IA générative dans leurs opérations. Dans le domaine scientifique, les partisans de l’IA promettent que l’IA contribuera à guérir des maladies jusqu’ici incurables.
Dans l’enseignement supérieur, les promoteurs de l’IA avertissent les enseignants que les étudiants doivent apprendre à utiliser l’IA, sinon ils risquent de perdre leur compétitivité lorsque vient le temps de trouver un emploi.
Et, en matière de sécurité nationale, les défenseurs de l’IA affirment que soit le pays investit massivement dans les armes de l’IA, soit il sera désavantagé par rapport aux Chinois et aux Russes, qui le font déjà.
L’argument dans ces différents domaines est essentiellement le même : l’heure du scepticisme envers l’IA est révolue. La technologie façonnera l’avenir, que cela vous plaise ou non. Vous avez le choix d’apprendre à l’utiliser ou d’être exclu de cet avenir. Quiconque tente de faire obstacle à la technologie est aussi désespéré que les tisserands manuels qui ont résisté aux métiers à tisser mécaniques au début du XIXe siècle.
Au cours des dernières années, mes collègues et moi-même du Centre d'éthique appliquée de l'UMass Boston avons étudié les questions éthiques soulevées par l'adoption généralisée de l'IA, et je pense que l'argument de l'inévitabilité est trompeur.
Histoire et recul
En fait, cette affirmation constitue la version la plus récente d’une vision déterministe du développement technologique. C'est la conviction que les innovations sont imparables une fois que les gens commencent à y travailler. Autrement dit, certains génies ne retournent pas dans leurs flacons. Le mieux que vous puissiez faire est de les exploiter à vos fins.
Cette approche déterministe de la technologie a une longue histoire. Il a été appliqué à l'influence de l'imprimerie, ainsi qu'à l'essor de l'automobile et des infrastructures dont elle a besoin, entre autres développements.
Mais je crois que lorsqu’il s’agit d’IA, l’argument du déterminisme technologique est à la fois exagéré et simpliste.
L'IA dans le(s) domaine(s)
Pensez à l’affirmation selon laquelle les entreprises ne peuvent pas se permettre de rester en dehors du jeu de l’IA. En fait, il n’a pas encore été démontré que l’IA génère des gains de productivité significatifs pour les entreprises qui l’utilisent. Un rapport paru dans The Economist en juillet 2024 suggère que jusqu’à présent, la technologie n’a eu pratiquement aucun impact économique.
Le rôle de l’IA dans l’enseignement supérieur reste également une question très ouverte. Bien que les universités aient, au cours des deux dernières années, investi massivement dans des initiatives liées à l’IA, les preuves suggèrent qu’elles ont peut-être pris les devants.
La technologie peut constituer un outil pédagogique intéressant. Par exemple, créer un chatbot Platon qui permet aux étudiants d'avoir une conversation textuelle avec un robot se faisant passer pour Platon est un gadget sympa.
Mais l’IA commence déjà à supplanter certains des meilleurs outils dont disposent les enseignants pour évaluer et développer leur pensée critique, comme la rédaction de devoirs. Les dissertations universitaires suivent le chemin des dinosaures, car de plus en plus d'enseignants abandonnent la capacité de savoir si leurs élèves rédigent eux-mêmes leurs devoirs. Quel est l’argument coût-bénéfice pour renoncer à l’écriture, une compétence traditionnelle importante et utile ?
En sciences et en médecine, l’utilisation de l’IA semble prometteuse. Son rôle dans la compréhension de la structure des protéines, par exemple, sera probablement important pour guérir des maladies. La technologie transforme également l’imagerie médicale et a contribué à accélérer le processus de découverte de médicaments.
Mais l’enthousiasme peut devenir exagéré. Les prédictions basées sur l'IA concernant les cas de COVID-19 qui pourraient devenir graves ont complètement échoué, et les médecins s'appuient excessivement sur la capacité de diagnostic de la technologie, souvent à l'encontre de leur propre jugement clinique. Ainsi, même dans ce domaine, où le potentiel est énorme, l’impact final de l’IA reste flou.
En matière de sécurité nationale, les arguments en faveur d’un investissement dans le développement de l’IA sont convaincants. Étant donné que les enjeux peuvent être élevés, l’argument selon lequel si les Chinois et les Russes développent des armes autonomes basées sur l’IA, les États-Unis ne peuvent pas se permettre de prendre du retard, a un véritable poids.
Mais s’abandonner complètement à ce type de raisonnement, bien que tentant, conduirait probablement les États-Unis à négliger l’impact disproportionné de ces systèmes sur les nations trop pauvres pour participer à la course aux armements en matière d’IA. Les grandes puissances pourraient déployer cette technologie dans les conflits dans ces pays. Et, tout aussi significatif, cet argument minimise la possibilité de collaborer avec des adversaires pour limiter les systèmes militaires d’IA, favorisant ainsi la course aux armements plutôt que le contrôle des armements.
Un pas à la fois
L’étude de l’importance potentielle et des risques de l’IA dans ces différents domaines mérite un certain scepticisme à l’égard de cette technologie. Je crois que l’IA devrait être adoptée au coup par coup et avec une approche nuancée plutôt que de faire l’objet d’affirmations radicales selon lesquelles elle est inévitable. En développant cette approche prudente, il y a deux choses à garder à l’esprit :
Premièrement, les entreprises et les entrepreneurs travaillant sur l’intelligence artificielle ont un intérêt évident à ce que cette technologie soit perçue comme inévitable et nécessaire, puisqu’ils vivent de son adoption. Il est important de prêter attention à qui prétend que cela est inévitable et pourquoi.
Deuxièmement, cela vaut la peine de tirer une leçon de l’histoire récente. Au cours des 15 dernières années, les smartphones et les applications de réseaux sociaux qui les utilisent sont devenus une réalité, une technologie aussi transformatrice qu’inévitable. Ensuite, des données ont commencé à émerger sur les dommages à la santé mentale qu’ils causent aux adolescents, en particulier aux jeunes filles. Les districts scolaires des États-Unis ont commencé à interdire les téléphones pour protéger la capacité d’attention et la santé mentale de leurs élèves. Et certaines personnes ont recommencé à utiliser des téléphones à clapet pour modifier leur qualité de vie et éviter les smartphones.
Après une longue expérience sur la santé mentale des enfants, facilitée par les affirmations du déterminisme technologique, les Américains ont changé de cap. Ce qui semblait fixe s’est avéré modifiable. Il est encore temps d’éviter de répéter la même erreur avec l’intelligence artificielle, qui pourrait avoir des conséquences plus importantes pour la société.