L’IA pourrait éventuellement être une menace d’extinction, mais elle pose des risques plus immédiats

Depuis la sortie du chatbot AI ChatGPT en 2020, nous avons entendu parler de la menace posée par l’intelligence artificielle. Une déclaration signée par des experts universitaires et des personnalités de l’industrie technologique a même qualifié l’IA de « risque d’extinction ».

Mais quoi que vous pensiez de tels avertissements, une menace existentielle pour l’humanité ne sera probablement une menace qu’à plus long terme. Il existe des risques beaucoup plus tangibles à court et à moyen terme. Alors, quels sont-ils et à quel point devrions-nous nous inquiéter?

Une préoccupation de longue date et souvent soulevée est la possibilité que l’IA puisse nous enlever nos emplois. C’est quelque chose que j’envisage depuis 1997, lorsque j’ai écrit mon premier article sur l’intelligence artificielle sur les réseaux de neurones.

Notre objectif était de développer une machine de fabrication intelligente plus capable que les humains de détecter les défauts lors des opérations d’usinage. Cela rendrait le système de production plus efficace.

À cette époque, nous nous demandions si cela entraînerait le chômage des gens lorsque les machines remplaceraient les humains dans l’atelier. Cependant, l’automatisation et d’autres avancées ont créé de nouvelles opportunités d’emploi pour les personnes, telles que la programmation des machines. Ainsi, une réponse au rythme rapide des changements technologiques peut être de recycler les gens pour les nouveaux rôles créés par la rupture technologique.

Il n’y a pas que les emplois manufacturiers qui sont menacés. Les logiciels de création d’images IA ont fait l’objet d’allégations selon lesquelles ils pourraient mettre les artistes et les designers au chômage. Cependant, encore une fois, je pense que l’histoire offre quelques leçons.

L’invention de la photographie n’a pas remplacé la peinture et je ne crois pas non plus que les générateurs d’images le feront. Il est peu probable que les systèmes d’IA soient en mesure de produire de nouvelles œuvres artistiques à court ou moyen terme.

Il est toutefois possible qu’à moyen terme, les machines remplacent les humains dans de nombreux postes de travail. Par exemple, en médecine, les systèmes d’IA pourraient intégrer les résultats de laboratoire, les images médicales et les antécédents médicaux d’un patient pour fournir un diagnostic et un pronostic fiables.

Ils pourraient également remplacer les humains pour de nombreuses tâches effectuées en chirurgie. D’autres domaines qui pourraient éventuellement dépendre de l’IA incluent l’analyse des données de marché, les décisions d’investissement et la programmation informatique.

Malgré les risques de chômage, l’IA pourrait avoir de nombreux effets positifs sur le lieu de travail. Par exemple, l’IA peut servir d’outil pour améliorer les capacités humaines, ce qui se traduit par une plus grande productivité.

À court et moyen terme, la technologie pourrait avoir un impact similaire à celui des calculatrices dans les années 1970, aux ordinateurs qui ont remplacé les machines à écrire dans les années 1980 et à l’automatisation et à la robotique qui ont transformé de nombreuses usines dans les années 1990.

Mauvaise éducation ?

Dans le domaine de l’éducation, on craignait que ChatGPT n’affecte négativement le processus d’apprentissage des élèves ou leur santé. Par exemple, un étudiant pourrait demander à ChatGPT d’écrire ses cours pour lui, en contournant l’effort de recherche et d’écriture qui mène à une meilleure compréhension du sujet en question. Une meilleure approche serait peut-être de modifier et d’améliorer la façon dont nous enseignons et évaluons les résultats de l’apprentissage.

Rendre l’éducation plus axée sur les compétences pratiques et la mise en œuvre des connaissances dans la résolution de problèmes pourrait assurer une compréhension plus approfondie de la part des étudiants. L’IA pourrait être utilisée à titre indicatif, de la même manière que nous utilisons actuellement des calculatrices, pour aider à enrichir les connaissances des gens.

Dans un avenir proche, il est essentiel que les étudiants choisissent des cours universitaires qui comprennent comment utiliser l’IA et choisissent des matières qui seront toujours très demandées avec l’expansion continue de cette technologie.

Cependant, nous avons supposé jusqu’à présent que les systèmes d’IA fonctionnent comme prévu pour fournir des informations précises. Malheureusement, nous savons que ce n’est pas le cas.

En mai 2023, par exemple, un avocat américain a admis avoir utilisé ChatGPT pour la recherche de cas. Il a été constaté que le dossier de l’avocat faisait référence à des cas juridiques qui n’existaient pas. Le chatbot les avait inventés. Ce n’est pas la première fois que ces « hallucinations d’IA » sont signalées.

Ensuite, nous avons le risque très réel que l’IA puisse être utilisée à des fins néfastes telles que le vol d’identité. Par exemple, les criminels pourraient utiliser l’IA pour cloner la voix de quelqu’un. Ils pourraient alors téléphoner aux membres de leur famille et essayer de les convaincre de donner des informations sensibles qui pourraient être utiles pour accéder aux comptes bancaires.

Une variante de l’usurpation d’identité basée sur l’IA est l’utilisation de vidéos deepfake. Parmi les nombreuses utilisations possibles, on craint qu’ils ne soient utilisés pour se faire passer pour des politiciens, influençant les élections. Récemment, Martin Lewis, journaliste financier et diffuseur anglais, a fait l’objet d’une publicité frauduleuse utilisant une vidéo deepfake.

Mais qu’en est-il du « risque existentiel » à plus long terme pour l’humanité ? Les avertissements sur la possibilité que l’IA puisse anéantir notre espèce remontent bien avant ChatGPT.

Quoi que l’on pense de cette possibilité, nous devons garder à l’esprit que l’IA « vivra pour toujours ». La technologie est là pour rester, ce qui signifie qu’elle accumulera les connaissances, les données et l’expérience recueillies auprès de milliards de personnes sur plusieurs générations.

Si l’IA est conçue pour imiter les êtres humains, son instinct de survie et sa conscience pourraient se développer progressivement au fil des décennies. En tant que tel, il pourrait cesser d’être simplement un outil pour nous soutenir et devenir une entité à part entière. Si cela se produit, il y a une réelle possibilité qu’il devienne alors capable de prendre des décisions dans son propre intérêt.