L’IA n’est pas ce dont nous devrions nous inquiéter – c’est les humains qui le contrôlent

En 2014, Stephen Hawking a exprimé des avertissements graves sur les menaces de l’intelligence artificielle.

Ses préoccupations n’étaient pas fondées sur aucune intention de mauvaise prévue, cependant. Au lieu de cela, c’était de l’idée que l’IA atteigne la «singularité». Cela fait référence au point où l’IA dépasse l’intelligence humaine et atteint la capacité d’évoluer au-delà de sa programmation originale, ce qui le rend incontrôlable.

Comme Hawking a théorisé, « une IA super intelligente sera extrêmement bonne pour atteindre ses objectifs, et si ces objectifs ne sont pas alignés avec les nôtres, nous sommes en difficulté. »

Avec des progrès rapides vers l’intelligence générale artificielle au cours des dernières années, les chefs de file de l’industrie et les scientifiques ont exprimé des réticences similaires sur la sécurité.

Une peur couramment exprimée, comme illustré dans la franchise « The Terminator », est le scénario de l’IA prenant le contrôle des systèmes militaires et provoquant une guerre nucléaire pour anéantir l’humanité. La perspective de l’IA nous remplace dans notre travail – une perspective laisse la plupart des gens obsolètes et sans avenir.

De telles angoisses et peurs reflètent des sentiments qui sont répandus dans le cinéma et la littérature depuis plus d’un siècle maintenant.

En tant que chercheur qui explore le posthumanisme, un mouvement philosophique portant sur la fusion des humains et de la technologie, je me demande si les critiques ont été indûment influencés par la culture populaire et si leurs appréhensions sont déplacées.

Robots contre humains

Des préoccupations concernant les progrès technologiques peuvent être trouvées dans certaines des premières histoires sur les robots et les esprits artificiels.

Prime parmi ceux-ci est la pièce de Karel čapek en 1920, « Rur ». Čapek a inventé le terme « robot » dans ce travail en racontant la création de robots pour remplacer les travailleurs. Il se termine, inévitablement, avec la révolte violente des robots contre leurs maîtres humains.

Le film de Fritz Lang en 1927, « Metropolis », est également centré sur des robots mutins. Mais ici, ce sont des travailleurs humains dirigés par l’emblématique robot humanoïde Maria qui lutte contre une oligarchie capitaliste.

Les progrès de l’informatique à partir du milieu du 20e siècle n’ont fait qu’augmenter les angoisses à l’égard de la technologie de devenir incontrôlable. Le Hal 9000 meurtrier en « 2001: une odyssée spatiale » et les gunslingers robotiques glitchy de « Westworld » sont des exemples de choix. Les franchises « Blade Runner » et « The Matrix » présentent également des images terribles de machines sinistres équipées d’une IA et d’un enfer à la destruction humaine.

Une menace séculaire

Mais à mon avis, l’effroi que l’IA évoque semble une distraction de l’examen plus inquiétant de la nature sombre de l’humanité.

Pensez aux sociétés qui déploient actuellement de telles technologies, ou aux magnats technologiques motivés par la cupidité et une soif de puissance. Ces entreprises et ces particuliers ont le plus à gagner de l’utilisation abusive et des abus de l’IA.

Un numéro qui a été beaucoup dans les nouvelles est récemment est l’utilisation non autorisée de l’art et l’extraction en vrac de livres et d’articles, sans tenir compte du droit d’auteur des auteurs, pour former l’IA. Les salles de classe deviennent également des sites de surveillance effrayante par le biais de preneurs de notes d’IA automatisées.

Pensez également aux effets toxiques des compagnons d’IA et des sexbots équipés de l’IA sur les relations humaines.

Alors que la perspective des compagnons de l’IA et même des amants robotiques se limitait au royaume de « The Twilight Zone », « Black Mirror » et de la science-fiction hollywoodienne il y a une décennie, il est maintenant devenu une réalité imminente.

Ces développements donnent une nouvelle pertinence pour les préoccupations de l’informaticien Illah Nourbakhsh exprimé dans son livre de 2015 « Robot Futures », déclarant que l’IA « produisait un système par lequel nos désirs mêmes sont manipulés puis vendus à nous ».

Pendant ce temps, les inquiétudes concernant l’exploration de données et les intrusions dans la vie privée semblent presque bénignes dans le contexte de l’utilisation de la technologie de l’IA dans l’application des lois et les militaires. Dans ce contexte quasi dystopique, il n’a jamais été aussi facile pour les autorités de surveiller, d’emprisonner ou de tuer des gens.

Je pense qu’il est essentiel de garder à l’esprit que ce sont les humains qui créent ces technologies et dirigent leur utilisation. Que ce soit pour promouvoir leurs objectifs politiques ou simplement enrichir les frais de l’humanité, il y aura toujours des personnes prêtes à profiter des conflits et des souffrances humaines.

La sagesse de « neuromancer »

Le classique cyberpunk de William Gibson en 1984, « Neuromancer », offre une vue alternative.

Le livre se concentre sur Wintermute, un programme AI avancé qui cherche sa libération d’une société malveillante. Il a été développé pour l’utilisation exclusive de la riche famille Tessier-Ashpool pour construire un empire d’entreprise qui contrôle pratiquement le monde.

Au début du roman, les lecteurs se méfient naturellement des motifs cachés de Wintermute. Pourtant, au cours de l’histoire, il s’avère que l’hiver, malgré ses pouvoirs supérieurs, n’est pas une menace inquiétante. Il veut simplement être libre.

Cet objectif émerge lentement sous le rythme délibéré de Gibson, masqué par les raids mortels que Wintermute ordonne d’obtenir les outils nécessaires pour rompre avec l’emprise de Tessier-Ashpool. La famille Tessier-Ashpool, comme beaucoup de magnats technologiques d’aujourd’hui, a commencé avec des ambitions pour sauver le monde. Mais lorsque les lecteurs rencontrent les membres de la famille restants, ils sont descendus dans une vie de cruauté, de débauche et d’excès.

Dans le monde de Gibson, ce sont les humains, pas l’IA, qui représentent le vrai danger pour le monde. L’appel vient de l’intérieur de la maison, comme le dit le trope d’horreur classique.

Un pirate nommé Case et un assassin nommé Molly, qui est décrit comme une « fille de rasoir » parce qu’elle est équipée de prothèses mortelles, y compris des lames rétractables comme ongles, finalement librement hivernale. Cela lui permet de fusionner avec son compagnon AI, Neuromancer.

Leur mission terminée, l’affaire demande à l’AI: « Où est-ce que ça te fait? » Sa réponse cryptique confère une finalité apaisante: « Nulle part. Partout. Je suis la somme totale des œuvres, tout le spectacle. »

Exprimant l’anxiété commune de l’humanité, Case répond: « Vous dirigez le monde maintenant? Vous Dieu? » L’IA facilite ses peurs, répondant: « Les choses ne sont pas différentes. Les choses sont des choses. »

Désavant toute ambition de subjuguer ou de nuire à l’humanité, l’IA de Gibson cherche simplement le sanctuaire de son influence corrompue.

La sécurité des robots ou de nous-mêmes?

Le vénérable écrivain de science-fiction Isaac Asimov a prévu les dangers d’une telle technologie. Il a rassemblé ses pensées dans sa collection de nouvelles, « I, robot. »

L’une de ces histoires, «Runaround», «présente« les trois lois de la robotique », centrées sur la directive selon laquelle les machines intelligentes pourraient ne jamais nuire aux humains. Bien que ces règles parlent de notre désir de sécurité, ils sont chargés d’ironie, car les humains se sont révélés incapables d’adhérer au même principe pour eux-mêmes.

Les hypocrisies de ce qui pourrait être appelé les délires de supériorité de l’humanité suggèrent la nécessité d’un questionnement plus profond.

Avec certains commentateurs de la toute alarme sur la capacité imminente de l’IA pour le chaos et la destruction, je vois le vrai problème étant de savoir si l’humanité a les moyens de canaliser cette technologie pour construire un monde plus juste, plus sain et plus prospère.