Ma recherche de la mystérieuse secrétaire disparue qui a façonné l'histoire des chatbots

Les archives des collections distinctives du Massachusetts Institute of Technology (MIT) restent silencieuses pendant que le blizzard souffle dehors. Le silence semble s'accumuler avec la neige qui tombe. Je suis le seul chercheur dans les archives, mais il y a une voix que j'ai du mal à entendre.

Je cherche quelqu'un, appelons-la la secrétaire disparue. Elle a joué un rôle crucial dans l’histoire de l’informatique, mais elle n’a jamais été nommée. Je suis au MIT dans le cadre de mes recherches sur l'histoire des machines parlantes. Vous les connaissez peut-être sous le nom de « chatbots », c'est-à-dire des programmes informatiques et des interfaces qui utilisent le dialogue comme principal moyen d'interaction entre l'homme et la machine. Peut-être avez-vous parlé avec Alexa, Siri ou ChatGPT.

Malgré l’engouement suscité aujourd’hui par l’intelligence artificielle (IA) générative, les machines parlantes ont une longue histoire. En 1950, le pionnier de l'informatique Alan Turing a proposé un test d'intelligence artificielle. Le test demande si un humain pourrait faire la différence entre un ordinateur et une personne via une conversation. Le test de Turing a stimulé la recherche sur l’IA et le domaine naissant de l’informatique. Nous vivons désormais dans cet avenir qu’il a imaginé : nous parlons aux machines.

Je m'intéresse à la raison pour laquelle les premiers pionniers de l'informatique rêvaient de parler aux ordinateurs et aux enjeux de cette idée. Qu’est-ce que cela signifie pour la façon dont nous comprenons aujourd’hui la technologie informatique et l’interaction homme-machine ? Je me retrouve au MIT, au milieu de cette tempête de neige, parce que c'est le lieu de naissance de la mère de tous les robots, Eliza.

Le discours d'Eliza

Eliza était un programme informatique développé par Joseph Weizenbaum, professeur moustachu de génie électrique au MIT, dans les années 1960. Grâce à Eliza, il avait pour objectif de rendre possible la conversation entre l'humain et l'ordinateur.

Eliza a pris les messages tapés par l'utilisateur, les a analysés à la recherche de déclencheurs de mots clés et a utilisé des règles de transformation (où la signification d'une déclaration peut être déduite d'une ou plusieurs autres déclarations) pour produire une réponse. Dans sa version la plus célèbre, Eliza se présentait comme une psychothérapeute, une experte répondant aux besoins de l'utilisateur. « S'il vous plaît, dites-moi votre problème » était l'invite d'ouverture. Eliza pouvait non seulement recevoir des informations sous forme de langage naturel, mais cela donnait également « l'illusion de compréhension ».

Le nom du programme était un clin d'œil au protagoniste de la pièce de George Bernard Shaw, Pygmalion (1912), dans laquelle un marchand de fleurs Cockney apprend à parler « comme une dame ». Comme la comédie musicale d'Audrey Hepburn de 1964, cette Eliza a pris d'assaut le monde. Les journaux et les magazines ont salué la réalisation du rêve de Turing.

Même Playboy a joué avec. L'héritage d'Eliza est important. Siri et Alexa sont les descendants directs de ce programme.

Les récits d'Eliza ont tendance à se concentrer sur un récit frankensteinien du rejet par l'inventeur de sa propre création. Weizenbaum était horrifié à l'idée que les utilisateurs puissent être « trompés » par un simple logiciel. Il a renoncé à Eliza et à toute « l'Intelligentsia Artificielle » dans les décennies suivantes, au grand dam de ses collègues.

Mais je ne suis pas dans les archives pour entendre la voix d'Eliza ou celle de Weizenbaum. Dans tous ces récits d’Eliza, une femme revient sans cesse : notre secrétaire disparue.

La secrétaire disparue

Dans ses récits sur Eliza, Weizenbaum s'inquiète à plusieurs reprises au sujet d'un utilisateur particulier : « Ma secrétaire m'a regardé travailler sur ce programme pendant une longue période. Un jour, elle a demandé à pouvoir communiquer avec le système. Bien sûr, elle savait qu'elle l'était. parler à une machine. Pourtant, après l'avoir vue taper quelques phrases, elle s'est tournée vers moi et m'a dit : « Cela vous dérangerait-il de quitter la pièce, s'il vous plaît ? »

Weizenbaum considérait sa réponse comme une preuve inquiétante que : « Des expositions extrêmement courtes à un programme informatique relativement simple pourraient induire de puissantes pensées délirantes chez des personnes tout à fait normales. » Sa réaction a semé les graines de son horreur ultérieure pour sa création.

Mais qui était cette personne « tout à fait normale » ? Et qu'a-t-elle pensé d'Eliza ? Si la secrétaire disparue a joué un rôle si important, alors pourquoi n'avons-nous pas de nouvelles d'elle ? Dans ce chapitre de l’histoire des machines parlantes, nous n’avons qu’un seul côté de la conversation.

De retour dans les archives, je veux voir si je peux récupérer la voix de la secrétaire, pour comprendre ce que nous pourrions apprendre de l'utilisateur d'Eliza. Je parcours les papiers jaunis de Weizenbaum. Parmi les transcriptions, les imprimés de codes, les lettres et les cahiers, il y aura sûrement des preuves ? Il y a quelques indices, référence à un secrétaire dans des lettres à destination et en provenance de Weizenbaum. Mais pas de nom.

J'élargis ma chasse aux dossiers administratifs. Je consulte les documents du département et les collections du lieu de travail de Weizenbaum, le Projet MAC, le centre sacré de l'innovation informatique du MIT. Pas de chance. Je contacte le bureau des ressources humaines et le groupe des anciens élèves du MIT. Je mets à rude épreuve la patience des archivistes toujours généreux. Alors que mon dernier jour arrive, je n'entends encore que le silence.

Ecouter les silences

Mais la chasse a révélé certaines choses. À quel point les organisations se sont historiquement peu souciées des personnes qui ont produit, organisé et conservé une grande partie de leurs connaissances, par exemple.

Dans l’histoire d’institutions telles que le MIT et de l’informatique en général, les rédacteurs de ces documents – souvent des femmes mal payées et de faible statut – ont été en grande partie éliminés. Notre secrétaire silencieux est le transcripteur effacé et anonyme par excellence des documents sur lesquels se construit l’histoire.

Les contributions des utilisateurs de machines parlantes – leur travail, leur expertise, leurs perspectives, leur créativité – sont trop souvent ignorées. Lorsque le modèle est « bavard », il est facile de penser que ces contributions se font sans effort ou sans importance. Mais minimiser ces contributions a de réelles conséquences, non seulement sur la technologie des machines parlantes que nous concevons, mais également sur la manière dont nous valorisons la contribution humaine dans ces systèmes.

Avec l'IA générative, nous parlons de saisie utilisateur en termes de « chat » et de « invites ». Mais à quel type de statut juridique le « parler » peut-il prétendre ? Devons-nous, par exemple, pouvoir revendiquer des droits d’auteur sur ces propos ? Qu’en est-il du travail sur lequel ces systèmes sont formés ? Comment reconnaissons-nous ces contributions?

Le blizzard s'aggrave. L'annonce retentit que le campus ferme plus tôt que prévu en raison de la météo. La voix de la secrétaire disparue m'échappe toujours. Pour l’instant, l’histoire des machines parlantes reste à sens unique. C'est un silence qui me hante alors que je rentre chez moi à travers les rues étouffées et enneigées.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l'article original.