Il y a vingt ans, le Pentagone a tenté de créer un « Facebook » pour stocker des données et piloter l’IA. ça s’est mal passé

Nous devons beaucoup à la Defense Advanced Research Projects Agency (DARPA) des États-Unis pour que nous puissions aujourd’hui profiter du GPS, d’Internet, des drones, des satellites météorologiques, des interfaces vocales ou de la technologie furtive. Dans ses bureaux, cependant, se mijotaient aussi des projets qui n’arrivaient pas à aller au-delà : des projets, des idées tout aussi ambitieuses mais au développement moins abouti. L’un des plus fascinants est peut-être LifeLog, une sorte de « cyberjournal » qui devançait Facebook et les autres et aspirait au début du 21e siècle à créer une base de données capable de suivre l’existence d’une personne.

L’idée était fascinante… et controversée, bien sûr.

Qu’est-ce que Lifelog ? La (énième) démonstration de l’incroyable imagination de DARTA. Le projet a été lancé il y a deux décennies, vers 2003, et son nom résume bien ce qu’il recherchait : un enregistrement() de la vie() de ses utilisateurs. Son but n’était ni plus ni moins que de créer une grande « base de données vitale », appréhendant le concept dans son sens le plus complet, le plus divers… et même invasif. L’idée – telle que collectée à l’époque et Wired – était d’enregistrer presque toute l’expérience d’un sujet. Et « presque tout » peut être compris au pied de la lettre.

La proposition consistait à capturer tout ce que le sujet a vu, dit et entendu, les numéros de téléphone qu’il a composés, les e-mails qu’il a envoyés et reçus, ce qu’il a vu à la télévision, les magazines qu’il a regardés ou les billets d’avion qu’il a achetés. Presque tout. Un énorme et vaste océan d’informations que les techniciens se chargeraient alors de rendre gérable, de tracer des itinéraires et de cartographier les différentes relations.

Et quel était le but ? Créer le « journal électronique » par excellence, une mémoire numérique qui permettrait à ses utilisateurs d’avoir une mémoire précise de leur passé. Dans la DARPA, cependant, ils sont allés plus loin et ont défendu les possibilités qu’aurait un tel « trésor » d’informations. IPTO, qui fait partie de l’agence, l’a clairement expliqué : « Les flux de données d’entrée sont résumés en séquences, qui sont agrégées en fils et épisodes. […]. Les modèles d’événements sur la chronologie vous permettent d’identifier les routines, les relations et les habitudes. Les préférences, les plans, les objectifs et les indicateurs d’intentionnalité sont au plus haut niveau. »

Des informations… pour quoi faire ? L’une des possibilités que Wired indiquait à l’époque était de développer et de perfectionner l’intelligence virtuelle, le développement d’une IA capable de penser comme un humain. Vu à partir de 2023, en plein « boom » de la discipline, ni le concept ni l’importance des bases de données pour la formation en IA ne surprennent. Avec une banque d’informations comme celle proposée par LifeLog, ont fait valoir ses promoteurs, il serait plus facile pour les chercheurs de parvenir à une IA qui penserait de la même manière que nous.

Afin de parvenir à des systèmes capables de raisonner, d’apprendre et de « réagir de manière robuste aux surprises » – a expliqué l’agence américaine -, il était nécessaire que le système soit capable d’indexer les données et d’apprendre. De cette manière, il réaliserait un système capable de « routines, habitudes et relations d’utilisateurs inférieures avec d’autres personnes, lieux et objets, et exploiterait ces modèles pour faciliter leur tâche ».

Une idée originale ? Vu de 2023, c’est peut-être frappant, mais LifeLog s’est connecté avec des concepts et des objectifs venus de derrière. Dans les années 1940, l’ingénieur Vannevar Bush avait déjà évoqué les possibilités d’un appareil capable de stocker tous les documents d’un individu et d’offrir une consultation rapide et flexible, une idée qu’il nomma Memex, et en 2002 la DARPA elle-même pointait les possibilités d’un assistant intelligent personnalisé .

« Ils apprendront les préférences et les procédures en observant leurs compagnons humains, mais ils accepteront également des conseils directs », a rapporté la DARPA dans un rapport de février 2003. « Ces nouveaux assistants artificiels sans précédent contribueront à réduire les besoins en personnel dans de nombreux endroits clés. »

Numériser l’expérience humaine ? Cela a été exprimé à Vice il y a quelques années par Lee Tien, un avocat spécialisé dans la protection de la vie privée à l’Electronic Frontier Foundation. Lorsque Douglas Gage, un ancien chercheur de la Marine nouveau à la DARPA, a présenté LifeLog, l’idée a été appréciée : « La DARPA a clairement vu comment la numérisation croissante de l’expérience humaine rendrait les données nécessaires pour modéliser la vie quotidienne accessibles sous une forme lisible par machine. » « .

Des années plus tard, Gage ira plus loin et assurera que le but de LifeLog n’a jamais été d’espionner les gens, une image qu’il attribue aux attaques des détracteurs du projet. « Ils ont complètement mal interprété LifeLog comme un système de collecte, alors que le but était la classification et la fusion de données multidimensionnelles de bas niveau pour déduire des ‘connaissances’ de plus haut niveau sur le parcours de vie d’une seule personne », a déclaré l’enquêteur.

Les utilisateurs pouvaient en fait choisir ce qui était enregistré et qui pouvait ensuite accéder à leurs informations, et les chercheurs soutenus par l’initiative LifeLog étaient limités à tester le système sur eux-mêmes.

Et ce qui est arrivé? Que peu de temps après, début 2004, le Pentagone a décidé de mettre fin au projet LifeLog. Il l’a fait discrètement, alléguant « un changement de priorités », mais dans un contexte difficile à ignorer. Le projet avait dû faire face à de vives critiques, à la méfiance des défenseurs des libertés civiles et, surtout, à un climat marqué par d’autres programmes controversés de la DARPA axés sur la surveillance qui avaient soulevé beaucoup de poussière.

C’était dans quel contexte ? En septembre 2003, le Congrès américain avait décidé de couper le financement de TIA (Total Information Awareness), un logiciel qui rassemblait les appels, la navigation sur Internet et les relevés bancaires et autres données pour identifier les terroristes compte tenu de son énorme impopularité. Quelques mois plus tard seulement, en février 2004, LifeLog a été abandonné à la DARPA.

« Je pense qu’il s’était tellement épuisé avec TIA qu’il ne voulait plus faire face à des controverses. La mort de LifeLog était un dommage collatéral lié à TIA », explique Gage lors d’une interview avec Vice. Ironiquement, Facebook a été lancé la même année. , une autre variété de « journal électronique » dans lequel les utilisateurs ont enregistré une bonne partie de leur vie… et non sans sonorités controversées.