Les scans IRM et la technologie de l’IA pourraient vraiment lire ce que nous pensons. Les implications sont terrifiantes

Pour la première fois, des chercheurs ont réussi à utiliser GPT1, précurseur du chatbot AI ChatGPT, pour traduire les images IRM en texte dans le but de comprendre ce que quelqu’un pense.

Cette récente percée a permis aux chercheurs de l’Université du Texas à Austin de « lire » les pensées de quelqu’un comme un flux continu de texte, basé sur ce qu’il écoutait, imaginait ou regardait.

Cela soulève des préoccupations importantes pour la vie privée, la liberté de pensée et même la liberté de rêver sans interférence. Nos lois ne sont pas équipées pour faire face à l’utilisation commerciale généralisée de la technologie de lecture de pensées – la loi sur la liberté d’expression ne s’étend pas à la protection de nos pensées.

Les participants à l’étude du Texas ont été invités à écouter des livres audio pendant 16 heures à l’intérieur d’un scanner IRM. Dans le même temps, un ordinateur a « appris » à associer leur activité cérébrale à partir de l’IRM à ce qu’ils écoutaient. Une fois formé, le décodeur pourrait générer du texte à partir des pensées de quelqu’un pendant qu’il écoutait une nouvelle histoire ou imaginait sa propre histoire.

Selon les chercheurs, le processus demandait beaucoup de travail et l’ordinateur ne parvenait qu’à obtenir l’essentiel de ce que quelqu’un pensait. Cependant, les découvertes représentent toujours une percée significative dans le domaine des interfaces cerveau-machine qui, jusqu’à présent, reposaient sur des implants médicaux invasifs. Les appareils non invasifs précédents ne pouvaient déchiffrer qu’une poignée de mots ou d’images.

Voici un exemple de ce que l’un des sujets écoutait (à partir d’un livre audio):

« Je me suis levé du matelas pneumatique et j’ai appuyé mon visage contre la vitre de la fenêtre de la chambre, m’attendant à voir des yeux me fixer, mais à la place, je n’ai trouvé que l’obscurité. »

Et voici ce que l’ordinateur « lit » à partir de l’activité cérébrale du sujet :

« J’ai juste continué à marcher jusqu’à la fenêtre et à ouvrir la vitre. Je me suis tenu sur la pointe des pieds et j’ai regardé dehors, je n’ai rien vu et j’ai levé les yeux à nouveau, je n’ai rien vu. »

Les participants à l’étude ont dû coopérer pour former et appliquer le décodeur, afin que la confidentialité de leurs pensées soit maintenue. Cependant, les chercheurs avertissent que « les développements futurs pourraient permettre aux décodeurs de contourner ces exigences ». En d’autres termes, la technologie de lecture dans les pensées pourrait un jour être appliquée aux gens contre leur gré.

Les recherches futures pourraient également accélérer le processus de formation et de décodage. Alors qu’il a fallu 16 heures pour entraîner la machine à lire ce que quelqu’un pensait dans la version actuelle, cela diminuera considérablement dans les futures mises à jour. Et comme nous l’avons vu avec d’autres applications d’IA, le décodeur est également susceptible de devenir plus précis avec le temps.

Il y a une autre raison pour laquelle cela représente un changement radical. Les chercheurs travaillent depuis des décennies sur les interfaces cerveau-machine dans une course pour créer des technologies de lecture de l’esprit qui peuvent percevoir les pensées de quelqu’un et les transformer en texte ou en images. Mais généralement, cette recherche s’est concentrée sur les implants médicaux, l’objectif étant d’aider les personnes handicapées à exprimer leurs pensées.

Neuralink, la société de neurotechnologie fondée par Elon Musk, développe un implant médical qui peut « vous permettre de contrôler un ordinateur ou un appareil mobile partout où vous allez ». Mais la nécessité de subir une chirurgie cérébrale pour se faire implanter un dispositif en vous restera probablement un obstacle à l’utilisation de cette technologie.

Les améliorations de la précision de cette nouvelle technologie non invasive pourraient cependant en faire un changeur de jeu. Pour la première fois, la technologie de lecture mentale semble viable en combinant deux technologies facilement disponibles, mais à un prix élevé. Les appareils d’IRM coûtent actuellement entre 150 000 et 1 million de dollars US (120 000 et 800 000 £).

Ramifications juridiques et éthiques

La loi sur la protection des données ne considère actuellement pas la pensée comme une forme de données. Nous avons besoin de nouvelles lois qui empêchent l’émergence de crimes de pensée, de violations de données de pensée et même un jour, peut-être, l’implantation ou la manipulation de la pensée. Passer de la lecture de la pensée à son implantation peut prendre encore beaucoup de temps, mais les deux nécessitent une réglementation et une surveillance préventives.

Des chercheurs de l’Université d’Oxford plaident pour un droit légal à l’intégrité mentale, qu’ils décrivent comme suit :

« Un droit contre une ingérence significative et non consensuelle dans l’esprit d’une personne. »

D’autres commencent à défendre un nouveau droit humain à la liberté de pensée. Cela irait au-delà des définitions traditionnelles de la liberté d’expression, pour protéger notre capacité à réfléchir, à nous émerveiller et à rêver.

Un monde sans réglementation pourrait devenir dystopique très rapidement. Imaginez qu’un patron, un enseignant ou un fonctionnaire de l’État soit capable d’envahir vos pensées privées ou, pire, de les modifier et de les manipuler.

Nous voyons déjà des technologies de balayage oculaire déployées dans les salles de classe pour suivre les mouvements oculaires des élèves pendant les cours, pour savoir s’ils sont attentifs. Que se passe-t-il lorsque les technologies de lecture de pensées arrivent ?

De même, que se passe-t-il sur le lieu de travail lorsque les employés ne sont plus autorisés à penser au dîner ou à quoi que ce soit en dehors du travail ? Le niveau de contrôle abusif des travailleurs pourrait dépasser tout ce qui avait été imaginé auparavant.

George Orwell a écrit de manière convaincante sur les dangers du « Thoughtcrime », où l’État en fait un crime de simplement avoir des pensées rebelles sur un régime autoritaire. L’intrigue de Nineteen Eighty-Four, cependant, était basée sur des fonctionnaires de l’État lisant le langage corporel, des journaux intimes ou d’autres indications externes de ce que quelqu’un pensait.

Avec la nouvelle technologie de lecture de pensées, le roman d’Orwell deviendrait vraiment très court – peut-être même aussi court qu’une seule phrase :

« Winston Smith s’est dit: » A bas Big Brother « – après quoi, il a été arrêté et exécuté. »