C'est « l'ère du renseignement », disent les titans de la technologie, mais l'information ne nous sauvera pas

« Nous sommes entrés dans l'ère du renseignement », proclamait en septembre Sam Altman, directeur général d'OpenAI. « L'apprentissage en profondeur a fonctionné », a-t-il expliqué, et cette avancée dans l'apprentissage à partir des données ouvrira une ère intelligente dans laquelle plus les données seront disponibles, « plus elles seront efficaces pour aider les gens à résoudre des problèmes difficiles ».

Altman rejoint d'autres leaders d'opinion, des sociétés comme Google et Amazon, et des organisations telles que les Nations Unies et le Forum économique mondial, pour placer les espoirs de l'humanité dans une meilleure information.

La logique est séduisante. En récoltant toutes les connaissances du monde, les modèles d'IA peuvent localiser des modèles, établir des corrélations et offrir des « informations » basées sur les données. Les solutions optimales à nos plus gros problèmes sont des aiguilles dans une botte de foin de données, donc les trouver dépasse l’esprit humain limité. Il appartient à une technologie telle que l'apprentissage profond de « tout capturer », de l'analyser ou de s'entraîner dessus, puis de proposer l'idée brillante qui change la donne ou la réponse la plus rationnelle.

Le changement climatique, selon un rapport de Google, peut être simulé et atténué à l'aide de prévisions et de modélisation. Les conflits mondiaux, suggèrent les ingénieurs en IA Tshilidzi Marwala et Monica Lagazio, peuvent être modélisés et atténués.

Mais les récentes élections américaines ont montré les limites de cette représentation rationnelle de la réalité. Les rumeurs virales et les théories du complot (JD Vance et le canapé, ou « ils mangent les animaux ») ont été allègrement partagées. Il semble que certains électeurs aient été moins motivés par une politique abstraite que par un dégoût viscéral envers ceux jugés différents.

Les humains ne sont pas parfaitement rationnels et éthiques. Ils sont profondément émotifs, factionnels et conflictuels, motivés par les sentiments et les amitiés, la peur et la colère.

La victoire de Donald Trump a été facilitée par l’exploitation profonde de ce noyau plus sombre et plus « irrationnel » de la nature humaine, défiant ainsi les sondages. Il n’a jamais été question d’informations parfaites.

Au cours des cinq dernières années, mes recherches ont exploré la manière dont les technologies construisent les connaissances, mais exploitent également les émotions et amplifient la radicalisation. Pour comprendre le moment politique actuel, nous devons comprendre à la fois les limites de la raison et le pouvoir de la déraison.

Changement climatique, génocide et données

Le renseignement est une impasse. Les crises sociales, politiques et environnementales enchevêtrées auxquelles nous sommes confrontés aujourd’hui ne pourront pas être résolues par davantage d’informations.

Le changement climatique est la pièce A. Depuis 1990, le Groupe d'experts intergouvernemental sur l'évolution du climat a publié six évaluations détaillant les facteurs et les impacts du réchauffement climatique. Le dernier rapport compte 3 949 pages et s'appuie sur plus de 14 000 articles scientifiques.

Malgré ce déluge de données et de témoignages d’experts, la planète a déjà dépassé le seuil de 1,5°C au-dessus des niveaux préindustriels et pourrait dépasser les 2°C d’ici la fin de la décennie. En effet, au cours des trois décennies de réunions de la Conférence des Parties des Nations Unies (1994-2024), les émissions de carbone n'ont cessé d'augmenter. Une montagne de faits n’a pas empêché l’extraction et la consommation vorace du « statu quo ».

Gaza est la pièce B. Law for Palestine, une organisation juridique à but non lucratif dirigée par des jeunes, a méticuleusement compilé une base de données contenant plus de 500 cas d'incitations au génocide.

La semaine dernière, l’Afrique du Sud a déposé son mémoire auprès de la Cour internationale de Justice, un document clé dans son procès contre Israël. Ses preuves sont détaillées dans plus de 750 pages de texte, appuyées par des pièces et annexes de plus de 4 000 pages.

Et pourtant, l’assaut israélien contre Gaza se poursuit, avec une augmentation des morts. Selon Al-Jazeera, certaines listes de victimes du gouvernement sont générées via l'analyse de mégadonnées, une sorte de génocide assisté par l'IA.

Dans ces deux exemples, l’intelligence a été ignorée ou simplement récupérée pour rationaliser une action souhaitée. Comme l'a déclaré un conseiller de George W. Bush : il y a des gens qui croient que les solutions émergent d'une « étude judicieuse de la réalité perceptible » et il y a ceux qui « créent notre propre réalité ». Pendant que les analystes analysent, les empires agissent et remodèlent le monde.

Les faits peuvent être éclipsés par des faits alternatifs. La raison scientifique peut être ignorée ou refusée. L’apprentissage automatique peut être maîtrisé (ou transformé en arme) par des hommes armés.

Au cours du premier mandat présidentiel de Trump, j'ai analysé comment les services d'immigration et de douane avaient commencé à utiliser les technologies Palantir, qui rassemblent des données dans une puissante interface visuelle pour faciliter les expulsions.

Il y a dix ans à peine, l'agence analysait trois milliards d'informations, depuis les plaques d'immatriculation jusqu'aux données de passage des frontières, à l'aide d'un logiciel apparemment sophistiqué pour identifier les cibles et repérer les « illégaux ». Et pourtant, ces informations fondées sur des données n’étaient en fin de compte qu’un prétexte : une preuve symbolique d’une guerre contre les immigrants que l’administration Trump avait déjà décidé de mener.

Toute affirmation selon laquelle cette logique informatique était « post-raciale » a rapidement disparu dans la violence des raids d'expulsion, lorsque les agents de l'immigration frappaient des individus au visage, les ordonnaient de se mettre à terre, leur mettaient des bottes sur la tête et les traitaient de « merde mexicaine ». « .

Intelligence artificielle, éthique et morale

« Les Lumières reviennent à la mythologie », prédisaient il y a 80 ans les théoriciens culturels influents Theodor Adorno et Max Horkheimer dans Dialectique des Lumières.

Une société obsédée par la perfection de la raison engendre inévitablement son contraire : la force brute et l’irrationalité fière. Leurs idées étaient loin d’être abstraites. Les théoriciens allemands avaient fui pour sauver leur vie, écrivant leur classique révolutionnaire en exil en Californie, alors que le régime meurtrier d'Hitler se déroulait de l'autre côté de l'Atlantique.

La raison, a observé le duo, s’est transformée depuis ses origines anciennes pour devenir une approche et un ensemble de techniques. La raison consiste à ordonner, classer et déduire à partir de données – et à appliquer ce « fonctionnement abstrait du mécanisme de pensée » d’une manière appropriée ou scientifique.

Ces techniques sont au cœur des systèmes d’apprentissage automatique contemporains, qui entraînent, affinent et génèrent des réclamations à partir des données.

Cela rend la raison flottante, un ensemble d’opérations qui peuvent être appliquées à tout et n’importe quoi. Une telle « intelligence » est en réalité indépendante du contenu : dépourvue de tout but ou objectif intrinsèque. La raison ne juge pas (et ne peut en fait pas) juger les implications éthiques ou morales de son utilisation.

Mais si « tous les affects sont de valeur égale », notent les deux hommes, alors la survie devient « la source la plus probable de maximes pour la conduite humaine ». L’intérêt personnel est l’approche la plus « raisonnable » de toutes, et tout ce qui y fait obstacle – la cohésion sociale, la protection des marginaux ou des vulnérables, les contributions au bien public – doit être supprimé.

Dans un jeu à somme nulle, donner quelque chose à « eux » signifie simplement moins pour « nous ». Au sein des nations, nous le constatons par la polarisation et la division. À l’échelle internationale, nous le constatons dans le durcissement des frontières et dans les mentalités de bunker. Toute autre stratégie que la domination est sous-optimale.

La bombe à retardement de la raison

La raison crée une sorte de bombe à retardement au sein de la société. Reason est un amalgame flexible de collecte d'informations, de décisions basées sur les données et d'opérations optimisées qui remporte des votes et attire des investissements.

Mais parce que la raison est dissociée de l’éthique, elle peut et doit s’appliquer à tout : aucun objectif n’est meilleur ou pire qu’un autre. Le résultat pour Horkheimer et Adorno est une sorte de relativisme moral.

Un exemple parfait est Robodebt, l'utilisation par l'Australie de l'analyse de données et de l'apprentissage automatique pour mettre fin aux prestations sociales. Ce mécanisme « d’automatisation des inégalités » a créé une misère indicible pour ceux qui étaient déjà vulnérables. Refuser des soins est devenu procédural et donc « raisonnable ».

Cette logique calculatrice est à la fois pratique et inattaquable. Une fois ancrée dans la conscience nationale, elle devient difficile à déloger. Les actions non liées à la survie sont difficiles à défendre ; les valeurs qui ne sont pas directement liées à l’intérêt personnel sont difficiles à rationaliser. Tout lien ou toute responsabilité envers des millions d’autres personnes dans le pays risque de se rompre complètement.

En fin de compte, cette communauté nationale ne peut être maintenue unie que par la force ou la terreur, observe Horkheimer : le libéralisme bascule vers le fascisme.

La montée en puissance constante des dirigeants hommes forts, en équilibre entre le fascisme et le nationalisme populaire, illustre cette tendance.

En Hongrie, le dirigeant autoritaire Viktor Orbán est au pouvoir depuis 14 ans, sapant l'indépendance de la justice et la liberté de la presse avec sa soi-disant « autocratie électorale » ou « démocratie illibérale ». En Russie, Vladimir Poutine a créé un culte du pouvoir, annexant la Crimée, faisant la guerre en Ukraine et écrasant les protestations par la violence et l’emprisonnement.

Plus récemment, Trump a de nouveau accédé au pouvoir, promettant de punir « l’ennemi intérieur » et de procéder à des expulsions massives. « Je suis votre guerrier, je suis votre justice », a-t-il juré, « et pour ceux qui ont été lésés et trahis, je suis votre châtiment. »

L’arc de la raison finit par aboutir à un monde brutal dirigé par les plus brutaux. La « civilisation » démocratique s’effondre à nouveau dans une barbarie dominatrice.

Âge de l'intelligence ou âge de la colère ?

Alors que les grandes promesses de la raison s’effondrent inévitablement, les gens deviennent désenchantés ou mécontents, s’accrochant à des visions du monde régressives qui donnent un sens au monde.

Mon propre travail a exploré la façon dont les plateformes en ligne ont reconditionné les idéologies racistes, sexistes et xénophobes en de nouvelles formes séduisantes de haine, engendrant des incels et des seigneurs de l'espace, des nationalistes chrétiens et des théoriciens du complot QAnon.

Si de tels préjugés peuvent certes être condamnés, ils éclairent notre monde d’aujourd’hui. Pour ceux qui les adoptent, ces récits offrent un récit convaincant de la façon dont le monde fonctionne, pourquoi quelqu’un est coincé – et qui ou quoi est à blâmer.

De nouvelles études ont montré que les Américains blancs qui se perçoivent comme étant à la « dernière place » dans la hiérarchie des statuts raciaux sont les plus attirés par l’extrémisme d’extrême droite. Le fait que cette perception soit déconnectée de la réalité – qu’en termes d’éducation, de revenus et de taux d’emprisonnement, ils restent au sommet ou à proximité – ne diminue en rien son pouvoir.

Le pouvoir derrière ces récits n’est pas logique, mais émotionnel. Il ne s’agit pas là d’un sujet libéral, qui pèse soigneusement les faits avant de choisir l’affirmation la plus conforme aux preuves empiriques et qui contribue à la sphère publique. Non, il s’agit de griefs, de pertes et d’un sentiment de trahison de la part des pouvoirs en place.

Ce pouvoir affectif est repris par la sociologue Arlie Hochschild, qui a passé cinq ans dans le bastion républicain de Louisiane, où de nombreuses personnes souffrent d'une mauvaise santé et d'une pauvreté permanente, dans les années précédant la première élection de Trump. Après d'innombrables conversations avec les résidents, elle souligne que leur histoire est une histoire de colère et de deuil : une histoire « comme si » qui contournait le jugement et les faits.

Pour le sujet blanc, le choc et le sentiment de perte sont tangibles. L'avantage ne consiste pas simplement à « s'échapper », mais à être « saisi par d'autres qui ne le méritent pas ». Ayant été si longtemps au sommet de la hiérarchie sociale, la perte de stature ressemble à une chute dans l’abîme. Les visions régressives telles que l’hyperconservatisme ou l’ethnonationalisme offrent un point d’appui ou une bouée de sauvetage. Et pourtant, s’ils apportent un sentiment renouvelé de stabilité, ils cultivent aussi une hostilité profondément enracinée.

En ce sens, notre époque n’est pas l’ère de l’intelligence mais l’ère de la colère. Il ne s’agit pas de cautionner la violence nue, la haine sans fondement et la propagande éhontée, mais de reconnaître les limites de la raison dans la vie contemporaine.

L'animal humain irrationnel

« S'il y a quelque chose d'unique chez l'animal humain », observe le philosophe John Gray, « c'est qu'il a la capacité d'acquérir des connaissances à un rythme accéléré, tout en étant chroniquement incapable d'apprendre de l'expérience. »

Pour les humanistes modernes, les humains sont intrinsèquement rationnels. Le principal défi à venir sera simplement de savoir comment les rendre plus logiques, plus civiles et plus raisonnables. C’est à cet humain qu’Altman et d’autres techno-positivistes pensent lorsqu’ils suggèrent que l’IA résoudra nos problèmes. Il s’agit simplement d’augmenter l’intelligence humaine avec l’intelligence machine.

Mais l’histoire suggère que nos crises et nos réponses ont toujours été empreintes d’« irrationnel », un mélange plus sombre de pouvoir émotionnel, de violence physique et de volonté politique.

L’intelligence, même à grande échelle, automatisée et opérationnalisée par l’intelligence artificielle, ne nous sauvera pas.