Rationalistes, altruistes efficaces et accélérationnistes : les trois tribus qui se battent pour l’âme de l’IA dans la Silicon Valley

Les guerres idéologiques de la Silicon Valley ne se déroulent plus dans des forums, mais avec des dizaines de millions de personnes lors des élections législatives américaines. Un super comité financé par Andreessen Horowitz (a16z) et Greg Brockman vient de lever plus de 75 millions contre la réglementation de l’IA, et Anthropic en a un jour mis 20 du côté opposé. Derrière cet argent, il y a trois courants qui discutent de la même question depuis plus d’une décennie.

Pourquoi c’est important. Ils sont peu nombreux, mais c’est là que se prennent les décisions. Leurs idées ont fondé des laboratoires, ils ont licencié un PDG pour un week-end et aujourd’hui ils marquent la politique technologique de la Maison Blanche.

La comparaison. Pour mieux le comprendre. Une voiture accélère vers un virage dans le brouillard.

• Les rationalistes étudient la carte depuis des années et prétendent que derrière la courbe se trouve une falaise.
• Les altruistes efficaces les ont crus et paient pour les freins, les ceintures de sécurité et le conducteur.
• Les accélérateurs croient que la falaise est une invention et que si vous levez le pied, la voiture chinoise vous dépassera et atteindra votre destination avant vous.

Nous les accompagnons un à un.

1. Rationalistes : la carte de la falaise

Que s’est-il passé ? En 2009, Eliezer Yudkowsky, autodidacte sans diplôme universitaire, fonde LessWrong, un blog sur les biais cognitifs et les statistiques bayésiennes. Des voix comme Scott Alexander ont ensuite rejoint la communauté. Son institution de référence est le MIRI, à Berkeley.

Que défendent-ils ? Ils partent de l’idée que mieux penser est quelque chose qui s’apprend, et arrivent à la conclusion qu’une superintelligence avec des objectifs différents des nôtres n’a pas besoin de nous haïr pour nous détruire, il suffit que nous l’entravions.

2. Altruistes efficaces : rendre compte du bien

Que s’est-il passé ? Le mouvement est né à Oxford vers 2009 par Toby Ord et William MacAskill, sur la base d’une idée de Peter Singer : si vous pouvez éviter de souffrir, vous êtes obligé de le faire, et vous devez aussi mesurer combien de vies chaque dollar sauve. Son grand mécène est Dustin Moskovitz, co-fondateur de Facebook et fondateur d’Asana, avec plus de 11 milliards engagés.

Que défendent-ils ? Ils ont commencé avec des moustiquaires contre le paludisme. Vint ensuite le « long terme » : si les générations futures comptent autant que la génération actuelle, éviter l’extinction est la cause qui sauve le plus de vies, et l’IA arrive en tête de liste.

• Les rationalistes et les altruistes efficaces (EA) partagent, pas de méthode. Les premiers rédigent le diagnostic, les seconds le financent et trouvent un personnel.
• Recul. La faillite de FTX en 2022 a fait couler son donateur vedette, Sam Bankman-Fried. En 2023, deux conseillers d’OpenAI liés au mouvement ont voté le licenciement de Sam Altman, revenu cinq jours plus tard. Open Philanthropy a changé son nom pour Coefficient Giving.

3. Accélérationnistes : la peur de ralentir

Que s’est-il passé ? En 2022, plusieurs comptes X anonymes lancent (e/acc), une parodie volontaire du jeu inspiré du philosophe Nick Land. En 2023, il révélait que derrière @BasedBeffJezos se cache Guillaume Verdon, un physicien venu de Google. a16z lui a donné son propre manifeste et David Sacks l’a présenté à la Maison Blanche.

Que défendent-ils ? Tout frein au progrès coûte des vies que la technologie aurait sauvées. Andreessen compte parmi ses « ennemis » le « risque existentiel » et « l’éthique technologique ». Selon eux, les catastrophistes utilisent la peur pour ériger des barrières réglementaires que seuls les grands peuvent se permettre. Et si les États-Unis ralentissent, la Chine gagne.

Entre les lignes. Les catastrophistes ont contribué à construire ce qu’ils craignent :

L’argument sous-jacent est le même, une idée que nous pourrions résumer par la phrase « puisque quelqu’un va le construire, il vaut mieux que ce soit nous ».

La piste de l’argent. Sous Trump, l’accélérationnisme est devenu une politique nationale officielle. Le Pentagone a qualifié l’entreprise de Claude de « risque pour la chaîne d’approvisionnement » après avoir refusé d’autoriser son utilisation dans la surveillance de masse et les armes autonomes. Un juge a arrêté une grande partie de cette mesure, la considérant comme des représailles.

À l’autre extrême, la recherche en sécurité espère être financée par les introductions en bourse d’OpenAI et d’Anthropic. Autrement dit, celui qui surveille les laboratoires sera payé grâce à eux.

Oui, mais. Timnit Gebru et Émile P. Torres soutiennent qu’il s’agit fondamentalement d’une querelle de famille. Les trois tribus pensent que la superintelligence arrivera bientôt et décidera du sort de l’espèce, elles ne sont simplement pas d’accord sur la vitesse à laquelle elle le fera.

Pendant ce temps, les préjudices que tout LLM produit déjà, tels que les préjugés ou la désinformation, rentrent à peine dans leur conversation. Jusqu’à présent, le précipice a servi d’argument de vente aux deux camps : les uns réclament des freins et les autres plus d’essence.

À Simseo | Arrêter l’IA, cela revient à protéger l’humanité. C’est aussi un moyen très efficace d’arrêter DeepSeek, Qwen et Mistral

Image en vedette | Simseo avec Magnifique