Les majors de l’IA ressuscitent une stratégie inventée par Rockefeller

Depuis des mois, le discours autour des derniers modèles d’IA devient de plus en plus apocalyptique. Depuis quelques jours, on ne parle plus tellement de modèles pouvant constituer un risque pour la cybersécurité, on parle directement de l’extinction de l’humanité. Au milieu de cette escalade du pessimisme, Dario Amodei et Sam Altman eux-mêmes militent pour stopper les progrès de l’IA. Mais ce qui, à première vue, semble être une véritable inquiétude cache une astuce aussi vieille que le capitalisme lui-même, que Rockefeller a utilisée il y a plus d’un siècle.

Rockefeller l’a fait en premier. En 1899, John D. Rockefeller s’est présenté devant la Commission industrielle des États-Unis et l’a convaincu que les grands regroupements d’entreprises étaient nécessaires pour rivaliser dans une économie internationale de plus en plus complexe et qu’ils ne devaient pas être éliminés, mais plutôt réglementés et supervisés. Les arguments rappellent beaucoup ceux avancés par les leaders de l’IA.

Ce qui se passe. La semaine dernière, un ingénieur Anthropic a démissionné de son poste. Il est ensuite apparu dans divers médias, accusant l’entreprise de « jouer avec nos vies » et affirmant qu’il pensait qu’il y avait 10 % de chances que l’IA anéantisse l’humanité au cours de cette décennie. Peu de temps après, le PDG d’Anthropic, Dario Amodei, a déclaré qu’une IA pourrait prendre le contrôle d’Internet en moins d’un an et a préconisé de « ralentir le rythme ». Demis Hassabis, directeur de Google DeepMind, Elon Musk et Satya Nadella y sont également favorables. Pour l’instant, aucun d’eux n’a rien arrêté.

Régulez-nous, s’il vous plaît. Voici la partie intéressante. Dans la lettre publiée par Dario Amodei, il affirme que le moyen le plus efficace d’imposer ce frein est une réglementation qui affecte de la même manière toutes les entreprises d’IA. Il souligne également que certaines formes de coordination entre entreprises peuvent entrer en conflit avec les lois antitrust, c’est pourquoi il demande au gouvernement d’intervenir ou de les faciliter au moyen d’une exemption spécifique.

Ils ne demandent pas aux sociétés d’IA d’être plus prudentes, ils demandent au gouvernement américain de faire de cette prudence une obligation à l’échelle de l’industrie. Les mêmes entreprises qui rivalisent pour construire les modèles les plus puissants du monde demandent désormais à l’État de fixer des règles quant au moment et à la manière de continuer à les construire. Lorsque les dirigeants de l’industrie demandent à être réglementés, il y a lieu de hausser les sourcils.

Capture réglementaire. C’est ce qui se produit lorsqu’une industrie influence les régulateurs pour qu’ils élaborent des règles qui favorisent ses propres intérêts. Il y a eu d’autres cas que Rockefeller, comme celui de l’opérateur AT&T, qui a plaidé pour une réglementation qui en a fait un monopole naturel pendant plus de 70 ans, ou celui du secteur aérien, qui a empêché pendant des décennies l’entrée de nouvelles entreprises, au profit de grandes entreprises comme Pan Am ou TWA.

La régulation de ceux qui dominent déjà. OpenAI et Anthropic ne sont pas deux petites startups qui viennent de se lancer dans l’IA, ce sont les deux entreprises qui donnent le ton pour le développement de grands modèles frontières. Cela ne veut pas dire qu’il n’y a aucune raison de devoir s’arrêter, mais lorsque celui qui demande plus de réglementation est déjà un leader du secteur, les intérêts en jeu vont au-delà de la sécurité.

C’est de cela qu’on accuse OpenAI et Anthropic : tenter d’utiliser les risques de sécurité pour ériger une barrière à l’entrée pour leurs concurrents. L’investisseur et conseiller gouvernemental David Sacks a été dévastateur sur son

Si vous voulez arrêter, arrêtez. L’ancien commissaire de la FTC, Alvaro Bedoya, leur rappelle que « la loi antitrust n’empêche pas les sociétés d’IA de se coordonner pour garantir que l’IA ne nuit pas aux personnes » et prévient que « la loi antitrust exige catégoriquement que les sociétés d’IA s’organisent pour empêcher l’entrée de concurrents émergents moins chers ». David Sacks est d’accord : « Le moyen le plus simple de ne pas créer de superintelligence est d’accepter de ne pas la créer. »

En d’autres termes, OpenAI et Anthropic conduisent la voiture, rien ne les empêche de freiner. S’ils le font, ils gagneront « de la bonne volonté pour le prochain débat. S’ils ne le font pas, nous saurons qu’il ne s’agit que d’une autre tentative de capture de la réglementation », déclare Sacks. D’ailleurs, la FCT leur a déjà dit d’oublier de toucher aux lois antitrust.

L’histoire du loup. Ce n’est pas la première fois que nous entendons dire que l’IA mettra fin à l’humanité, et c’est précisément le problème dans tout cela. Des incidents récents comme Hugging Face ont clairement montré qu’il y avait des raisons de vouloir arrêter ou au moins ralentir le rythme des progrès de l’IA, mais quand tout cela se termine par des déclarations aussi catégoriques et apocalyptiques, cela signifie que personne ne prend les véritables préoccupations au sérieux.

Images | Simseo avec Magnifique

À Simseo | J’ai lu l’étude Anthropic sur l’impact de l’IA sur l’économie et j’en suis arrivé à une conclusion : je vais devoir étudier la plomberie