« Une menace générale pour le travail intellectuel » : les esprits mathématiques les plus brillants, contre le mode opératoire de l’IA
Cette semaine, la science a traversé une période difficile : en l’absence de confirmation de la communauté mathématique, il semble que nous ayons enfin trouvé la solution à l’un des sept problèmes du millénaire posés par le Clay Mathematics Institute. Mais ce « nous » est plus une expression qu’une réalité : il ne s’agissait pas de l’humanité, mais de l’IA d’OpenAI. Et en petits caractères : derrière tout cela se cache un véritable feuilleton, des mois de travail humain et des milliers d’agents.
Quelques jours plus tard, 25 des esprits les plus brillants en mathématiques au monde et qui ont à leur actif une médaille Fields (un peu comme le prix Nobel de mathématiques) ont écrit une lettre ouverte non pas tant contre l’IA, mais contre cette course entre laboratoires d’intelligence artificielle pour arriver les premiers à tout prix et leur mode opératoire.
Le problème de la discorde. Le mathématicien Tristan Buckmaster de l’Université de New York et le chercheur anthropique Levent Alpöge travaillaient depuis des mois et progressaient pour résoudre le problème d’existence et de régularité de Navier-Stokes. Puis ils ont découvert qu’OpenAI avait mis en place sa machinerie pour, sur la base de ses avancées, résoudre le problème.
Disons quelque chose : comme c’est l’habitude en science, ils ne sont pas non plus partis de zéro : leurs recherches se sont poursuivies avec les mathématiciens Diego Córdoba et Luis Martínez-Zoroa. OpenAI a fini par publier le test, dont nous avons pris connaissance cette semaine.
Confusion, pression et réponse possible. Buckmaster a demandé des explications à OpenAI et a reçu des réponses de plus en plus floues, des phrases épineuses comme « pourquoi ruineriez-vous votre carrière ? » et que l’un de ses mathématiciens, Sébastien Bubeck, a suggéré de supprimer Alpöge de l’équation en raison de son lien avec Anthropic.
OpenAI a confirmé une partie de cette histoire : elle affirme avoir commencé à travailler sur le problème le 1er septembre, après avoir entendu des rumeurs selon lesquelles il était déjà résolu, et qu’elle utilisait un modèle encore inédit, plus précisément 10 000 agents coordonnés travaillant 88 heures et dépensant 300 milliards de jetons de sortie, l’équivalent de 22,5 millions de dollars en informatique. La société nie avoir vu le travail de Buckmaster avant sa publication, mais admet qu’elle ne peut pas complètement exclure que certaines de ces informations se soient retrouvées dans ses modèles grâce à l’utilisation par Buckmaster de l’outil Codex.
Que dit la lettre ? Les 25 personnes qui signent la lettre intitulée « Un grave désalignement de l’IA en mathématiques » ne disent pas que l’IA est mauvaise en soi : leur plainte est que les entreprises publient les résultats trop rapidement, sans donner le temps de les examiner ou de donner du crédit à celui qui a fait le travail précédent, ce qui ouvre les portes au plagiat et aux mauvaises attributions. Et ils laissent un avertissement clair : sans des professionnels des mathématiques qui prennent le temps de comprendre et d’expliquer les idées, les résultats de l’IA ne seront jamais utiles aux autres.
Ce n’est pas seulement un problème de mathématiques. La lettre laisse également un avertissement aux marins : « Nous assistons à une menace générale sur le travail intellectuel, avec un décalage entre le résultat de l’utilisation de l’IA et sa finalité initiale. » Bref, c’est désormais arrivé avec les mathématiques, mais si tout reste pareil, d’autres métiers créatifs et scientifiques connaîtront la même chose. C’est pourquoi ils demandent aux entreprises et à la communauté d’agir maintenant.
Et plus qu’une question académique, il s’agit d’un problème de faute professionnelle. Il est clair que la puissance de calcul d’un laboratoire d’IA est énorme comparée à celle d’un cerveau humain, mais les formes sont une autre histoire. Attention, car ce n’est pas la première fois que les voix les plus autorisées en mathématiques se plaignent : déjà en juin de cette année, la Déclaration de Leiden proposait des recommandations aux institutions et aux décideurs politiques concernant l’impact des démonstrations générées par les grands modèles linguistiques.
Que peut-il arriver ensuite. Le problème sous-jacent est que si la seule chose qui compte est de gagner la course, ceux qui se consacrent aux mathématiques peuvent changer de comportement et cesser de partager leurs progrès pour les cacher et ainsi empêcher une entreprise avec beaucoup d’argent et beaucoup de puissance de calcul de « voler » leurs résultats et d’aller ensuite de l’avant pour les résoudre. Cela marquerait un avant et un après dans la manière dont progresse la science : l’humanité a toujours progressé en partageant des idées afin que d’autres puissent les réviser et les améliorer.
Espérons que cela conduira à des changements plus concrets et tangibles sous la forme de règles plus claires sur la manière dont les entreprises d’IA peuvent (ou ne peuvent pas) utiliser les conversations issues de ces recherches pour former leurs modèles, donneront le temps nécessaire pour l’examen avant d’annoncer des avancées en grande pompe et indiqueront clairement qu’il ne s’agit pas d’une question exclusive des mathématiques : dans d’autres disciplines, l’IA peut également devancer les gens.
À Simseo | Ces deux problèmes déconcertent les mathématiciens depuis des décennies. Un génie les a résolus d’un trait de plume
À Simseo | « Nous sommes proches de l’IA pour résoudre un problème et les humains ne peuvent pas l’expliquer » : des mathématiciens donnent leur avis sur l’IA
Couverture | Gémeaux
