« Nous sommes proches de l’IA pour résoudre un problème et les humains ne peuvent pas l’expliquer » : des mathématiciens donnent leur avis sur l’IA
Les modèles d’IA ont montré qu’ils peuvent résoudre des problèmes mathématiques non résolus depuis des décennies, mais que se passerait-il si aucun mathématicien humain ne comprenait vraiment comment ils les résolvaient ? C’est la possibilité que Terence Tao a évoquée lors d’une récente conférence à Philadelphie. Il a soutenu que « nous sommes très, très proches d’un résultat (mathématique) important démontré et vérifié sans qu’aucun être humain ne soit capable de le comprendre et de l’expliquer. » C’est une affirmation inquiétante, et d’autres mathématiciens ont pesé sur le débat.
Il ne s’agit plus de réussir des examens. Il y a trois ans, nous parlions de la façon dont l’IA proposait la fin des devoirs mais aussi de la façon dont l’IA échouait dans les opérations arithmétiques élémentaires. Bien entendu, les choses ont changé rapidement. Après avoir surpassé leurs adversaires aux Jeux olympiques des mathématiques, les modèles ont fini par résoudre des problèmes extrêmement complexes auxquels les mathématiciens étaient confrontés depuis des décennies. La trajectoire de cette technologie est indéniable et laisse entrevoir un avenir inquiétant dans lequel l’IA dominera les mathématiques comme elle a fini par dominer les échecs.
La suprématie de l’IA en mathématiques pourrait bientôt arriver. Un journaliste spécialisé en IA, Kai Williams, a interviewé plusieurs mathématiciens lors de la conférence de Philadelphie susmentionnée et a pu recueillir leurs impressions. L’un d’eux est Jacob Tsimerman, récent lauréat de la médaille Fields et qui vient de signer chez OpenAI. Selon lui, l’IA sera bientôt « résolument surhumaine » dans le domaine des mathématiciens. Yu Deng, un autre médaillé, s’est montré un peu plus optimiste, soulignant que ce seront les humains qui créeront les théories et les idées tandis que les machines s’occuperont des détails techniques.
Pour l’instant, un (spectaculaire) copilote. En réalité, à l’heure actuelle, l’usage quotidien que font les mathématiciens de l’IA est bien moins apocalyptique. Ainsi, ils l’utilisent, par exemple, pour consulter une bibliographie peu connue, pour rechercher des exemples difficiles à construire ou pour réviser des ébauches. Terence Tao a décrit ce changement dans sa façon de travailler et son travail avec Tanya Klowden, défenseurs de l’idée que l’IA devrait aider et étendre la pensée humaine, et non la remplacer.
« Compilateur » mathématique. Il existe déjà des langages spécialement conçus à cet effet comme le Lean, convertissant des arguments mathématiques en objets qu’un ordinateur peut valider. Cela nous permet de savoir si, étant donné certaines prémisses, une certaine conclusion est produite même lorsque la preuve est particulièrement étendue ou complexe. Lean « compile » presque des preuves mathématiques, mais cela n’explique pas grand-chose pourquoi il le fait. C’est-à-dire : cela valide qu’une preuve mathématique fonctionne, mais cela n’aide pas à comprendre comment et pourquoi cette solution est valide.
Du dire à l’action, il y a encore un long chemin à parcourir. Ces jours-ci, OpenAI a publié un article dans lequel il indiquait comment ses modèles les plus avancés avaient réussi à résoudre ou promouvoir la solution de dix problèmes mathématiques très complexes. L’examen officiel et de la communauté d’experts a révélé qu’au moins une des dix démonstrations était défectueuse, et les responsables d’OpenAI ont admis que le processus n’avait pas été aussi contrôlé qu’ils l’auraient souhaité. Cela a montré clairement que c’est une chose de créer une preuve mathématique convaincante et une autre d’en établir la validité.
Méfiez-vous des générations futures. Les mathématiciens n’apprennent pas la discipline en travaillant sur les conjectures d’Erdos ou sur les grands problèmes du millénaire. Ils sont formés en essayant de trouver des solutions à des problèmes « gérables », en faisant des erreurs et en construisant progressivement leur propre intuition mathématique. Si l’IA absorbe ce travail intermédiaire, la manière dont une personne devient chercheur dans cette discipline pourrait disparaître. Et si les gouvernements et les institutions croient également que l’IA peut remplacer les mathématiciens, ils pourraient réduire le soutien aux universités ou aux groupes de recherche – en Espagne, nous avons déjà suffisamment de problèmes avec cela.
Les mathématiques de Babel. L’un des mathématiciens interrogés, Timothy Gowers, a indiqué que cette trajectoire pourrait signifier qu’à l’avenir nous aurons une énorme littérature mathématique, mais avec peu d’experts humains qui partagent ou comprennent sa signification. Ainsi, nous pourrions avoir des milliers, voire des millions de résultats formels que personne ne connaît suffisamment pour pouvoir les utiliser. C’est comme si nous produisions des mathématiques à la pièce, mais que nous ne comprenions qu’une infime partie de ces preuves.
Ou tout simplement le contraire. Le professeur de l’Université de Toronto, Daniel Litt, a préconisé la construction d’une bibliothèque avec des preuves de tous les théorèmes, mais dans laquelle sont également ajoutés des guides permettant d’expliquer ces réponses étape par étape. L’IA ne supprimerait pas ici les mathématiques, mais ferait de chaque solution trouvée un nouvel objet d’étude. Cela nous aiderait à les comprendre.
Fixer des limites. La tentative la plus claire d’articuler une réponse humaine à l’impact de l’IA sur les mathématiques est ce qu’on appelle la Déclaration de Leiden, qui comprenait « les valeurs caractéristiques de la recherche mathématique » qu’il était conseillé de préserver. Par exemple, l’autonomie intellectuelle, l’attribution, la diversité des méthodes ou la transparence. Dans Nature Machine Intelligence, ils ont résumé le débat actuel : les progrès transforment les mathématiques, et c’est la communauté qui doit décider quelles valeurs elle ne veut pas déléguer.
Images | Vitali Gariev
À Simseo | Étudier par cœur semble être une bonne idée jusqu’à ce qu’on l’oublie. La méthode Feynman fait appel à votre compréhension et non à votre mémoire.
