Demis Hassabis : « L'IA est mûre pour contribuer au progrès scientifique »
Démis Hassabis a reçu le prix Nobel de chimie pour ses études à Google DeepMindl’un des laboratoires de recherche et développement en intelligence artificielle les plus importants au monde. Hassabis, PDG et co-fondateur de l'entreprise, ainsi que les deux autres lauréats du prestigieux prix, ont réussi à prédire la structure de chaque protéine connue à l'aide d'un logiciel d'intelligence artificielle connu sous le nom de AlphaFold.
Hassabis a accordé une longue interview au Financial Times, dont nous rapportons les parties saillantes.
Le prochain grand défi auquel l’intelligence artificielle sera confrontée
Lorsqu’on lui a demandé, Hassabis a répondu qu’« il y en a plusieurs. Premièrement, concernant la biologie – vous pouvez voir où nous allons avec AlphaFold 3 – l’idée est de comprendre les interactions (biologiques) et à terme de modéliser un cheminement complet. Et puis, à un moment donné, j’ai envie de construire une cellule virtuelle. Avec Isomorphic (la spin-off de DeepMind pour le développement de médicaments), nous essayons de nous développer dans la découverte de médicaments : concevoir des composés chimiques, comprendre où ils se lient, prédire les propriétés de ces composés, leur absorption, leur toxicité, etc. Nous avons d'excellents partenaires (en) Eli Lilly et Novartis… nous travaillons sur des projets avec eux, qui se déroulent très bien. Je veux résoudre certaines maladies. Je veux aider à guérir certaines maladies. »
DeepMind au-delà de la biologie
DeepMind ne concerne pas seulement la biologie. « Je suis très enthousiasmé par notre travail de conception de matériaux : l'année dernière, nous avons publié un article dans Nature sur un outil appelé GNoME (un outil d'intelligence artificielle qui a découvert 2,2 millions de nouveaux cristaux) », a déclaré Hassabis.
« Il s’agit du niveau AlphaFold 1 de conception matérielle. Nous devons atteindre le niveau AlphaFold-2, sur lequel nous travaillons. Nous résoudrons quelques conjectures importantes en mathématiques à l’aide de l’intelligence artificielle. Cet été, nous avons remporté la médaille d'argent aux Jeux olympiques. C'est une compétition très rude. Au cours des deux prochaines années, nous résoudrons l’une des principales conjectures. Et puis, en matière d'énergie et de climat, vous avez vu que notre modélisation météorologique Graphcast il a remporté un prix MacRobert, un grand honneur du point de vue de l'ingénierie. Nous étudions si nous pouvons utiliser certaines de ces techniques pour aider à la modélisation du climat, pour la faire avec plus de précision, ce qui sera important pour lutter contre le changement climatique, ainsi que pour optimiser les réseaux électriques, etc.
Hassabis et l'AGI
Interrogé sur les progrès de l'intelligence générale artificielle (AGI), Hassabis répond : « Évidemment, je suis très concentré sur les progrès de l'intelligence générale artificielle (AGI) avec des systèmes basés sur des agents. Nous voulons probablement parler du Projet Astra et du futur des assistants numériques, des assistants numériques universels, sur lesquels je travaille personnellement et que je considère comme sur la voie de l'AGI. Cela semble être un moment décisif pour l’IA, la reconnaissance du fait qu’elle peut effectivement, et est maintenant assez mature, contribuer à la découverte scientifique. (…)
« Je pense que nous devons comprendre ce que font les systèmes, quelles sont leurs limites et comment contrôler et protéger ces systèmes. La compréhension est une partie importante de la méthode scientifique. Je pense que cet aspect manque dans l’ingénierie pure. L'ingénierie, c'est juste voir : est-ce que ça marche ? Et si ça ne marche pas, réessayez. Tout est question d'essais et d'erreurs. C'est une technologie tellement puissante que vous souhaitez faire le moins de faux pas possible. La science est ce qui peut être compris avant que tout cela ne se produise. Et, idéalement, cette compréhension signifie que vous faites moins d’erreurs. La raison pour laquelle cela est important pour l’AGI et l’IA est qu’il s’agit d’une technologie si puissante que vous souhaitez faire le moins de faux pas possible. Bien sûr, vous voulez pouvoir atteindre la perfection, mais il s’agit d’une technologie trop nouvelle et qui évolue rapidement. Mais nous pouvons certainement faire un meilleur travail que ce que nous avons fait avec les technologies passées. Je pense que nous devons le faire avec l’IA. C'est ce que je soutiens. À mesure que nous abordons l’IA, peut-être dans quelques années, une question sociale se posera, qui pourra également être éclairée par la méthode scientifique. Quelles valeurs voulons-nous que ces systèmes aient ? Quels objectifs voulons-nous qu’ils se fixent ? Ce sont donc des choses distinctes. Reste la question technique : comment maintenir le système en conformité avec l’objectif visé ? Mais cela ne vous aide pas à décider quel devrait être l’objectif, n’est-ce pas ? Mais vous devez réussir les deux choses pour un système AGI sûr. La seconde, je pense, pourrait être plus difficile : quels objectifs, quelles valeurs, etc., car il s’agit plutôt d’une question onusienne ou géopolitique. Je pense qu’un large débat est nécessaire sur ce point, avec les gouvernements, avec la société civile, avec le monde universitaire, avec toutes les composantes de la société – mais aussi avec les sciences sociales et la philosophie. J'essaie d'impliquer tous ces types de personnes, mais je suis un peu inhabituel en ce sens. J'essaie d'encourager davantage de gens à faire cela ou au moins à servir de modèle, à servir d'intermédiaire pour faire entendre ces voix autour de la table. Je pense que nous devrions commencer maintenant car même si l’AGI est dans 10 ans, et certains pensent que cela pourrait être beaucoup plus tôt, ce n’est pas long.”
L'IA et le prix Nobel
L'intelligence artificielle a reçu deux prix Nobel, en chimie et en physique (cette année, le prix de physique a été attribué à Geoffrey Hinton et John Hopfield pour leurs travaux sur les réseaux de neurones, la technologie fondamentale des systèmes d'IA modernes), qu'en pense Hassabis ? «Cela semble être un moment décisif pour l’IA, la reconnaissance du fait qu’elle peut réellement contribuer, et qu’elle est désormais suffisamment mature, à la découverte scientifique. AlphaFold en est le meilleur exemple. Et les prix de Geoff et Hopfield étaient destinés à des travaux algorithmiques plus fondamentaux… Il est intéressant qu'ils aient décidé de les regrouper, presque comme des doubles prix associés. Pour moi, j’espère que dans 10 ans, AlphaFold aura marqué le début d’un nouvel âge d’or de découvertes scientifiques dans tous ces différents domaines. J'espère que nous ajouterons à ce corpus de travail.
L'apprentissage automatique a également changé notre façon d'apprendre
On a ensuite demandé à Hassabis si l’intelligence artificielle changeait la façon dont nous apprenons les concepts scientifiques. « C'est une question intéressante », a-t-il répondu. « D’une certaine manière, prévoir, c’est en partie comprendre. Si vous pouvez prédire, cela peut conduire à la compréhension. Or, ces nouveaux systèmes (d’intelligence artificielle) sont de nouveaux artefacts dans le monde, ils ne rentrent pas dans la classification normale des objets. Ils ont une capacité inhérente qui en fait une classe unique de nouveaux outils. Mon point de vue est que si le résultat est suffisamment important, par exemple une structure protéique, alors cela en soi est précieux. (…) L’IA est comme un niveau d’abstraction. Les personnes qui construisent les programmes et les réseaux le comprennent à un certain niveau de physique, mais c’est ensuite cette propriété émergente qui en découle, en l’occurrence les prédictions. Mais les prédictions peuvent être analysées à un niveau scientifique par elles-mêmes. Je crois que la compréhension est très importante. Surtout quand on se rapproche d’AGI. Je pense que la situation va beaucoup s'améliorer par rapport à aujourd'hui. L'intelligence artificielle est une science de l'ingénierie. Cela signifie que l’artefact doit d’abord être construit, puis étudié. C’est différent d’une science naturelle, où le phénomène est déjà présent. »
Se concentrer sur de grands modèles de langage limite la production d'idées
On a demandé à Hassabis si le fait de se concentrer sur les grands modèles de langage (LLM) basés sur des transformateurs limitait la production de nouvelles idées. « Je pense qu'en réalité, de nombreux grands laboratoires réduisent la portée de leur exploration et mettent à l'échelle les transformateurs », a-t-il répondu. « Il est clair qu’ils sont extraordinaires et qu’ils constitueront un élément clé des systèmes AGI finaux. Mais nous avons toujours cru fermement à l’exploration et à la recherche innovante. Nous avons maintenu notre capacité à le faire : nous disposons de loin du banc de recherche le plus vaste et le plus approfondi pour inventer le prochain transformateur, si c'est ce qui est nécessaire. Cela fait partie de notre héritage scientifique, non seulement de DeepMind mais aussi de Google Brain. Nous redoublons notre engagement dans ce sens, tout en étant évidemment à égalité avec tout le monde en matière d'ingénierie et d'évolutivité. » (…) « J’ai toujours cru à la nécessité de pousser au maximum les idées les plus intéressantes et d’en explorer de nouvelles. Vous ne pouvez pas savoir de quelle avancée vous avez besoin tant que vous ne connaissez pas les limites absolues des idées actuelles. Nous l'avons vu avec de longues fenêtres contextuelles (une mesure de la quantité de texte qu'un LLM peut traiter en même temps). C’était une innovation intéressante et personne d’autre n’était capable de la reproduire. Ce n'est qu'une chose : vous verrez beaucoup plus d'innovations arriver dans notre travail traditionnel. »
