Nous ne créerons donc jamais un einstein ou un newton

Nous jouons presque à l’Agi avec les doigts, apparemment. On ne le dit pas, ils l’ont dit depuis un certain temps Vraies personnalités du monde technologique. Voyons:

• Sam Altman pense qu’il arrivera dans quelques milliers de jours, mais bien sûr, il doit créer pour collecter de plus en plus de fonds.
• Le slogan de Xai, la startup d’Elon Musk – connu pour ses promesses non tenues – indique qu’avec son IA, nous pouvons « comprendre l’univers ».
• Jensen Huang, PDG de Nvidia, estime également que nous créerons un AGI dans cinq ans (et bien qu’il va gonfler les GPU).
• Et Demis Hassabis, PDG de Deepmind, semble coïncider, bien que nous devons admettre que Google semble être quelque chose de plus prudent avec ces déclarations.

Mais toutes les promesses. Attentes Fumée. Le malheureux optimisme de cette industrie a provoqué une fièvre d’or colossale dans laquelle investissements Les paris dans de nouvelles startups et en particulier dans les centres de données – bonjour, Stargate – sont absolument spectaculaires et plus typiques d’une bulle. Ces attentes peuvent-elles répondre? Clair. Mais rien n’assure 1) lorsque nous pouvons avoir un AGI et surtout 2) qu’en fait nous pouvons l’avoir.

Et c’est un problème important, car les attentes concernant l’IA se sont abattues, et c’est dangereux. Est-ce une avance prometteuse? Certainement. Notre monde change-t-il? Pour l’instant, plutôt petit.

Il faut tenir compte du fait que d’autres révolutions technologiques passées ont également pris du temps et ont généré une méfiance et un scepticisme au début. Nous avons en fait des cas célèbres de vrais zascas dans toute la bouche dans le domaine technologique:

• Thomas Watson, président d’IBM, a déclaré en 1943 « Je pense qu’il y a un marché mondial pour environ cinq ordinateurs ».
• Bill Gates aurait dit – bien que plus tard, il l’a nié – que « 640k (par mémoire) devrait être suffisant pour quiconque » -.
• Son grand ami Steve Ballmer – qui a encore plus d’argent que lui, c’est-à-dire – il a ri de l’iPhone quand il s’est jeté.
• Robert Metcalfe, Coinventor de la norme Ethernet, a déclaré en 1995 « Predico qu’il deviendra bientôt une supernova et s’effondrera catastrophique en 1996 ». Puis il a reconnu son erreur et a littéralement mangé ses paroles.

Il y a beaucoup et un temps de jambe important pour les gens qui savaient théoriquement beaucoup de ce dont je parlais. Et tous démontrent une chose: prédire l’avenir n’est pas seulement impossible, mais dangereux. Et cela nous fait clairement que nous devons peut-être donner une (grande) opportunité à l’IA, sans aucun doute.

Nous n’aurons donc jamais une IA que Einstein ou Newton

Mais aujourd’hui, nous attendons peut-être trop d’elle. C’est exactement ce que j’ai élevé dans un essai bref mais brillant dans x Thomas Wolfco-fondateur et chef des sciences de Huggin Face. Selon lui, ce qu’ils nous ont promis – ou ce dont nous parlons encore – est très dissident avec ce que nous avons vraiment.

Et ce qui a été promis et dit, c’est que le monde de la science révolutionnera. Que nous aurons de nouveaux médicaments, de nouveaux matériaux, de nouvelles découvertes. Et la réalité est que bien qu’il y ait des nouvelles vraiment prometteuses, il n’y a pas de temps pour le moment.

Pour Wolf, ce que nous avons est « Un pays d’hommes qui disent oui à tout sur les serveurs« , c’est-à-dire que l’IA, bien qu’il soit affirmé et exprime son opinion fermement et en toute sécurité, ne défie généralement pas les utilisateurs. Et surtout: il ne conteste pas ce qu’il sait.

Comme il l’a expliqué, beaucoup de gens tombent dans l’erreur de penser que des gens comme Newton ou Einstein étaient d’excellents étudiants, et que le génie vient lorsque vous parvenez à extrapoler ces grands étudiants. Comme si la création d’une IA avait la meilleure capacité du monde à être suffisante. Et ce n’est pas:

« Pour créer un einstein dans un centre de données, nous n’avons pas besoin d’un système qui a toutes les réponses, mais plutôt une Demandez-vous des choses que personne n’avait pensé Ou personne n’avait osé demander. « 

C’est un message puissant et probablement vrai. Alors que Sam Altman a déclaré que la superintelligence pourrait accélérer la découverte scientifique et Dario Amodei – les soins d’Anthropic – a assuré que l’IA nous aidera à formuler des prêtres pour la plupart des types de cancer, la réalité en est une autre.

Et la réalité selon Wolf est que l’IA ne génère pas de nouvelles connaissances pour « en connectant les faits précédemment non liés. (…) remplit simplement les trous de ce que les humains savaient déjà ». Ici, la déclaration est peut-être quelque peu négative, car l’IA génère de nouvelles connaissances et de nouveaux contenus reliant précisément les données avec lesquelles elles sont formées. Nous l’avons vu récemment dans le domaine de la microbiologie, par exemple, et aussi dans toutes ces œuvres de texte, d’image et de vidéo qui nous font réfléchir à ce qu’est la créativité et si les machines peuvent devenir créatives.

Le loup n’est pas seul dans ce discours. L’exingeniero de Google François Chollet, maintenant à la tête du prix Arc Benchmark, est d’accord. Selon lui, l’IA est capable de mémoriser des schémas de raisonnement – qui sont ceux utilisés dans des modèles de raisonnement, tels que O1 ou Deepseek R1 – mais il est peu probable de raisonner seul et de s’adapter à de nouvelles situations.

Ainsi, selon Wolf, l’IA actuelle est comme un étudiant fantastique et très appliqué, mais qui Ne contestez pas ce qui a été enseigné. Il n’a aucune incitation à remettre en question ce qu’il sait et à proposer des idées qui vont à l’encontre des données avec lesquelles il a été formé. Il se limite à répondre aux questions déjà formulées. Cet expert affirme que nous avons besoin d’une IA qui se demande « Que se passe-t-il si tout le monde est en erreur avec cela? » Bien que tout ce qui a été publié sur un certain sujet suggère le contraire.

La solution qu’il propose est de quitter les repères actuels. Il parle d’une « crise d’évaluation » qui fait que les tests se concentrent sur des questions qui ont des réponses claires, évidentes et fermées. Au lieu de cela, il devrait être valorisé en particulier que l’IA est capable de faire des approches audacieuses et d’aller à l’encontre des faits.

«Nous n’avons pas besoin d’un étudiant d’inscription honorifique ou de qui peut répondre à toutes les questions grâce à ses connaissances générales. Nous avons besoin d’un étudiant remarquable qui détecter et remettre en question tout ce que les autres personnes ont négligé« 

Et vous avez peut-être raison, bien sûr. C’est quelque chose de débattu avec le problème de la mise à l’échelle – les modèles ne sont plus mieux, même si davantage de ressources et de données ont été utilisées – et il ne semble pas que ce soit la façon d’atteindre un AGI.

Il semble que les entreprises l’ont remarqué et recherchent d’autres routes. Les nouveaux modèles de raisonnement semblent un chemin plus prometteur et parviennent en fait à rechercher des solutions audacieuses. Nous l’avons récemment vu avec ces modèles d’IA qui ont triché pour gagner les échecs, par exemple. Ilya Sutskever, co-fondatrice d’Openai et maintenant à la recherche d’un AGI, a également clairement indiqué qu’elle suivait un autre chemin différent vers celui qui a conduit à développer Chatgpt.

Allez-vous réussir là où les autres échouent? Qui sait. À la fois pour lui et pour le reste, cependant, la réflexion de Wolf est importante. Peut-être que ce dont nous avons besoin précisément, c’est une IA qui ne nous dit pas que oui à toutsinon qui remet en question ce que nous savons.

Ou ce que nous pensons savoir.

Image | Simseo avec freepik

Dans Simseo | Le gouvernement d’Espagne veut que tout le contenu de l’IA porte un « label ». Cela semble très bien, mais c’est un énorme défi