Yann LeCun, parrain de l’IA : « Si vous bloquez une IA parce que vous pensez qu’elle est dangereuse, vous êtes dans l’obscurantisme médiéval »

L’expression « ce modèle d’IA est si dangereux que ce serait une erreur de le rendre public » est un peu plus ancienne que les premières versions publiques de ChatGPT. Ce récit d’une IA « dangereuse » est plus marketing que réalité, mais c’est toujours le discours que des entreprises comme Anthropic et OpenAI poussent chaque fois qu’elles lancent un nouveau modèle.

Parce que cela reste un outil (qui consomme les ressources mondiales, mais un outil) et Yann LeCun a un message pour ces entreprises.

S’ils croient vraiment que c’est dangereux, ils vivent dans l’obscurantisme médiéval.

Récit de peur = absurdité

Le 10 avril, Anthropic a sorti Claude Mythos Preview. L’entreprise a affirmé qu’il s’agissait du meilleur modèle d’IA jamais créé et c’était quelque chose qu’elle seule pouvait dire car peu, très peu de personnes avaient accès audit modèle. Les analyses et les tests d’entreprises comme Mozilla ont indiqué que oui, c’était vraiment étonnant dans des environnements tels que la cybersécurité. Pas révolutionnaire, mais un outil très performant.

Et bien sûr, s’il tombait entre de mauvaises mains, cet outil pourrait être utilisé pour exploiter les systèmes et trouver des vulnérabilités (ce que les entreprises qui y avaient accès exploitaient). C’était « trop puissant », selon Anthropic, un récit de peur que le gouvernement des États-Unis lui-même était responsable de promouvoir en interdisant aux citoyens non américains, y compris les travailleurs d’Anthropic, d’utiliser le modèle commercial : Fable 5.

Selon le parrain de l’IA, tout cela n’a aucun sens.

Yann LeCun est l’un des noms les plus connus de la scène de l’intelligence artificielle. C’est en 2013 que l’ancien de Facebook a mis cet universitaire en apprentissage profond et en apprentissage automatique à la tête du navire IA de l’entreprise. Dans les années 1980, LeCun a développé un algorithme pour entraîner des réseaux de neurones artificiels et depuis lors, il a bâti une carrière dans les secteurs éducatif et privé.

Chez Vivatech, LeCun a participé à une discussion avec Steven Levy, journaliste de Wired, et ils ont discuté de diverses questions liées au présent et à l’avenir de l’IA. Sur scène, LeCun a clairement exprimé sa position sur les modèles de langage actuels (les LLM) et ce qu’il pensait de ce récit de peur.

Levy et Yann parlaient du modèle chinois plus axé sur l’open source lorsque le « gourou » a commenté que « beaucoup de gens, en particulier ceux proches du gouvernement des États-Unis, croient que l’IA ne peut pas être open source parce que ce scénario est déjà occupé par les entreprises chinoises. Ce sont des modèles bons et bon marché, dont certains sont gratuits, et au milieu de cela nous avons des entreprises comme Anthropic ».

LeCun n’a eu aucun problème dans le passé lorsqu’il faisait référence à ses concurrents dans ce domaine et, dans ce cas, a soutenu qu’« Anthropic, et quelques autres, sont un lobby qui veut essentiellement que l’IA ne soit pas open source parce qu’ils pensent qu’il s’agit d’une technologie intrinsèquement dangereuse. » Ensuite, Yann a commencé à énumérer les changements qui ont réellement eu un poids dans l’histoire de l’humanité, comme les avancées qui ont ouvert la voie à de nouveaux âges. Mais… l’IA ?

« Alors, qu’est-ce que l’IA aujourd’hui ? À tout le moins, c’est un moyen de diffuser des connaissances. Pour le moment, ce n’est pas un moyen de générer de nouvelles connaissances et la seule façon dont elles fonctionnent est à travers des référentiels de connaissances humaines et en permettant aux gens d’avoir un accès facile à ces référentiels. Donc, fondamentalement, c’est juste une autre façon de rendre les gens plus intelligents en pouvant accéder aux connaissances humaines. »

Pour LeCun, ces LLM sont un Wikipédia vitaminé, mais s’il n’a pas hésité par le passé à parler de rivaux et d’acteurs dans le domaine de l’IA, il ne l’a pas non plus fait à la foire de Paris. « Si vous bloquez un outil en pensant qu’il est très dangereux, vous êtes dans l’obscurantisme médiéval », a déclaré l’universitaire. Levy a ajouté que fondamentalement, « découvrir un outil puis le retirer de nos mains est un comportement plus typique de l’Église catholique qualifiant Galilée d' »hérétique » pour ses théories ».

Car, pour LeCun, tout cela se résume à un autre mot que « danger » : « contrôle ». « C’est ainsi qu’ils contrôlent le message et ce que les gens peuvent et ne peuvent pas faire avec leurs outils. Si vous achetez un stylo, vous ne voulez pas que l’entreprise qui vous le vend vous dise ce que vous pouvez écrire avec. Il y a une limite à ce que les entreprises peuvent vous dire sur l’utilisation de leurs outils. »

En fin de compte, LeCun ne tient pas compte du fait que ces entreprises dotées de modèles propriétaires (n’importe quelle personne disposant d’un service propriétaire, en fait) peuvent dicter ce que vous faites avec les outils pour lesquels vous avez une licence et quand elles peuvent fermer le robinet. On voit même avec les jeux vidéo que les entreprises retirent votre SSD lorsqu’elles estiment que vous ne devriez plus l’avoir, mais c’est un autre sujet.

Yann a terminé son argumentation en soulignant que le partage des connaissances est une culture, que c’est bien et que, même s’il y a une contrepartie négative (le partage de la culture peut aussi conduire à la radicalisation), ce qu’il ne faut pas faire, c’est contrôler ce que les gens peuvent faire avec les outils d’IA. « Il y a un grand complexe d’arrogance et de supériorité dans l’idée que seuls quelques-uns sont capables de contrôler l’IA et de l’appliquer aux masses qui n’y ont pas accès. »

Si les LLM ne sont pas la réponse, quelle est-elle ?

Dans son discours, LeCun a clairement indiqué que, pour lui, les LLM ne sont pas le Graal (comme l’ont vendu plusieurs PDG d’entreprises d’IA passés par les panels Vivatech). Ces modèles linguistiques sont un Wikipédia sous stéroïdes et un « clavier » prédictif vitaminé. Yann reconnaît que les LLM font très bien deux choses : les mathématiques et le code, mais la révolution viendra avec les agents réels et l’IA physique.

Pour LeCun, ce que nous n’obtenons pas avec les LLM, ce sont deux choses. « La première est que si vous voulez construire un système agentique comme ceux dont tout le monde parle, vous ne pouvez pas le rendre fiable sans qu’il ait la capacité d’anticiper le résultat et les conséquences de ses actions. La plupart d’entre nous en ont la capacité. Peut-être que certains politiciens ne l’ont pas. »

« Mais nous sommes certainement capables d’anticiper le résultat de nos actions pour planifier une séquence d’actions pour accomplir une série de tâches. C’est ce qu’est un modèle mondial. » LeCun commente que nous devons travailler sur des modèles qui prédisent l’état futur du monde avec la formule t + 1 dans laquelle « 1 » peut être 10 millisecondes, une seconde, une minute ou dix ans. « C’est un modèle du monde. »

C’est là que réside la complication, puisque les entreprises veulent y parvenir grâce à des modèles de langage qui, comme il l’a déjà commenté, ne sont rien d’autre que des claviers prédictifs devenus plus avancés et « ne peuvent jamais prédire exactement quel mot suivra une séquence de mots ». Et s’ils ne peuvent pas le faire, ils ne peuvent pas prédire les données du monde réel.

Prenons l’exemple de la création vidéo. Il affirme qu’il peut enregistrer une vue panoramique de la scène et du public, mais s’il s’arrête à un certain point et demande à une IA de reconstruire ce qui reste, l’opération échouera. Il appelle cela « un problème mathématiquement insoluble parce que nous ne savons pas comment représenter les distributions sur un nombre infini de résultats plausibles » et dit que l’idée est que l’IA devrait trouver une représentation abstraite des observations et faire des prédictions dans cet espace de représentation abstrait, mais « ne pas essayer de reconstruire tous les détails qui ne sont pas réellement prévisibles ».

Justement, LeCun travaille là-dessus depuis qu’il a quitté Meta. Il a avoué qu’il avait passé 15 ans à travailler sur l’idée d’un apprentissage auto-supervisé grâce à la prédiction vidéo, mais que cela avait échoué au cours de la première décennie. Puis il lui est venu à l’esprit d’arrêter de poursuivre ces modèles génératifs qui tentent de prédire au niveau des pixels pour passer à ce travail abstrait et c’est là qu’il constate des progrès.

Le problème est que rien n’est clair pour l’instant sur ce fait et qui plus est, dans un panel qui a suivi, des PDG d’entreprises d’IA ont critiqué la position de Yann, soulignant qu’il s’agissait moins de dire ce qui ne va pas que d’apporter des solutions.

Mais bon, au-delà du « dard » qu’il peut y avoir, et plus à titre personnel, ce fut un plaisir d’écouter Yann LeCun et Steven Levy parler, et lancer des fléchettes, de ce domaine qui a tant de chemin à parcourir.

Images | Simseo

À Simseo | L’avenir de la géopolitique se joue dans les modèles d’IA : le veto de Claude Fable 5 indique que l’Europe est hors-jeu