Ce que disent aujourd'hui les pionniers de l'IA récompensés aujourd'hui par le prix Nobel sur l'IA et ses risques
Les pionniers de l'IA John Hopfield et Geoffrey Hinton ont remporté le prix Nobel de physique 2024 pour avoir jeté les bases de l'apprentissage automatique moderne. Cependant, ce sont également des voix réputées qui ont mis en garde contre les dangers potentiels de l’IA.
Pourquoi est-ce important. Cette reconnaissance intervient à un moment où l’IA est le protagoniste de l’agenda technologique, et c’est également aujourd’hui que de plus en plus d’inquiétudes surgissent quant à ses implications éthiques et sociales.
Le panoramique. Hopfield et Hinton ont développé les fondements mathématiques des réseaux de neurones artificiels dans les années 1980, en s'inspirant du fonctionnement du cerveau humain.
Leurs découvertes ont permis des avancées actuelles comme la reconnaissance d’images, la traduction automatique, etc.
Que disent-ils maintenant.
- Hinton, connu comme « le parrain de l’IA », prévient que cette technologie aura un impact comparable à celui de la révolution industrielle et que nous devrions nous inquiéter de ses conséquences négatives et de la possibilité que nous en perdions le contrôle.
- « Nous n'avons aucune expérience face à quelque chose de plus intelligent que nous », a déclaré Hinton, qui a quitté son emploi chez Google il y a un an pour pouvoir faire connaître les dangers qu'il a détectés dans ces technologies.
- Hopfield a gardé un profil quelque peu discret à cet égard et, plutôt que de parler des dangers potentiels, il s'est concentré sur les aspects techniques du développement de l'IA.
- C'est lui qui a créé le « réseau Hopfield », un modèle mathématique de 1982 qui a révolutionné le domaine de l'apprentissage automatique.
Le travail de Hopfield constitue la base permettant aux machines de se souvenir et de reconnaître des modèles similaires à la manière dont les humains le font.
Oui, mais. Les lauréats reconnaissent que l’IA peut apporter d’énormes bénéfices dans des domaines tels que la santé, la recherche scientifique ou la lutte contre le changement climatique.
Hinton, cependant, a axé son discours public sur une vision plus craintive ou prudente des progrès de l’IA.
Le contexte. Ce prix intervient dans un débat quasi mondial sur la régulation de l'IA, ses limites, ses implications éthiques…
Hinton a appelé à une plus grande collaboration entre les scientifiques, les politiciens et les leaders de l’industrie pour faire de l’IA une technologie sûre.
À Simseo | L'IA générative semble stagner, mais Suleyman est clair sur le fait que nous sommes dans la première « phase » : il en reste deux
Image en vedette | Prix Nobel, Simseo
