Des scientifiques tirent la sonnette d’alarme après avoir remporté le prix Nobel de physique
Le Canadien d'origine britannique Geoffrey Hinton et l'Américain John Hopfield ont remporté mardi le prix Nobel de physique pour leurs travaux pionniers sur les fondements de l'intelligence artificielle, tous deux tirant la sonnette d'alarme sur la technologie qu'ils ont contribué à donner vie.
Les recherches menées par les deux hommes sur les réseaux neuronaux dans les années 1980 ont ouvert la voie aux systèmes d'apprentissage profond d'aujourd'hui, qui promettent de révolutionner la société mais ont également suscité des craintes apocalyptiques.
« Dans les mêmes circonstances, je referais la même chose, mais je crains que la conséquence globale de cela ne soit que des systèmes plus intelligents que nous finissent par prendre le contrôle », a déclaré Hinton, 76 ans, aux journalistes après l'annonce.
Hinton, connu comme « le parrain de l’IA », a fait sourciller en 2023 lorsqu’il a quitté son emploi chez Google pour mettre en garde contre les « risques profonds pour la société et l’humanité » de cette technologie.
En mars de l’année dernière, lorsqu’on lui a demandé si l’IA pourrait anéantir l’humanité, Hinton a répondu : « Ce n’est pas inconcevable ».
Les deux hommes ont été récompensés « pour leurs découvertes et inventions fondamentales qui permettent l'apprentissage automatique avec des réseaux de neurones artificiels », a déclaré le jury.
Ellen Moons, présidente du Comité Nobel de physique, a déclaré lors d'une conférence de presse que ces outils font désormais partie de notre vie quotidienne, notamment dans la reconnaissance faciale et la traduction linguistique.
Tout en louant le potentiel de l'IA, Moons a noté que « son développement rapide a également soulevé des inquiétudes quant à notre avenir collectif ».
« Les humains portent la responsabilité d'utiliser cette nouvelle technologie d'une manière sûre et éthique », a-t-elle déclaré.
Hopfield, professeur émérite à Princeton, a été mis en avant pour avoir créé le « réseau Hopfield », également connu sous le nom de mémoire associative, qui peut être utilisé pour « stocker et reconstruire des images et d'autres types de modèles dans les données ».
Le physicien s'est joint à Hinton pour appeler à une compréhension plus approfondie des systèmes d'IA modernes afin d'éviter qu'ils ne deviennent incontrôlables, qualifiant les récents progrès technologiques de « très troublants ».
« Vous ne savez pas que les propriétés collectives avec lesquelles vous avez commencé sont en réalité les propriétés collectives avec toutes les interactions présentes, et vous ne savez donc pas si quelque chose spontané mais indésirable se cache dans les œuvres », a déclaré le physicien lors d'un rassemblement. à son université par liaison vidéo.
« Dépasser les capacités intellectuelles des gens »
Le jury a déclaré que Hinton, professeur de 76 ans à l'Université de Toronto, a utilisé le réseau Hopfield comme base pour un nouveau réseau : « la machine Boltzmann ».
Hinton a été crédité d'avoir inventé « une méthode capable de trouver de manière autonome des propriétés dans les données et ainsi d'effectuer des tâches telles que l'identification d'éléments spécifiques dans des images ».
« Je suis sidéré, je n'avais aucune idée que cela arriverait », a déclaré Hinton aux journalistes lors d'un entretien téléphonique alors que les lauréats étaient annoncés à Stockholm.
Hinton a déclaré qu'il était un fervent utilisateur d'outils d'IA tels que ChatGPT, et a déclaré qu'il pensait que la technologie aurait « une énorme influence ».
« Ce sera comparable à la révolution industrielle. Mais au lieu de dépasser les gens en force physique, cela va dépasser les gens en capacités intellectuelles », a déclaré Hinton.
Le Premier ministre canadien Justin Trudeau a salué la réussite de son compatriote, affirmant que « le Canada est à l'avant-garde de la technologie de l'IA grâce à des pionniers comme le Dr Hinton ».
« Sa curiosité pour la découverte et sa contribution à l'innovation inspireront les générations à venir. Au nom de tous les Canadiens, je le félicite pour sa réalisation remarquable. »
Saison Nobel
Le prix Nobel de physique est le deuxième Nobel de la saison après celui de médecine décerné lundi aux scientifiques américains Victor Ambros et Gary Ruvkun.
Le duo américain a été récompensé pour sa découverte du microARN et de son rôle dans la régulation des gènes.
Décernés depuis 1901, les prix Nobel honorent ceux qui, selon les mots du créateur et scientifique Alfred Nobel, « ont conféré le plus grand bénéfice à l'humanité ».
Le prix de physique sera suivi mercredi par celui de chimie, tandis que les prix très attendus de littérature et de paix seront annoncés respectivement jeudi et vendredi.
Le prix d'économie clôturera la saison Nobel 2024 le 14 octobre.
Les gagnants recevront leur prix, composé d'un diplôme, d'une médaille d'or et d'un chèque d'un million de dollars, des mains du roi Carl XVI Gustave à Stockholm le 10 décembre, jour anniversaire de la mort en 1896 du scientifique Alfred Nobel qui a créé les prix dans son testament.
