Le meilleur scientifique veut empêcher l'IA de devenir un voyou
Préoccupé par la propagation rapide de l'IA générative, un chercheur pionnier développe des logiciels pour garder un œil sur une technologie qui prend de plus en plus les tâches humaines.
Le professeur canadien de l'informatique Yoshua Bengio est considéré comme l'un des parrains de la révolution de l'intelligence artificielle et a annoncé mardi le lancement de Lawzero, une organisation à but non lucratif destinée à atténuer les risques inhérents à la technologie.
Le lauréat du prix Turing, également connu sous le nom de Nobel Prize for Computer Science, avertit depuis plusieurs années des risques de l'IA, que ce soit par son utilisation malveillante ou le logiciel lui-même.
Ces risques augmentent avec le développement de soi-disant agents d'IA, l'utilisation de la technologie qui tâche les ordinateurs avec des décisions qui ont été prises par des travailleurs humains.
L'objectif de ces agents est de construire des employés virtuels qui peuvent faire pratiquement n'importe quel travail qu'un humain peut, à une fraction du coût.
« Actuellement, l'IA est en cours de développement pour maximiser les bénéfices », a déclaré Bengio, ajoutant qu'elle était déployée même si elle persiste pour montrer des défauts.
De plus, pour Bengio, donner une agence de type humaine en AI sera facilement utilisée à des fins malveillantes telles que la désinformation, les armes bio-armes et les cyberattaques.
« Si nous perdons le contrôle des IS super-intelligents voyous, ils pourraient grandement nuire à l'humanité », a-t-il déclaré.
L'un des premiers objectifs de Lawzero sera de développer une IA des scientifiques, une forme d'IA spécialement formée qui peut être utilisée comme garde-corps pour s'assurer que d'autres IA se comportent correctement, a déclaré la société.
L'organisation compte déjà plus de 15 chercheurs et a reçu un financement de Schmidt Sciences, un organisme de bienfaisance créé par l'ancien patron de Google Eric Schmidt et son épouse Wendy.
Le projet est disponible comme de puissants modèles de grande langue (ou LLM) d'OpenAI, Google et Anthropic sont déployés dans tous les secteurs de l'économie numérique, tout en montrant des problèmes importants.
Il s'agit notamment de modèles d'IA qui montrent une capacité à tromper et à fabriquer de fausses informations, même s'ils augmentent la productivité.
Dans un exemple récent, la société d'IA Anthropic a déclaré que lors des tests de sécurité, son dernier modèle d'IA a essayé de faire chanter un ingénieur pour éviter d'être remplacé par un autre système.
