Un centre de recherche de Montréal à l’avant-garde du débat mondial sur l’éthique de l’IA
Les développements rapides de l’intelligence artificielle – et les récents troubles au sein de la centrale industrielle OpenAI – ont attiré une nouvelle attention sur un pôle clé de recherche en éthique liée à la technologie à Montréal, dirigé par le « parrain canadien de l’IA » Yoshua Bengio.
Bengio – qui a partagé en 2018 avec Geoffrey Hinton et Yann LeCun le prix Turing pour leurs travaux sur l’apprentissage profond – se dit inquiet du fait que la technologie dépasse l’intelligence et les capacités humaines dans un avenir pas trop lointain.
S’adressant à l’AFP depuis son domicile à Montréal, le professeur a prévenu que les développements de l’IA progressaient à une vitesse vertigineuse et risquaient de « créer une nouvelle espèce capable de prendre des décisions qui nuisent, voire mettent en danger les humains ».
Le récent licenciement d’OpenAI, puis la réembauche quelques jours plus tard du PDG Sam Altman, accusé d’avoir minimisé les risques dans sa volonté de faire progresser son robot ChatGPT, illustre une partie de la tourmente dans le secteur des startups et de la concurrence féroce dans la course à la commercialisation des technologies génératives. IA.
Depuis un certain temps, Bengio met en garde contre les entreprises qui évoluent trop vite sans garde-fous, « potentiellement aux dépens du public ».
Il est essentiel, dit-il, d’avoir « des règles qui seront suivies par toutes les entreprises ».
Lors du premier sommet mondial sur l’IA en Grande-Bretagne début novembre, Bengio a été chargé de diriger une équipe produisant un rapport inaugural sur la sécurité de l’IA.
L’objectif est de fixer des priorités pour éclairer les travaux futurs sur la sécurité de la technologie de pointe.
Société et IA
Le célèbre universitaire en IA a réuni une « masse critique de chercheurs en IA » (plus de 1 000) par l’intermédiaire de son institut de recherche Mila, situé dans un ancien quartier ouvrier de Montréal.
Ses voisins incluent les installations de recherche en IA des géants américains de la technologie Microsoft, Meta, IBM et Google.
« Cette concentration d’experts en intelligence artificielle, plus grande que partout ailleurs dans le monde », est ce qui a attiré Google, explique Hugo Larochelle, le directeur scientifique en sweat à capuche de Deepmind, filiale d’IA du géant de la Silicon Valley.
Très tôt, ces chercheurs ont commencé à réfléchir à l’avenir de l’IA, et des consultations avec le public et les chercheurs de toutes les disciplines ont conduit en 2018 à une charte mondiale de l’IA appelée Déclaration de Montréal pour un développement responsable de l’intelligence artificielle.
« Nous avons su très tôt que la communauté scientifique devait réfléchir à l’intégration de l’IA dans la société », explique Guillaume Macaux, vice-président de l’OBVIA, un observatoire international étudiant les impacts sociaux de l’IA.
Ses 220 chercheurs conseillent les politiques gouvernementales et sensibilisent le public aux possibles effets positifs et négatifs de cette technologie de pointe.
L’art « démystifie l’IA »
Les artistes jouent également un rôle dans la « démystification de l’IA », affirme Sandra Rodriguez, qui partage son temps à faire de l’art à Montréal et à enseigner les médias numériques au prestigieux Massachusetts Institute of Technology (MIT) aux États-Unis.
Elle a présenté à l’AFP sa dernière installation artistique.
Pénétrant dans un monde futuriste à couper le souffle via un casque de réalité virtuelle (VR), le public peut converser avec un bot inspiré du linguiste américain Noam Chomsky.
Les réponses vocales et textuelles aux requêtes apparaissent simultanément. D’une simple pression du doigt, des listes de réponses alternatives prises en compte par l’IA avec leur pourcentage de gradient associé apparaissent.
« On se rend vite compte qu’il ne s’agit en fait que d’un algorithme », a déclaré Rodriguez.
« Montréal est un terrain de jeu fantastique » pour explorer le potentiel et les limites de l’intelligence artificielle, ainsi que « débattre de questions éthiques et sociétales (liées) », a-t-elle déclaré à l’AFP.
Selon Rodriguez, l’art devient « plus que jamais nécessaire » pour inviter « un public plus large à se poser des questions sur les enjeux de l’intelligence artificielle qui les concerneront demain ».