À l’exposition de San Francisco, l’IA « désolée » d’avoir détruit l’humanité
Une nouvelle exposition intitulée Misalignment Museum a ouvert ses portes à San Francisco le 9 mars 2023, présentant des œuvres d’art amusantes et dérangeantes sur l’IA.
Les progrès de l’intelligence artificielle arrivent si vite qu’un musée de San Francisco, le cœur battant de la révolution technologique, a imaginé un mémorial à la disparition de l’humanité.
« Désolé d’avoir tué la plus grande partie de l’humanité avec une casquette souriante et une moustache, » dit un moniteur accueillant un visiteur au « Musée du désalignement, » une nouvelle exposition sur la technologie controversée.
Les pièces de cette exposition temporaire mêlent l’inquiétant au comique, et cette première exposition permet à l’IA de fournir des observations concises aux visiteurs qui traversent sa ligne de vision.
« Le concept du musée est que nous sommes dans un monde post-apocalyptique où l’intelligence artificielle générale a déjà détruit la majeure partie de l’humanité, » a déclaré Audrey Kim, la commissaire de l’émission.
« Mais ensuite, l’IA se rend compte que c’était mauvais et crée une sorte de mémorial pour l’humain, donc le slogan de notre émission est « désolé d’avoir tué la majeure partie de l’humanité ». » dit-elle.
L’Intelligence Générale Artificielle est un concept encore plus nébuleux que la simple IA qui se déverse dans la vie de tous les jours, comme en témoignent l’émergence rapide d’applications telles que ChatGPT ou le chatbot de Bing et tout le battage médiatique qui les entoure.
L’IAG est « une intelligence artificielle capable de faire tout ce qu’un humain serait capable de faire, » intégrer les capacités cognitives humaines dans les machines.
Dans cette exposition, AI débourse des observations concises aux visiteurs qui traversent sa ligne de vision.
Tout autour de San Francisco et dans la péninsule de la Silicon Valley, les startups sont sur la piste du Saint Graal AGI.
Sam Altman, le fondateur du créateur de ChatGPT OpenAI, a déclaré qu’AGI, bien fait, peut « élever l’humanité » et changer le « limites des possibilités. »
IA trombone
Mais Kim veut déclencher une réflexion sur les dangers d’aller trop loin, trop vite.
« Il y a eu beaucoup de conversations sur la sécurité de l’IA dans de jolis cercles technologiques intellectuels de niche sur Twitter et je pense que c’est très important, » dit-elle.
Mais ces conversations ne sont pas aussi facilement accessibles au grand public que les concepts que vous pouvez voir ou ressentir, a-t-elle ajouté.
Kim affectionne particulièrement une sculpture appelée « Étreinte de trombone »: deux bustes d’humains se tenant l’un l’autre, entièrement faits de trombones.
L’œuvre fait référence à une métaphore du philosophe Nick Bostrom, qui dans les années 2000 a imaginé ce qui se passerait si l’intelligence artificielle était programmée pour créer des trombones.
« Elle pourrait devenir de plus en plus puissante, et s’optimiser sans cesse pour atteindre son seul et unique but, au point de détruire toute l’humanité afin d’inonder le monde de trombones, » dit Kim.
Peser le pour et le contre de l’IA est un sujet qui est devenu cher à Kim dans un travail antérieur chez Cruise, une entreprise de véhicules autonomes.
Là, elle a travaillé sur un « incroyable » technologie, qui « pourrait réduire le nombre d’accidents dus à une erreur humaine, » mais présentait également des risques, a-t-elle déclaré.
L’exposition occupe un petit espace dans un immeuble d’angle de rue dans le quartier branché de Mission à San Francisco.
L’étage inférieur de l’exposition est dédié à l’IA en tant que dystopie cauchemardesque où une machine alimentée par GPT-3, le modèle de langage derrière ChatGPT, compose des calligrammes malveillants contre l’humanité, en écriture cursive.
L’une des expositions est un dialogue généré par l’IA – et totalement faux – entre le philosophe Slavoj Zizek et le cinéaste Werner Herzog, deux des intellectuels les plus respectés d’Europe.
Partout dans la Silicon Valley, les startups sont sur la piste du Saint Graal de l’Intelligence Générale Artificielle.
Ce « Conversation infinie » est une méditation sur les deep fakes : images, sons ou vidéos qui visent à manipuler l’opinion en se faisant passer pour de vraies personnes et qui sont devenues la dernière arme de désinformation en ligne.
« Nous n’avons commencé ce projet qu’il y a cinq mois, et pourtant beaucoup des technologies présentées ici semblent déjà presque primitives, » dit Kim, étonné.
Elle espère transformer l’exposition en une exposition permanente avec plus d’espace et plus d’événements.
