La lettre d’IA de Musk est un « gâchis brûlant » de battage médiatique, disent les critiques

Une lettre signée par Elon Musk et des centaines d’experts appelant à une pause dans le développement de l’intelligence artificielle est un « gâchis brûlant » de « battage médiatique sur l’IA » qui déforme même un article universitaire, selon les critiques.

Le patron du milliardaire Tesla, Musk, et d’autres sommités ont écrit que « les systèmes d’IA dotés d’une intelligence humaine compétitive peuvent présenter des risques profonds pour la société et l’humanité ».

Mais Timnit Gebru, dont l’article universitaire a été cité pour étayer cette affirmation, a écrit sur Twitter jeudi que son article met en garde contre de telles affirmations exagérées sur l’IA.

« Ils disent essentiellement le contraire de ce que nous disons et citent notre article », a-t-elle écrit.

Sa co-auteure, Emily Bender, a déclaré que la lettre était un « gâchis brûlant » et qu’elle « dégoulinait juste de battage médiatique sur l’IA ».

Les risques de l’IA, a-t-elle écrit, ne concernaient jamais le fait que l’IA soit « trop ​​puissante », mais plutôt « la concentration du pouvoir entre les mains des gens, la reproduction de systèmes d’oppression, les dommages causés à l’écosystème de l’information ».

La lettre ouverte, publiée mercredi sur le site Web de l’Institut Future of Life financé par Musk, appelait à une pause de six mois dans le développement de puissants systèmes d’IA.

Les signataires, qui comprenaient des universitaires et des titans de la technologie comme le co-fondateur d’Apple, Steve Wozniak, ont fait valoir que la pause devrait être utilisée pour renforcer la réglementation et garantir la sécurité des systèmes.

« Distraction idiote »

Cependant, quelques heures seulement après la publication de la lettre, le signataire Emad Mostaque, patron de la start-up britannique Stability AI, avait reculé sur l’une de ses revendications centrales.

« Je ne pense pas qu’une pause de six mois soit la meilleure idée », a-t-il écrit sur Twitter.

Il a dit, cependant, qu’il y avait « des choses intéressantes » dans la lettre et que cela aiderait à déclencher un débat.

Un autre signataire, le professeur de psychologie Gary Marcus, a passé une grande partie de la journée à se battre sur Twitter avec des critiques, dont l’universitaire en informatique Nick Holliman, qui l’a accusé d’avoir participé à une « distraction idiote ».

« J’ai soutenu à plusieurs reprises … que nous devons nous préoccuper de la façon dont les systèmes existants perpétuent les préjugés du passé », a-t-il écrit après qu’un utilisateur a suggéré que la lettre était signée par des « hommes blancs » indifférents aux problèmes actuels causés par les algorithmes.

Les grandes entreprises technologiques comme Google, Meta et Microsoft ont passé des années à travailler sur des systèmes d’intelligence artificielle, anciennement connus sous le nom d’apprentissage automatique ou de mégadonnées, pour faciliter les traductions, la recherche et la publicité ciblée.

Mais à la fin de l’année dernière, la société OpenAI de San Francisco a stimulé l’intérêt pour l’IA en lançant ChatGPT, un bot capable de générer des chapes de texte en langage naturel à partir d’une courte invite.

OpenAI a dévoilé plus tôt ce mois-ci GPT-4, une version plus puissante de son chatbot, incitant la lettre ouverte de Musk et de plus de 1 000 experts.