L’avenir de l’IA pourrait être formidable, ou catastrophique

Une enquête menée auprès de près de 3 000 experts en apprentissage automatique sur la façon dont nos vies seront différentes dans un monde d’IA a été réalisée et les résultats sont connus.

La bonne nouvelle : une majorité pense que l’IA va inaugurer une vague de progrès remarquables dans des domaines tels que la science, la littérature, les mathématiques, la musique et l’architecture, et ce, des années plus tôt qu’une enquête similaire prévue il y a deux ans.

La mauvaise nouvelle, c’est que nous allons tous mourir.

C’est du moins le sentiment de 38 à 51 % des personnes interrogées qui estiment qu’il existe une probabilité d’au moins 10 % d’un scénario d’extinction déclenché par l’IA. Près de 60 % ont déclaré que la probabilité était d’au moins 1 sur 20.

L’enquête a été menée par AI Impacts, qui étudie les conséquences à long terme de l’intelligence artificielle.

Tous les résultats n’étaient pas centrés sur le pessimisme. Les chercheurs ont constaté que le développement clé de l’IA progresse à un rythme si rapide que les personnes interrogées pensent que plusieurs réalisations clés seront atteintes des années plus tôt que prévu il y a à peine deux ans.

Par exemple, les personnes interrogées ont déclaré qu’il y avait au moins 50 % de chances que les machines acquièrent la capacité d’accomplir toutes les tâches humaines possibles sans assistance humaine – et ce, mieux et à moindre coût – d’ici 2047. Il y a deux ans, la date cible estimée était 2060.

D’autres réalisations intéressantes en matière d’IA étaient prévues dès la fin des années 2020. Ils incluent la possibilité de générer une vidéo sous d’autres angles, d’écrire un roman à succès du New York Times et, voilà, de plier le linge.

Et imaginez générer une chanson impeccable avec le style et le son de Taylor Swift, The Weeknd ou Ed Sheeran, impossible à distinguer de l’artiste réel. Cela sera réalisable d’ici quelques années, estime l’enquête. Certains efforts crédibles ont déjà été publiés. L’éthique de telles réalisations n’a pas été abordée dans l’étude.

Au total, 70 % des experts estiment que les bons résultats sont plus probables que les mauvais, à mesure que l’IA devient plus intelligente et plus puissante.

L’étude intitulée « Des milliers d’auteurs d’IA sur l’avenir de l’IA » a été publiée sur le arXiv serveur de préimpression le 5 janvier.

L’étude a révélé que sur 39 tâches décrites dans leurs questionnaires, 35 avaient au moins 50 % de chances d’être accomplies dans un délai d’une décennie. Ces tâches consistaient notamment à battre un humain au Go (après que chacun ait appris le même nombre de jeux), à reconnaître un objet après l’avoir vu une seule fois et à remporter le prestigieux et notoirement difficile concours de mathématiques Putnam.

Alors que quelques-uns ont exprimé leur inquiétude quant à un événement d’extinction, plus de la moitié des personnes interrogées ont exprimé une inquiétude « substantielle » ou « extrême » face aux tendances troublantes de l’IA, en particulier la diffusion d’informations fausses et trompeuses.

Comme l’a récemment averti un reportage de NBC : « Une convergence d’événements au pays et à l’étranger, sur les médias traditionnels et sociaux – et dans un environnement d’autoritarisme croissant, de profonde méfiance et de troubles politiques et sociaux – rend les dangers de la propagande, des mensonges et du complot théories plus désastreuses que jamais. »

Alors que l’opinion publique américaine se méfie d’un autre affrontement probable entre le président Biden et l’ancien président Trump, ainsi que d’élections clés dans plus de 50 autres pays, la capacité de la désinformation générée par l’IA menace d’avoir un impact sur l’alchimie politique au sein et entre les nations du monde.

L’enquête a également révélé une « extrême inquiétude » de la part des personnes interrogées concernant les deepfakes, la manipulation des tendances de l’opinion publique, l’utilisation potentielle de l’IA par les dirigeants autoritaires pour contrôler les populations et la propagation des inégalités par des utilisateurs irresponsables de l’IA.

Les trois quarts des personnes interrogées ont déclaré que « plus » ou « beaucoup plus » de recherches sur la sécurité devraient être menées pour répondre aux préoccupations croissantes concernant les abus liés à l’IA.

« Alors que les scénarios optimistes reflètent le potentiel de l’IA à révolutionner divers aspects du travail et de la vie », conclut le rapport, « les prédictions pessimistes, en particulier celles impliquant des risques d’extinction, rappellent brutalement les enjeux élevés impliqués dans le développement et le déploiement de l’IA. « .