Qu'est-ce qu'il y aura quand l'IA terminera l'humanité
Dans un manoir en vue de Golden Gate, l'élite de l'intelligence artificielle s'est réunie dimanche dernier pour discuter d'une question inquiétante: la fin de l'humanité et ce qui va arriver plus tard. Parmi les verres (sans alcool), leurs participants, parmi lesquels il y avait des philosophes, des hommes d'affaires et des chercheurs, imaginaient un avenir dans lequel les humains n'existaient plus, mais une intelligence créée par nous. Comment notre successeur devrait-il être?
La fin de la fin du monde. L'événement que nous avons rencontré à travers ce rapport câblé a été appelé «digne successeur» et visait à discuter précisément que: définir un «successeur au sommet» car l'humanité n'existe plus. Cette idée est liée à la création d'un Intelligence artificielle générale ou AGIpour son acronyme en anglais. Un concept (pour le moment) de superintelligence qui surmonterait l'être humain dans toutes les facettes de la connaissance, si bien que, selon les mots de Daniel Faggella, l'hôte de la fête: « Vous feriez avec plaisir qu'elle (pas l'humanité) détermine le chemin futur de la vie lui-même. »
Qui a assisté. Le premier: qui est ce gars et pourquoi devrions-nous l'écouter? Faggella est la fondatrice d'Emerj Artificial Intelligence Research, une société de conseil et une analyse de l'IA. En 2016, il a écrit dans TechCrunch Sur les risques de l'IA et se concentre actuellement sur la diffusion de l'approche morale et philosophique, en particulier la création de ce «successeur digne» Une idée qui planait depuis longtemps. Selon compte Sur LinkedIna contacté différentes personnalités pertinentes de l'industrie, deux ans plus tard, pour tenir cette réunion.
À la fête, trois journaux pouvaient être entendus de la main de Ginevra DavisÉcrivain new-yorkais, le philosophe Michael Edward Johnson et l'hôte lui-même. La liste complète des invités n'a pas transcendé, mais Faggella présume que les fondateurs de sociétés d'IA ont assisté à des valeurs allant jusqu'à 5 000 millions de dollars, des personnes des laboratoires qui enquêtent pour créer un AGI et certains des philosophes et penseurs les plus importants du secteur.
La superintelligence qui se terminera avec tout. Selon les mots de Faggella: « Les grands laboratoires savent que l'AGI mettra probablement fin à l'humanité, mais n'en parlera pas parce que les incitations ne le permettent pas. » Cela ressemble à la théorie du complot, mais ce n'est pas le premier à avertir de quelque chose comme ça. Il y a dix ans, Bill Gates nous a dit Nous devrions craindre l'IA. Peu de temps après Musque a demandé le règlement Pour atténuer les dangers de ce qui allait arriver. Plus récemment, différents experts en IA ont signé Un message qui a alerté le « risque d'extinction pour l'IA ». Openai a également pensé à Les risques de l'AGI. On parle même que ses déclarations sur la création d'un AGI auraient été La raison du sain licenciement d'Altman mois plus tard.
Qu'est-ce qui est vrai dans tout cela. Nous ne pouvons pas savoir avec certitude, mais nous savons que la plupart des arguments concernant l'imminence de l'AGI Et leurs risques sont basés sur des opinions et des spéculations, et non sur des preuves empiriques ou des avancées concrètes. Par exemple, des recherches récentes ont montré que les systèmes actuels Ils échouent toujours dans les tâches de raisonnement de basequi contredit l'idée d'une superintelligence à court terme. De plus, il y a des indications que L'IA générative pourrait être proche de son toit. Il n'y a pas non plus de consensus parmi les experts. Il y a des détracteurs qui Ils considèrent que cela est ridiculemais bien sûr, il est moins «viralisable» que de dire que l'IA nous éteindra.
Et surtout: nous ne pouvons ignorer le fait que ceux qui font ces déclarations sont des gens d'affaires Comme Altmanet le Les affaires sont très chères Et vous devez financer. Agite la boucle insistant sur l'arrivée imminente de l'AGI pourrait être un moyen de collecter plus d'argent pour ses entreprises.
Ce que nous partirons lorsque nous disparaîtrons. Le thème central de la fête n'était pas tant la façon dont l'humanité sera éteinte (il semble que cela soit pris pour acquis), mais quel type d'intelligence nous devrions créer pour faire de notre successeur. Les participants ont entendu des présentations qui tournaient autour des valeurs et des capacités que cette nouvelle intelligence supérieure devrait avoir. Pour Faggella, l'humanité a la responsabilité de concevoir un successeur conscient et capable d'évoluer.
Le philosophe Michael Edward Johnson a souligné les restes de créer une IA consciente au-delà de l'extinction possible: « Nous risquons d'asservisser quelque chose qui peut souffrir ou faire confiance à quelque chose qui ne peut pas faire confiance », a-t-il déclaré lors de sa présentation. Plutôt que de forcer l'IA à obéir, il a proposé une éducation conjointe des humains et de l'IAS à « poursuivre le bien », quoi que ce soit. Bref, un débat du point de vue éthique et philosophiquemais avec une petite ancre en réalité. Du moins pour le moment.
Image de couverture | Gémeaux
Dans Simseo | L'arme secrète de l'industrie de la mode en Chine: cette startup utilise l'IA pour prédire le prochain Tendenci
