L’utiliser judicieusement signifie connaître sa vraie nature et notre propre esprit

Les futurs historiens pourraient bien considérer 2023 comme une date charnière dans l’avènement de l’intelligence artificielle (IA). Mais personne ne sait si cet avenir s’avérera utopique, apocalyptique ou quelque part entre les deux.

En février, ChatGPT a établi le record de l’application la plus rapide à atteindre 100 millions d’utilisateurs. Il a été suivi par des modèles d’IA similaires en « grand langage » de Google, Amazon, Meta et d’autres grandes entreprises technologiques, qui semblent collectivement prêts à transformer l’éducation, les soins de santé et de nombreux autres domaines à forte intensité de connaissances.

Cependant, le potentiel nocif de l’IA a été souligné en mai par une déclaration inquiétante signée par d’éminents chercheurs :

« Atténuer le risque d’extinction dû à l’IA devrait être une priorité mondiale, aux côtés d’autres risques sociétaux tels que les pandémies et la guerre nucléaire. »

En novembre, répondant aux inquiétudes croissantes concernant les risques liés à l’IA, 27 pays (dont le Royaume-Uni, les États-Unis, l’Inde, la Chine et l’Union européenne) se sont engagés à coopérer lors du premier sommet sur la sécurité de l’IA à Bletchley Park en Angleterre, pour garantir le développement sûr de l’IA. pour le bénéfice de tous.

Pour y parvenir, les chercheurs se concentrent sur l’alignement de l’IA, c’est-à-dire sur la façon de s’assurer que les modèles d’IA sont cohérents avec les valeurs, les préférences et les objectifs humains. Mais il y a un problème : le soi-disant « sombre secret » de l’IA : les modèles à grande échelle sont si complexes qu’ils ressemblent à une boîte noire, impossible à comprendre pleinement.

Le problème de la boîte noire de l’IA

Bien que la transparence et l’explicabilité des systèmes d’IA soient des objectifs de recherche importants, de tels efforts semblent peu susceptibles de suivre le rythme frénétique de l’innovation.

La métaphore de la boîte noire explique pourquoi les croyances des gens à l’égard de l’IA sont omniprésentes. Les prédictions vont de l’utopie à l’extinction, et beaucoup pensent même qu’une intelligence artificielle générale (AGI) atteindra bientôt la sensibilité.

Mais cette incertitude aggrave le problème. L’alignement de l’IA doit être une voie à double sens : nous devons non seulement garantir que les modèles d’IA sont cohérents avec les intentions humaines, mais également que nos convictions sur l’IA sont exactes.

C’est parce que nous sommes remarquablement habiles à créer des futurs qui correspondent à ces croyances, même si nous n’en sommes pas conscients.

Les soi-disant « effets d’espérance », ou prophéties auto-réalisatrices, sont bien connus en psychologie. Et la recherche a montré que la manipulation des croyances des utilisateurs influence non seulement la façon dont ils interagissent avec l’IA, mais aussi la manière dont l’IA s’adapte à l’utilisateur.

En d’autres termes, la façon dont nos croyances (conscientes ou inconscientes) affectent l’IA peut potentiellement augmenter la probabilité de tout résultat, y compris catastrophique.

IA, calcul, logique et arithmétique

Nous devons approfondir nos recherches pour comprendre les fondements de l’IA – comme Alice au pays des merveilles, descendez dans le terrier du lapin et voyez où cela nous mène.

Tout d’abord, qu’est-ce que l’IA ? Il fonctionne sur des ordinateurs, tout comme le calcul automatisé. Depuis son origine sous le nom de « perceptron » – un neurone artificiel défini mathématiquement en 1943 par le neurophysiologiste Warren McCulloch et le logicien Walter Pitts – l’IA est étroitement liée aux sciences cognitives, aux neurosciences et à l’informatique.

Cette convergence des esprits, des cerveaux et des machines a conduit à la croyance largement répandue selon laquelle, parce que l’IA est un calcul par une machine, alors l’intelligence naturelle (l’esprit) doit être un calcul par le cerveau.

Mais qu’est-ce que le calcul ? À la fin du XIXe siècle, les mathématiciens Richard Dedekind et Giuseppe Peano ont proposé un ensemble d’axiomes qui définissaient l’arithmétique en termes de logique et ont inspiré des tentatives pour fonder toutes les mathématiques sur une base formelle sûre.

Bien que le logicien Kurt Gödel ait prouvé plus tard que cet objectif était irréalisable, ses travaux ont été le point de départ du mathématicien (et décrypteur) Alan Turing. Sa « machine de Turing », un dispositif abstrait capable de calcul universel, constitue le fondement de l’informatique.

Structure profonde de la perception

Ainsi, le calcul est basé sur des idées mathématiques qui remontent aux efforts visant à définir l’arithmétique en logique. Mais notre connaissance de l’arithmétique existe avant la logique. Si nous voulons comprendre les fondements de l’IA, nous devons aller plus loin et nous demander d’où vient l’arithmétique elle-même.

Mes collègues et moi avons récemment montré que l’arithmétique repose sur la « structure profonde » de la perception. Cette structure est comme des verres colorés qui façonnent notre perception de manière particulière, de sorte que notre expérience du monde soit ordonnée et gérable.

L’arithmétique consiste en un ensemble d’éléments (nombres) et d’opérations (addition, multiplication) qui combinent des paires d’éléments pour donner un autre élément. Nous avons demandé : parmi toutes les possibilités, pourquoi les nombres sont-ils les éléments, et l’addition et la multiplication les opérations ?

Nous avons montré par des preuves mathématiques que lorsque l’on supposait que la structure profonde de la perception limitait les possibilités, l’arithmétique en résultait. En d’autres termes, lorsque notre esprit voit le monde abstrait à travers les mêmes « lunettes colorées » qui façonnent notre expérience du monde physique, il « voit » les nombres et l’arithmétique.

Parce que l’arithmétique est le fondement des mathématiques, cela implique que les mathématiques sont le reflet de l’esprit – une expression symbolique de sa nature fondamentale et de sa créativité.

Bien que la structure profonde de la perception soit partagée avec d’autres animaux et soit donc un produit de l’évolution, seuls les humains ont inventé les mathématiques. Il s’agit de notre création la plus intime et, en permettant le développement de l’IA, peut-être de notre plus grande conséquence.

Une révolution copernicienne de l’esprit

Notre explication de l’origine de l’arithmétique est cohérente avec les vues du philosophe Emmanuel Kant du XVIIIe siècle. Selon lui, notre connaissance du monde est structurée par des « intuitions pures » de l’espace et du temps qui existent avant l’expérience sensorielle – analogues aux lunettes colorées que nous ne pouvons jamais retirer.

Kant affirmait que sa philosophie était une « révolution copernicienne de l’esprit ». De la même manière que les anciens astronomes croyaient que le Soleil tournait autour de la Terre parce qu’ils n’étaient pas conscients du mouvement de la Terre, affirmait Kant, les philosophes qui croyaient que toute connaissance découlait de l’expérience sensorielle (John Locke et David Hume, par exemple) ont négligé la façon dont l’esprit façonne perception.

Bien que les opinions de Kant aient été façonnées par les sciences naturelles de son époque, elles se sont révélées influentes sur la psychologie contemporaine.

La reconnaissance du fait que l’arithmétique est une conséquence naturelle de notre perception, et donc biologiquement fondée, suggère un changement kantien similaire dans notre compréhension du calcul.

Le calcul n’est pas « extérieur » ou séparé de nous dans un domaine abstrait de vérité mathématique, mais inhérent à la nature de notre esprit. L’esprit est plus qu’un simple calcul ; le cerveau n’est pas un ordinateur. Le calcul – la base de l’IA – est plutôt, comme les mathématiques, une expression symbolique de la nature et de la créativité de l’esprit.

Feu prométhéen

Quelles sont les implications pour l’IA ? Premièrement, l’IA n’est pas un esprit et ne deviendra jamais sensible. L’idée selon laquelle nous pouvons transcender notre nature biologique et atteindre l’immortalité en téléchargeant notre esprit sur le cloud n’est qu’un fantasme.

Pourtant, si les principes mentaux sur lesquels repose l’IA sont partagés par toute l’humanité (et probablement par d’autres créatures vivantes également), il pourrait être possible de transcender les limites de notre esprit individuel.

Le calcul étant universel, nous sommes libres de simuler et de créer le résultat de notre choix dans nos mondes virtuels et physiques de plus en plus connectés. En ce sens, l’IA est véritablement notre feu prométhéen, un cadeau à l’humanité volé aux dieux comme dans la mythologie grecque.

En tant que civilisation mondiale, nous sommes probablement à un tournant. L’IA ne deviendra pas sensible et ne décidera pas de tous nous tuer. Mais nous sommes tout à fait capables de nous « apocalypser » grâce à cela : les attentes peuvent créer la réalité.

Les efforts visant à garantir l’alignement, la sûreté et la sécurité de l’IA sont d’une importance vitale, mais pourraient ne pas suffire si nous manquons de sensibilisation et de sagesse collective. Comme Alice, nous devons nous réveiller du rêve et reconnaître la réalité et le pouvoir de notre esprit.