Bill Gates, sur les risques d’une IA incontrôlable : « Il ne suffit pas d’avoir un interrupteur »
Au fil des années, on a entendu à maintes reprises que l’IA pourrait anéantir l’humanité, mais depuis plusieurs semaines le discours s’est intensifié suite au tweet viral d’un ancien ingénieur d’Anthropic. Bill Gates est l’une des voix qui ont mis en garde contre les risques dans le passé et qui vient maintenant de se joindre à la conversation.
Gates a parlé. Dans une interview publiée sur NBC News, Bill Gates a donné son opinion sur le moment actuel de l’IA, plus précisément sur la crainte que les systèmes finissent par causer des dommages d’une ampleur jamais vue auparavant, sur la nécessité d’établir des mécanismes de supervision et sur le rôle que doivent jouer les gouvernements dans cette technologie. Ce sont des idées qui étaient déjà présentes dans l’essai qu’il a publié fin août, où il mettait en garde contre les risques posés par les progrès de l’IA et la nécessité de se préparer à ses conséquences.
Un milliard de morts. Ces dernières semaines, le mot extinction est revenu au centre du discours sur les dangers de l’IA, avec des chiffres très précis comme l’idée qu’il y a 10 % de chances que l’IA anéantisse l’humanité dans la prochaine décennie.
Gates ne donne pas de pourcentage, mais prévient que « l’IA est sans aucun doute suffisamment puissante pour provoquer des événements qui causent 1 milliard de morts ». Cependant, sa préoccupation n’est pas tant que l’IA agisse de manière autonome, mais plutôt qu’elle tombe entre de mauvaises mains : « Il n’y a jamais eu d’arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les outils d’IA les plus avancés. »
Il . L’idée selon laquelle l’IA dispose d’un bouton d’arrêt sur lequel nous pouvons appuyer si elle commence à se comporter de manière dangereuse existe depuis de nombreuses années, mais pour Gates, « il ne suffit pas d’avoir simplement un interrupteur d’arrêt ». Pouvoir éteindre le système peut être une mesure d’urgence, mais cela implique que quelque chose de grave s’est déjà produit. Gates se concentre sur la surveillance et la mise en place de mécanismes de contrôle avant d’atteindre ce point.
L’autorégulation ne suffit pas. L’un des débats qui a surgi tourne autour de la régulation de l’IA. Dario Amodei, PDG d’Anthropic, a proposé dans sa lettre que le moyen le plus efficace d’y mettre un terme était une réglementation qui affecterait de la même manière toutes les entreprises d’IA, une stratégie qui était considérée comme une tentative de capture de la réglementation qui finirait par leur bénéficier.
Lorsqu’on lui a demandé directement si le gouvernement américain devrait légiférer sur la question, la réponse de Gates a été claire : « Absolument », ajoutant que « personne ne pense que l’autorégulation est suffisante ». En d’autres termes, ils ne croient pas que les entreprises elles-mêmes soient capables de contrôler les risques.
Images | Simseo avec Magnifique
À Simseo | Bill Gates : « Je pense que nous devrions taxer l’IA, si vous embauchez quelqu’un maintenant, vous payez des impôts sur sa masse salariale »
