Les législateurs du Colorado mènent la campagne en faveur de l'IA et mettent en garde contre les conséquences « désastreuses

Alors que l’intelligence artificielle commence à remodeler la société de manière prévisible et non prévisible, certains des législateurs fédéraux les plus en vue du Colorado tentent d’établir des garde-fous sans pour autant arrêter complètement la technologie.

Le représentant américain Ken Buck, un républicain de Windsor, co-parraine un projet de loi avec le démocrate californien Ted Lieu visant à créer une commission nationale axée sur la réglementation de la technologie et un autre projet de loi visant à empêcher l’IA de tirer unilatéralement des armes nucléaires.

Le sénateur Michael Bennet, un démocrate, a publiquement exhorté le chef de son caucus, le chef de la majorité Chuck Schumer, à réfléchir attentivement à la voie à suivre en matière de réglementation de l’IA, tout en mettant en garde contre les leçons tirées du développement organique des médias sociaux. Le sénateur John Hickenlooper, également démocrate, a également présidé une audience de sous-commission en septembre dernier sur la question.

« Nous sommes intimement conscients que même des produits numériques apparemment inoffensifs peuvent avoir des effets profondément néfastes sur la santé mentale, le discours civique, la légitimité démocratique et l’action économique des Américains », a écrit Bennet dans sa lettre à Schumer à la fin de l’été. « Répéter notre échec de surveillance lorsqu’il s’agit de technologies plus puissantes comme l’IA serait désastreux. »

Aucune proposition de règlement n’a encore trouvé pied au Congrès – où presque rien ne se passe rapidement, même dans des périodes plus coopératives – mais l’accent montre que cela ne sera peut-être pas le cas pour longtemps. L’Union européenne a déjà conclu un accord sur la manière de réglementer l’IA, et les Nations Unies se sont également tournées vers la technologie.

Au Colorado, les législateurs de l’État, avec le soutien de la secrétaire d’État Jena Griswold, ont également présenté une législation visant à réglementer l’utilisation de l’IA dans les campagnes électorales.

« L’intelligence artificielle représente un tournant majeur dans notre histoire, et nous devons agir pour protéger nos élections », a déclaré la représentante Junie Joseph, démocrate de Boulder, lors d’une conférence de presse jeudi à Denver.

Les inquiétudes concernant l’avenir de l’IA couvrent toute la gamme, depuis la manière dont elle pourrait être utilisée pour influencer les élections jusqu’aux perturbations économiques potentielles en passant par un scénario apocalyptique d’armes nucléaires.

Mais il présente également des avantages potentiels importants, notamment son utilité dans la lecture d’analyses médicales pour identifier les irrégularités, en tant qu’outil pédagogique et d’autres innovations à venir.

« Lorsque la révolution industrielle s’est produite, il y a eu un réel changement dans notre société », a déclaré Buck dans une interview. « Quand Internet est apparu, cela a été un véritable changement dans notre société. C’est donc quelque chose qui va créer beaucoup de difficultés et il est difficile d’identifier à l’heure actuelle quelles vont être certaines d’entre elles. »

Maîtriser la Big Tech ?

Buck a déclaré qu’il avait tourné son attention vers l’IA alors qu’il étudiait la Big Tech et se demandait si ses principaux acteurs devaient être maîtrisés. De nombreuses entreprises derrière l’Internet au quotidien, y compris la société mère de Facebook, la plateforme de médias sociaux X et la société mère de Google, sont également développer des outils d’IA.

Il a souligné qu’il ne voulait pas arrêter l’innovation dans le domaine, mais s’assurer d’éviter tout préjudice potentiel aux Américains, de la même manière qu’il ne voulait pas fermer les moteurs de recherche mais voulait rendre difficile l’accès aux informations pour les gens. comme comment fabriquer des bombes ou se faire du mal.

Daniel Weiner, directeur du programme Elections and Government du Brennan Center, a prévenu dans un essai que « le début des années 2020 restera probablement dans les mémoires comme le début de l’ère des deepfakes en matière d’élections », en utilisant le terme pour désigner l’audio et la vidéo qui ont été manipulés avec l’intelligence artificielle. .

Il continue en citant des élections de loin en loin où des contrefaçons générées par l’IA ont fait le tour. En Slovaquie, ils ont peut-être contribué à la courte défaite d’un parti politique pro-occidental face à une faction pro-russe ; Aux États-Unis, la campagne présidentielle du gouverneur de Floride, Ron DeSantis, a publié l’année dernière une fausse vidéo dans laquelle l’ancien président Donald Trump embrassait sur le nez l’ancien directeur de l’Institut national des allergies et des maladies infectieuses, Anthony Fauci, selon Reuters.

Et le bureau du procureur général du New Hampshire a annoncé lundi qu’il enquêtait sur un appel automatisé avant la première primaire du pays qui aurait apparemment utilisé l’intelligence artificielle pour imiter la voix du président Joe Biden et décourager les résidents de voter.

« Les progrès de l’IA générative sont devenus un véritable multiplicateur de force », a déclaré Weiner dans une interview, faisant référence à l’IA utilisée pour générer des médias. « Photoshop et les manipulations low-tech existent depuis toujours. Ce genre de sales tours n’est pas nouveau. Mais la façon dont l’IA et le contenu synthétique peuvent être générés et distribués. … Le potentiel, dans une période politique très tendue, pour cette technologie, de semer le chaos est énorme. »

Interdire simplement l’utilisation de cette technologie n’est pas envisageable, car une partie de celle-ci peut être utilisée à des fins satiriques ou pour des commentaires politiques protégés par le premier amendement, a déclaré Weiner. D’autres utilisations tombent dans une zone nettement grise, par exemple si une vidéo générée par l’IA permettait à un clone numérique de Trump de lire des tweets légitimement envoyés à partir des comptes de médias sociaux de l’ancien président.

Weiner, pour sa part, pense que la solution la plus élégante est claire : des filigranes obligatoires et visibles sur les médias générés par l’IA. Bennet a fait valoir un point similaire dans sa lettre à Schumer, et c’est l’objectif principal d’un projet de loi qu’il a présenté au printemps dernier.

Inquiétudes quant à l’étouffement de l’innovation

Mais ce n’est là qu’un exemple parmi d’autres de la manière dont l’IA pourrait perturber la société.

Weiner a déclaré qu’il était tout aussi inquiet du fait que les responsables électoraux utilisent l’IA pour des choses comme la vérification de routine des listes électorales sans garde-fous pour empêcher les machines d’expulser des électeurs de manière inappropriée.

Même si la spécialité de Weiner est le droit électoral – et il note que les campagnes politiques sont déjà assez fortement réglementées – il a également reconnu le souhait d’une « légère touche réglementaire » de manière générale pour ne pas étouffer l’innovation ou désavantager l’industrie américaine.

Il a déclaré que Buck et Bennet faisaient « partie du groupe de membres jouant un rôle de leadership » en matière d’intelligence artificielle en général. Son organisation n’a pas pris de position officielle sur ses efforts pour constituer une commission chargée d’étudier la question, mais il a qualifié cela de « généralement une bonne idée ».

Il a noté que, sans action du Congrès, Biden a également publié un décret pour établir des protocoles de sûreté et de sécurité tout en protégeant la vie privée des Américains.

« Il est urgent de commencer à développer des solutions », a déclaré Weiner. « Il n’est pas non plus intelligent de penser que vous allez proposer une seule série de solutions politiques et en finir. »

Buck, qui a annoncé l’automne dernier qu’il ne se représenterait pas en 2024, était d’accord avec ce sentiment. À mesure que l’IA progresse, le Congrès devra la revoir ainsi que ses capacités, a-t-il déclaré. En plus de simplement le réglementer à des fins de sécurité et de santé, il s’agit également de maintenir la compétitivité économique de l’Amérique, tant à l’échelle internationale qu’intérieure.

« Vous allez avoir beaucoup de gens dans la catégorie des démunis, et certaines personnes dans la catégorie des nantis », a prévenu Buck. « Certaines personnes qui comprennent la technologie, (qui) ont été formées et ont utilisé la technologie, et un ensemble de personnes qui ne la connaissent pas. Cela va créer une disparité de richesse dans ce pays et cela mine vraiment l’une des forces du pays. notre société, notre classe moyenne.