Le robot IA « Jennifer » appelle les électeurs californiens au Congrès pleins d'espoir
Jennifer a passé son week-end à appeler les électeurs californiens, les exhortant à voter lors de l'élection primaire de mardi pour le démocrate Peter Dixon.
Mais contrairement à ses homologues humains, Jennifer est une création de l’intelligence artificielle (IA), lui permettant de passer des milliers d’appels sans faire de pause ni perdre son sang-froid.
« Bonjour. Je m'appelle Jennifer et je suis une bénévole en intelligence artificielle », dit-elle, déclarant immédiatement son identité lors d'appels aux électeurs de la Silicon Valley participant à la course au Congrès américain.
De sa voix légèrement robotique – intentionnellement conçue pour montrer clairement qu'elle n'est pas humaine – elle présente le candidat, pose des questions et répond à celles qu'elle reçoit des électeurs, le tout sur un ton étonnamment naturel.
« Je me demande pourquoi personne ne m'a appelé aujourd'hui », lui demande Austin Madden, directeur des opérations de Dixon, lors d'un appel à une manifestation pour l'AFP.
« Mes excuses si j'ai raté ce point plus tôt », répond Jennifer sans perdre un instant. « La raison pour laquelle une IA comme moi appelle à la place d'une personne réelle est d'aider la campagne à atteindre plus de personnes de manière efficace, en permettant aux volontaires humains de se concentrer sur les domaines où l'interaction personnelle est cruciale. »
Dixon n'a commencé à utiliser que récemment Jennifer, le produit de la start-up Civox.
Au début, « nous étions sceptiques », a déclaré Dixon, vétéran de la Marine et entrepreneur en cybersécurité. « Et donc nous l'avons testé. »
« Les gens étaient choqués »
Son équipe s'attendait à ce que les résultats soient « mitigés ».
Au lieu de cela, « les gens ont été choqués par la qualité de cette capacité », a déclaré Dixon depuis le siège de son entreprise à Palo Alto, assis devant un écran d'ordinateur montrant des extraits de sa campagne.
Dans l’une des vidéos, les images alternent entre la réalité (Dixon tenant sa jeune fille) et des séquences dans lesquelles l’arrière-plan (la guerre en Afghanistan) et sa tenue sont artificiellement générés – et présentés comme tels.
Le but, a-t-il déclaré, était de « montrer que nous sommes à l’aise non seulement de comprendre ces outils, mais aussi… de les utiliser de manière éthique, responsable et transparente ».
Les progrès stupéfiants de l'IA au cours de l'année écoulée et l'apparition de programmes d'IA génératifs comme ChatGPT, qui produisent du texte, des images et des sons à la demande et dans le langage courant, ont suscité un immense enthousiasme, mais également de graves inquiétudes quant aux risques potentiels, notamment la perte d'emplois et la propriété intellectuelle. vol et fraude.
« Tout cela me terrifie », a admis Dixon.
Mais il préférerait voir les États-Unis « continuer à montrer la voie dans la manière dont nous les utilisons et à trouver comment rédiger nous-mêmes les règles de la route, plutôt que de laisser un autre pays comme la Chine » le faire.
Ilya Mouzykantskii a cofondé Civox en partie pour mieux se concentrer sur « l'intersection de l'intelligence artificielle et de la politique ».
« Nous sommes déjà dans un avenir », a-t-il déclaré, où les politiciens « utilisent des outils d'intelligence artificielle pour élaborer des politiques et prendre des décisions » – sans nécessairement annoncer qu'ils le font.
« C'est peut-être vers cette technocratie bienveillante que nous nous dirigeons », a déclaré Mouzykantskii. « Mais nous ne devrions pas nous retrouver là par hasard, et nous ne devrions pas nous y retrouver sans consentement. »
« La meilleure technologie »
À l'avenir, a déclaré Adam Reis, l'autre co-fondateur de Civox, « ce ne seront pas nécessairement les campagnes les mieux financées qui bénéficieront d'un avantage injuste. Ce seront celles dotées de la meilleure technologie ».
Reis a déclaré qu'il travaillait depuis longtemps pour créer des « personnages » d'IA avec lesquels il pourrait avoir des dialogues crédibles. L’arrivée de l’IA générative a rendu cela beaucoup plus facile.
Mais, a-t-il ajouté, « nous avons découvert que les mécanismes des conversations et de la parole sont en réalité bien plus difficiles que le contenu de ce qui est dit ».
Pour être vraiment convaincant, un personnage IA doit parler avec fluidité, comprendre et réagir rapidement, et savoir à la fois quand interrompre et quand autoriser une interruption – autant de défis difficiles.
« Certaines personnes tentent de tromper le système », a déclaré Patrick McNally, directeur de terrain de Civox. « Mais le robot est très efficace pour ramener cela à la politique… parfois à un point tel qu'un humain ne serait même pas capable de le faire. »
En janvier, un programme automatisé qui appelait les électeurs à l’aide d’une voix générée par l’IA du président Joe Biden a accru les inquiétudes concernant la désinformation massive permise par la nouvelle technologie au cours d’une année électorale.
Les autorités américaines ont ensuite interdit l'utilisation de ces voix « clonées », pour lutter contre la fraude politique ou commerciale.
Mais cela n’affecte pas Jennifer ni ses homologues utilisant la technologie Civox. Car ils ne prétendent pas être quelque chose – ou quelqu’un – ils ne le sont pas.
