Le candidat au Congrès devient le premier au monde à utiliser un robot IA pour appeler les électeurs

La candidate au Congrès de Pennsylvanie, Shamaine Daniels, a un nouveau membre du personnel de campagne nommé Ashley qui a passé des milliers d’appels aux électeurs.

Il y a un problème : Ashley n’est pas une vraie personne.

Ashley est un personnage d’intelligence artificielle, et les entreprises qui l’ont développée affirment que la campagne de Daniels est la première au monde à utiliser des appels de campagne interactifs basés sur l’IA et personnalisés pour chaque destinataire.

Les créateurs du robot affirment qu’ils proposeront bientôt la technologie à davantage de candidats politiques, une décision qui pourrait bouleverser les campagnes électorales en rationalisant la sensibilisation des électeurs, mais susciterait également des inquiétudes quant au potentiel de problèmes éthiques et de désinformation.

Daniels, démocrate et membre du conseil municipal de Harrisburg pour trois mandats, a déclaré que l’outil d’IA permet aux candidats qui ne reçoivent pas de dons importants de sensibiliser plus facilement les électeurs.

« Cela rend l’accès aux électeurs beaucoup plus abordable », a-t-elle déclaré. « Cela vous permet également de communiquer avec les électeurs beaucoup plus tôt dans le processus, lorsque vous élaborez vos politiques et que vous réfléchissez aux problèmes. »

Mais utiliser l’IA pour contacter les électeurs est « une arme vraiment à double tranchant », a déclaré l’expert en IA Wasim Khaled, PDG et co-fondateur de Blackbird.AI, qui aide les entreprises à se protéger de l’intelligence artificielle.

Daniels est l’un des nombreux candidats démocrates aux primaires espérant renverser le représentant américain Scott Perry, qui représente le 10e district de Pennsylvanie centrale, en 2024. Perry, leader du Freedom Caucus conservateur et allié de longue date de l’ancien président Donald Trump, cherche un septième terme. Daniels a remporté l’investiture démocrate mais a perdu les élections générales contre Perry en 2022.

Recevoir des appels de campagne d’un robot

Après des semaines de tests, la campagne de Daniels a commencé à appeler par IA les électeurs démocrates probables des primaires le week-end dernier, a déclaré son porte-parole Joe Bachman.

Ashley a déjà passé des milliers d’appels, selon Ilya Mouzykantskii, cofondateur de Civox, qui a réalisé l’outil en partenariat avec Conversation Labs.

Le robot peut répondre aux questions sur la plateforme de Daniels. Il parle plusieurs langues et révèle qu’il s’agit d’un outil d’IA et que l’appel est enregistré. Les appels peuvent aider à recruter des bénévoles et à obtenir des dons et des commentaires qui peuvent orienter les messages de la campagne.

Si Ashley n’a pas la réponse à une question, cela donne la possibilité à une personne réelle de la contacter, selon Daniels.

Le personnel de campagne de Daniels peut accéder aux transcriptions des conversations pour identifier les thèmes communs, a déclaré Bachman, et peut lire les conversations et contacter ensuite l’électeur.

Mouzykantskii a déclaré qu’il espérait bientôt prendre davantage de candidats démocrates et progressistes comme clients.

« À l’heure actuelle, nous avons bien plus de demande que d’offre », a déclaré Mouzykantskii.

Ashley a été développée spécifiquement pour la campagne de Daniels, et les autres campagnes auront leurs propres personnages.

Alors que Daniels et les sociétés qui ont créé Ashley ont souligné le prix abordable de la technologie, ni l’un ni l’autre n’a voulu divulguer le coût de l’outil.

« Nous sommes nettement moins chers que les banquiers téléphoniques payés par des humains et nous sommes plus chers que les appels automatisés stupides », a déclaré Mouzykantskii.

Préoccupations concernant l’utilisation de l’IA comme outil de campagne

Daniels a déclaré qu’elle et Civox souhaitaient tous deux utiliser l’IA « comme un outil de démocratisation plutôt qu’un outil de désinformation ou un outil pour d’autres raisons néfastes ».

Les erreurs sont inévitables, mais Ashley garde une trace des raisons pour lesquelles chaque décision a été prise tout au long de ses conversations pour aider les développeurs à comprendre les incidents, a déclaré Mouzykantskii.

Des outils comme Ashley apprennent et s’améliorent au fur et à mesure de leur utilisation. Et à mesure que la technologie de l’IA se développe rapidement, les réglementations sont à la traîne, ce qui suscite des inquiétudes concernant la désinformation et la confidentialité.

Daniels a reconnu les dangers potentiels de l’intelligence artificielle.

« Nous devons nous assurer que nous promouvons une utilisation responsable car, que je l’utilise ou que quelqu’un d’autre l’utilise, la technologie est là, elle va être largement utilisée, et nous pouvons soit attendre que mon membre du Congrès Scott Perry développe des cadres éthiques. pour traiter de l’IA ou nous pouvons aller de l’avant et le faire nous-mêmes », a-t-elle déclaré, « et, espérons-le, nous assurer que les électeurs commencent à se familiariser avec la technologie afin de ne pas en profiter. »

Khaled, de Blackbird.AI, a déclaré que la technologie a de la valeur si elle est utilisée par de bons acteurs, mais qu’elle présente également un grand potentiel de préjudice.

Même lorsque les développeurs forment le modèle sur ce dont il faut parler ou éviter, il est impossible de penser à tous les cas qui pourraient survenir et d’être à l’abri des groupes de pirates informatiques qui veulent donner une mauvaise image d’une campagne, a déclaré Khaled.

Khaled a déclaré qu’il est important que les gens gardent à l’esprit que l’IA donne « la réponse la plus probable à la séquence de mots que vous lui avez donnée », c’est-à-dire qu’elle est « probablement à peu près correcte ». Il ne raisonne pas et ne réfléchit pas, comme le fait le remplissage automatique de Google qui devine le reste de votre recherche lorsque vous commencez à taper, a-t-il déclaré.

« Il y a tout simplement un énorme potentiel pour que ce genre de choses se trompent parce que tout évolue si vite », a déclaré Khaled. « Et il y a actuellement une course aux armements pour que les campagnes dépensent de l’argent afin d’obtenir la plus grande visibilité possible pour leurs candidats. »