OpenAI interdit aux robots usurpant l’identité d’un candidat à la présidentielle américaine
Le créateur de ChatGPT, OpenAI, a supprimé un robot se faisant passer pour la voix d’un candidat à la présidentielle américaine, imposant ainsi des limites à la manière dont les campagnes politiques peuvent utiliser ses capacités d’IA.
Un groupe politique soutenant le député américain Dean Phillips avait demandé à une startup basée à Miami de créer un chatbot qui permettrait aux utilisateurs de participer à une séance de questions-réponses avec le candidat peu connu.
« Nous avons récemment supprimé un compte de développeur qui violait sciemment nos politiques d’utilisation de l’API (ou de la plateforme) qui interdisent les campagnes politiques ou usurpaient l’identité d’un individu sans consentement », a déclaré samedi Open AI au Washington Post, qui a été le premier à rapporter l’histoire.
L’essor de l’IA générative a fait craindre que les gens puissent utiliser ChatGPT et d’autres plateformes pour semer le chaos politique via la désinformation ou les clones de l’IA, en particulier avec un certain nombre d’élections majeures qui se tiendront cette année dans le monde entier.
En tant que leader dans le domaine, OpenAI fait l’objet d’une surveillance particulièrement étroite concernant ces préoccupations et la société a déclaré la semaine dernière qu’elle fournirait aux utilisateurs des outils pour réduire les risques de dommages causés par sa technologie.
Le « Dean-bot » était destiné à être un outil d’information dans la campagne primaire démocrate du candidat contre le président Joe Biden.
Il s’appuyait sur la technologie OpenAI, et la société soutenue par Microsoft a rapidement décidé de le supprimer après qu’un article du Washington Post ait fourni un lien pour le tester.
Le groupe politique derrière le robot, We Deserve Better, est co-dirigé par un ancien membre du PDG d’OpenAI, Sam Altman, et a reçu un financement d’investisseurs de la Silicon Valley, a rapporté le Post.
Après le rapport, Delphi, la startup engagée pour créer le bot, a été exclue de la plateforme OpenAI.
Delphi crée des robots capables d’imiter la voix de personnalités telles que des influenceurs ou des célébrités, et s’appuie sur les modèles d’IA d’OpenAI pour fonctionner.
Après la controverse, il a déclaré qu’il « interdirait désormais toute utilisation de notre plateforme par des organisations ou des individus politiques ».
« Nous pensions, à tort, qu’il serait acceptable, selon les conditions de service d’OpenAI, qu’un comité d’action politique soutenant Dean Phillips crée un clone de lui en utilisant notre plateforme », a déclaré Delphi dimanche sur X.
« Nous avons présenté nos excuses à OpenAI et à We Deserve Better pour notre erreur », a ajouté la startup.
