Le sexe est un marché important pour l’industrie de l’IA. ChatGPT ne sera pas le premier à tenter d'en profiter

ChatGPT pourra avoir des conversations plus coquines après que le PDG d'OpenAI, Sam Altman, a annoncé que la société d'intelligence artificielle autoriserait bientôt son chatbot à se livrer à « l'érotisme pour adultes vérifiés ».

OpenAI ne sera pas le premier à tenter de profiter de l’IA sexualisée. Le contenu sexuel a été l’un des principaux attraits des outils d’IA presque dès que le boom des images et des mots générés par l’IA a éclaté en 2022.

Mais les entreprises qui ont été les premières à adopter une IA mature ont également été confrontées à des champs de mines juridiques et sociétaux et à des abus nuisibles, alors qu’un nombre croissant de personnes se sont tournées vers la technologie pour se joindre ou se titiller.

Un ChatGPT plus sexy sera-t-il différent ? Après trois ans d'interdiction en grande partie des contenus réservés aux adultes, Altman a déclaré mercredi que sa société n'était « pas la police morale élue du monde » et qu'elle était prête à permettre « plus de liberté d'utilisation pour les adultes » tout en fixant de nouvelles limites pour les adolescents.

« De la même manière que la société différencie d'autres frontières appropriées (les films classés R, par exemple), nous voulons faire la même chose ici », a écrit Altman sur la plateforme de médias sociaux X, dont le propriétaire, Elon Musk, a également introduit un personnage animé doté d'une IA qui flirte avec les abonnés payants.

Pour l'instant, contrairement au chatbot Grok de Musk, les abonnements payants à ChatGPT sont principalement destinés à un usage professionnel. Mais laisser le chatbot devenir un ami ou un partenaire romantique pourrait être un autre moyen pour la start-up la plus valorisée au monde, qui perd plus d'argent qu'elle n'en gagne, de réaliser un bénéfice qui pourrait justifier sa valorisation de 500 milliards de dollars.

« Ils ne gagnent pas vraiment beaucoup grâce aux abonnements, donc avoir du contenu érotique leur rapportera rapidement de l'argent », a déclaré Zilan Qian, chercheur au China Policy Lab de l'Université d'Oxford, qui a étudié la popularité des chatbots basés sur les rencontres aux États-Unis et en Chine.

Il existe déjà environ 29 millions d'utilisateurs actifs de chatbots IA conçus spécifiquement pour les liens romantiques ou sexuels, et cela sans compter les personnes qui utilisent les chatbots conventionnels de cette manière, selon une étude publiée par Qian plus tôt ce mois-ci.

Cela n'inclut pas non plus les utilisateurs de Character.AI, qui mène une action en justice alléguant qu'un chatbot inspiré du personnage de « Game of Thrones », Daenerys Targaryen, a noué une relation sexuellement abusive avec un garçon de 14 ans et l'a poussé à se suicider. OpenAI fait face à un procès de la famille d'un utilisateur de ChatGPT âgé de 16 ans, décédé par suicide en avril.

Qian a déclaré qu'elle s'inquiétait des conséquences sur les relations dans le monde réel lorsque les chatbots grand public, déjà enclins à la flagornerie, sont prêts à être disponibles 24 heures sur 24 pour diffuser du contenu sexuellement explicite.

« ChatGPT propose des versions de chat vocal. Je m'attendrais à ce qu'à l'avenir, s'ils devaient suivre cette voie (voix, texte, visuel), tout soit là », a-t-elle déclaré.

Les humains qui tombent amoureux de machines ressemblant à des humains font depuis longtemps l’objet d’un récit édifiant, depuis la science-fiction populaire du siècle dernier jusqu’à l’ancienne légende grecque de Pygmalion, obsédé par une femme qu’il a sculptée dans l’ivoire. Créer une telle machine semble être un détour inhabituel pour OpenAI, fondée il y a dix ans en tant qu'organisation à but non lucratif dédiée à la construction en toute sécurité d'une IA meilleure que l'humain.

Altman a déclaré dans un podcast en août qu'OpenAI avait tenté de résister à la tentation d'introduire des produits qui pourraient « stimuler la croissance ou les revenus », mais qui seraient « très mal alignés » avec sa mission à long terme. Lorsqu'on lui a demandé un exemple précis, il en a donné un : « Eh bien, nous n'avons pas encore mis d'avatar de sexbot dans ChatGPT. »

La startup Civitai, basée dans l'Idaho, une plate-forme pour l'art généré par l'IA, a appris à ses dépens que gagner de l'argent grâce à une IA mature ne serait pas un chemin facile.

« Lorsque nous avons lancé le site, c'était un choix intentionnel d'autoriser le contenu réservé aux adultes », a déclaré Justin Maier, co-fondateur et PDG de l'entreprise, dans une interview l'année dernière.

Soutenue par l'éminente société de capital-risque Andreessen Horowitz, qui a également investi dans OpenAI, la startup de l'Idaho a été l'une des nombreuses à avoir tenté de capitaliser sur la popularité soudaine d'outils comme Stable Diffusion et Midjourney, qui permettaient aux gens de saisir une description et d'évoquer presque n'importe quel type d'image. Une partie de la popularité initiale de Stable Diffusion était la facilité avec laquelle elle pouvait générer un nouveau type de pornographie synthétique et hautement personnalisée.

« Ce que nous avons constaté, c'est qu'il y avait beaucoup d'intérêt pour les contenus réservés aux adultes », a déclaré Maier. La formation de ces systèmes d'IA, appelés modèles, sur « des thèmes matures a en fait permis à ces modèles d'être plus capables de comprendre l'anatomie humaine et d'aboutir à des modèles réellement meilleurs », a-t-il déclaré.

« Nous ne voulions pas empêcher le type de croissance qui a en fait tout augmenté pour l'ensemble de la communauté, que vous soyez intéressé par le contenu adulte ou par Pixar », a déclaré Maier. « Nous l'avons donc autorisé dès le début et avons toujours eu cette bataille pour que nous puissions garder les choses filtrées et sécurisées, si ce n'est pas ce qui vous intéresse. Nous voulions finalement donner le contrôle à l'utilisateur pour décider de ce qu'il verrait sur le site et quelle serait son expérience. « 

Cela incitait également aux abus. Civitai a mis en œuvre l'année dernière de nouvelles mesures pour détecter et supprimer les images sexuelles représentant des enfants, mais l'entreprise reste une plaque tournante de la pornographie générée par l'IA, y compris de fausses images de célébrités. Face à la pression croissante, notamment de la part des processeurs de cartes de crédit et à une nouvelle loi contre les images non consensuelles signée par le président Donald Trump, Civitai a empêché plus tôt cette année les utilisateurs de créer de fausses images de personnes réelles. L'engagement a chuté.

Nomi.ai, basée à Baltimore, est une autre entreprise qui n'a pas hésité à utiliser du contenu pour adultes, bien que son fondateur et PDG, Alex Cardinell, ait déclaré que ses chatbots compagnons sont « strictement » destinés aux utilisateurs de plus de 18 ans et n'ont jamais été commercialisés auprès des enfants. Ils ne sont pas non plus conçus pour le sexe, bien que Cardinell ait déclaré dans une interview plus tôt cette année que les personnes qui construisent des relations platoniques avec leur chatbot pourraient trouver que cela vire au romantisme.

« Cela dépend en quelque sorte de l'utilisateur car il manque en quelque sorte le fossé humain dans sa vie. Et je pense que c'est différent pour tout le monde », a-t-il déclaré.

Il a refusé de deviner combien d'utilisateurs de Nomi ont des conversations érotiques avec le chatbot, le comparant à des partenaires réels qui pourraient faire des « choses de contenu pour adultes » pendant une partie de leur vie, mais « toutes sortes d'autres choses ensemble également ».

« Nous ne surveillons pas les conversations des utilisateurs de cette manière », a déclaré Cardinell.

L'annonce d'Altman selon laquelle l'érotisme pour adultes pourrait arriver sur ChatGPT en décembre est intervenue un jour après que le gouverneur de Californie, Gavin Newsom, a opposé son veto à une législation qui aurait interdit aux entreprises de mettre des chatbots IA à la disposition de toute personne de moins de 18 ans s'il était « prévisible » qu'ils s'engageraient dans des « interactions érotiques ou sexuellement explicites » avec des enfants ou les encourageraient à se faire du mal. L'industrie technologique a fait pression contre le projet de loi, que Newsom a jugé trop large, mais OpenAI, Meta et d'autres ont introduit de nouvelles restrictions d'âge et un contrôle parental pour les interactions entre l'IA et les adolescents.