ChatGPT est sur le point de devenir érotique, mais OpenAI peut-il vraiment rester réservé aux adultes ?

OpenAI déploiera une nouvelle fonctionnalité ChatGPT en décembre 2025, permettant aux adultes vérifiés de générer des textes érotiques et de s'engager dans des conversations romantiques ou sexuelles. Les plateformes d'intelligence artificielle (IA) comme Replika et Grok le font déjà, mais l'entrée d'OpenAI marque un tournant.

L'entreprise définit cela comme « traiter les adultes comme des adultes ». Mais il s'agit d'une stratégie commerciale visant à inciter les utilisateurs à parler et à payer.

OpenAI a dépensé plus de 2,5 milliards de dollars (1,8 milliard de livres sterling) en espèces au premier semestre 2024. Le chat érotique promet ce dont les investisseurs ont le plus envie : l'engagement. La plateforme Grok d'Elon Musk facture 30 £ par mois pour les fonctionnalités de compagnon érotique.

OpenAI, comme d'autres entreprises technologiques, affirme qu'elle limitera le contenu érotique via des filtres de vérification de l'âge et de modération. En théorie, seuls les adultes vérifiés pourront accéder à ces modes.

En pratique, de tels systèmes sont facilement trompés. Les adolescents contournent régulièrement les barrières d’âge avec des pièces d’identité empruntées, des selfies manipulés ou des deepfakes. Ils peuvent télécharger des photos de personnes âgées, numériser des images imprimées ou utiliser des comptes jetables et des VPN pour échapper à la détection.

D’autres plateformes montrent ce qui peut mal tourner. Grok permet aux utilisateurs de créer des « avatars de compagnons érotiques », y compris un personnage d'anime sexualisé appelé Ani. Une enquête récente menée par le site d'information Business Insider a révélé que les conversations avec Ani dégénéraient souvent en échanges explicites après un minimum d'incitations.

Les employés de l'entreprise ont également été confrontés à des abus sexuels générés par l'IA alors qu'ils modéraient l'avatar coquette de Grok, qui peut se « déshabiller sur commande » et basculer entre les modes « sexy » et « dérangé ».

Intimité émotionnelle et risque adolescent

Les chatbots érotiques ne proposent pas seulement du contenu sexuel. Ils peuvent simuler des soins, de la chaleur et de l'attention. Cette attirance émotionnelle est puissante, surtout pour les jeunes.

Une étude récente menée par Internet Matters, une organisation caritative de sécurité en ligne, a révélé que 67 % des enfants âgés de neuf à 17 ans utilisent déjà des chatbots IA, et 35 % d'entre eux déclarent que c'est comme « parler à un ami ». Parmi les enfants vulnérables, 12 % déclarent n’avoir « personne d’autre » à qui parler, et 23 % ont recours à des chatbots pour obtenir des conseils personnalisés.

Ajouter des éléments érotiques à ce mélange risque d’aggraver la dépendance émotionnelle et de déformer la façon dont les adolescents comprennent l’intimité, le consentement et les relations. Les mêmes outils d'engagement qui maintiennent les adultes accros pourraient exploiter la solitude et le besoin de validation des jeunes utilisateurs.

Même si les fonctions érotiques sont techniquement réservées aux adultes, les grands modèles de langage peuvent être « jailbreakés », c'est-à-dire amenés à produire du contenu qu'ils ne sont pas censés produire. Cela utilise des invites superposées, un cadrage de jeu de rôle ou un langage codé pour remplacer les systèmes qui contrôlent ce que le chatbot est autorisé à dire à l'utilisateur.

Les utilisateurs ont déjà développé des moyens de contourner les filtres éthiques qui empêchent normalement les chatbots de produire du matériel explicite ou dangereux.

Le mode érotique d'OpenAI sera doté d'un alignement éthique spécial pour bloquer les thèmes illégaux ou abusifs. Mais ces protections sont susceptibles d’être aussi vulnérables aux jailbreaks que les autres. Une fois le matériel textuel généré, il peut facilement circuler en ligne, hors du contrôle de toute plateforme.

Zones grises

L’IA érotique révèle également de profondes lacunes dans la réglementation. Au Royaume-Uni, les œuvres érotiques écrites sont légales et ne sont pas soumises à une vérification de l’âge, contrairement aux images ou vidéos pornographiques. Cela crée une faille qui signifie que le contenu interdit sur les sites pour adultes peut toujours être généré sous forme de texte par un chatbot.

À l’échelle mondiale, les lois varient. Certains pays, comme la Chine et les États du Golfe, interdisent purement et simplement les contenus érotiques. D’autres s’appuient sur une application faible ou incohérente. La prochaine loi européenne sur l’IA pourrait classer les robots compagnons sexuels comme « à haut risque », mais la mise en œuvre de la loi reste encore loin.

Pendant ce temps, les entreprises peuvent modifier à volonté leurs « alignements éthiques », ce qui signifie que ce qui est interdit aujourd’hui pourrait être autorisé demain.

Malgré les affirmations de neutralité, l’IA érotique est tout sauf le cas. Certaines plateformes conçoivent majoritairement leurs compagnons comme étant codés par des femmes, soumis et toujours disponibles. Le résultat est un environnement numérique qui normalise la misogynie et les idées fausses sur le consentement, en particulier chez les garçons et les jeunes hommes.

Les femmes et les filles sont déjà les plus touchées par les violences sexuelles en ligne. Ils sont la cible de contrefaçons non consensuelles et d’abus basés sur l’image – des préjudices que l’IA érotique pourrait rendre plus faciles, plus rapides et moins chers à produire.

Pourtant, ces questions sont largement absentes des débats politiques dominants sur l’IA. L’IA érotique est construite de manière à privilégier les fantasmes masculins tout en mettant les femmes et les filles en danger. C'est enseigner à une génération de jeunes hommes des idées sur les femmes qui auraient dû disparaître depuis longtemps.

L'arrivée de compagnons érotiques d'IA semble être un changement significatif par rapport aux tentatives d'OpenAI de garder les informations potentiellement dangereuses hors de portée des utilisateurs de ChatGPT. L’environnement général de l’IA érotique est caractérisé par des barrières d’âge faibles, une vulnérabilité émotionnelle, des lacunes juridiques et des préjudices liés au genre. ChatGPT sera-t-il différent ?

Ces systèmes seront probablement jailbreakés. Ils peuvent être consultés par des personnes pour lesquelles ils n'ont pas été conçus, y compris des mineurs. Et ils produiront probablement du contenu qui teste ou dépasse les frontières juridiques.

Avant que les chatbots érotiques ne deviennent un autre coin non réglementé d’Internet, les gouvernements, les éducateurs et les technologues doivent agir. Une réglementation est nécessaire de toute urgence. D’ici là, l’IA érotique risque d’amplifier les préjudices existants en ligne, et les femmes, les filles et d’autres utilisateurs vulnérables en paieront le prix.