OpenAI suspend le chatbot érotique : risques et stratégie
OpenAI a décidé de suspendre « indéfiniment » le développement d’un chatbot érotique, recentrant ses ressources sur ses principaux produits. Cette décision intervient dans un contexte d’inquiétudes internes et externes croissantes concernant les effets du contenu sexualisé généré par l’IA.
La startup dirigée par Sam Altman avait déjà reporté le lancement du soi-disant « mode adulte », tandis qu’en interne, il y avait même des discussions sur la possibilité d’annuler complètement le projet.
Préoccupations : dépendance affective et mineurs
Le chatbot érotique a suscité de vives critiques, notamment pour le risque de favoriser des relations émotionnelles malsaines entre les utilisateurs et les systèmes d’IA. Un autre enjeu crucial concerne l’exposition des mineurs à des contenus sexuellement explicites.
OpenAI a confirmé que le projet reste en attente sans date de sortie. L’entreprise a souligné la nécessité de mener des recherches à long terme sur les effets psychologiques et sociaux de ces technologies, admettant le manque de preuves empiriques solides.
Stratégie : moins de « quêtes annexes », plus de productivité
Cette décision représente une nouvelle étape dans la stratégie d’OpenAI visant à abandonner ce que l’on appellequête secondaire», c’est-à-dire des projets parallèles, pour se concentrer sur des outils à haute productivité.
L’objectif est d’intégrer des solutions telles que les assistants de codage et ChatGPT dans une seule « super application ». Le choix de réduire la taille du projet vidéo Sora et de l’application sociale associée va également dans ce sens.
Pressions juridiques et précédents dans le secteur
Le contexte concurrentiel et réglementaire a rendu le projet encore plus délicat. Des entreprises comme Meta subissent déjà des pressions juridiques concernant l’impact de leurs produits sur les mineurs.
Dans le même temps, la société xAI d’Elon Musk tentait d’attirer les utilisateurs avec du contenu pour adultes, mais se heurtait à un problème. contrecoup mondiale lorsque le modèle Grok a généré de fausses images sexuelles de personnes réelles, y compris de mineures.
Des doutes parmi les investisseurs et les salariés
Selon des sources proches du dossier, certains investisseurs d’OpenAI ont exprimé leurs inquiétudes quant aux risques de réputation du projet, estimant que le retour économique potentiel est limité.
Des tensions sont également apparues au sein de l’entreprise. Plusieurs employés ont émis des doutes quant à la cohérence d’un produit basé sur les relations amoureuses avec la mission initiale d’OpenAI : développer des technologies qui profitent à l’humanité.
« L’IA ne doit pas remplacer les amis ou la famille », a déclaré un ancien cadre, expliquant qu’il était également parti pour cette raison.
Les défis techniques de l’IA érotique
Outre les aspects éthiques, le projet s’est heurté à d’importants obstacles techniques. Les modèles d’OpenAI, conçus pour éviter les contenus sensibles, sont difficiles à recycler pour générer du matériel explicite.
L’utilisation d’ensembles de données contenant du contenu sexuel entraîne des complexités supplémentaires, telles que la nécessité de filtrer les pratiques illégales ou inappropriées, notamment l’inceste ou la bestialité.
Vérification de l’âge et risque d’erreur
Les codes internes suggèrent que le mode adulte, appelé «Modes citronnées», aurait nécessité une vérification de l’âge pour y accéder.
Ces derniers mois, OpenAI a introduit un système d’estimation de l’âge des utilisateurs, en partie en réponse aux poursuites intentées par des familles d’adolescents. Le système aurait cependant une marge d’erreur de plus de 10 %, alimentant les craintes quant à l’accès des mineurs.
La société affirme que la technologie est conforme aux normes de l’industrie et qu’elle continuera à améliorer sa précision et sa fiabilité.
