OpenAI pour alléger les restrictions de ChatGPT, autorisant le contenu adulte pour les adultes vérifiés
OpenAI a annoncé mardi son intention d'assouplir les restrictions sur son chatbot ChatGPT, notamment en autorisant le contenu érotique pour les utilisateurs adultes vérifiés dans le cadre de ce que la société appelle le principe de « traiter les utilisateurs adultes comme des adultes ».
Dans un article sur X, le PDG Sam Altman a déclaré que des garde-fous plus stricts sur l'IA conversationnelle pour répondre aux problèmes de santé mentale avaient rendu son chatbot « moins utile/agréable pour de nombreux utilisateurs qui n'avaient aucun problème de santé mentale ».
Les contrôles de sécurité plus stricts sont intervenus après le suicide de l'adolescent californien Adam Raine plus tôt cette année, ses parents ayant intenté une action en justice affirmant que ChatGPT lui avait fourni des conseils spécifiques sur la façon de se suicider.
La Federal Trade Commission des États-Unis a également lancé une enquête sur plusieurs entreprises technologiques, dont OpenAI, sur la manière dont les chatbots IA pourraient affecter négativement les enfants et les adolescents.
« Compte tenu de la gravité du problème, nous voulions résoudre les problèmes », a déclaré Altman mardi, affirmant que les nouveaux outils de sécurité d'OpenAI permettent désormais à l'entreprise d'assouplir les restrictions tout en s'attaquant aux risques graves pour la santé mentale.
Le plan d'OpenAI comprend la publication d'une version mise à jour de ChatGPT qui permettra aux utilisateurs de personnaliser la personnalité de leur assistant IA, y compris des options pour des réponses plus humaines, une utilisation intensive d'emojis ou un comportement semblable à celui d'un ami.
Le changement le plus important interviendra en décembre, lorsque OpenAI prévoit de déployer une limitation d'âge plus complète qui permettrait le contenu érotique pour les adultes vérifiés.
OpenAI n'a pas immédiatement fourni de détails sur ses méthodes de vérification de l'âge ni sur les garanties supplémentaires prévues pour le contenu réservé aux adultes.
La société a lancé en septembre une expérience ChatGPT dédiée aux utilisateurs de moins de 18 ans, avec redirection automatique vers un contenu adapté à l'âge qui bloque le contenu graphique et sexuel.
Il a également déclaré qu'il développait une technologie de prédiction de l'âge basée sur le comportement qui estime si un utilisateur a plus ou moins de 18 ans en fonction de la manière dont il interagit avec ChatGPT.
