OpenAI lance un chatpt pour adolescents avec des commandes parentales

Les adolescents qui discutent avec Chatgpt verront bientôt une version très différente de l'outil – celle construite avec des moyens plus strictes de les garder en sécurité en ligne, a annoncé Openai.

Les nouvelles garanties viennent alors que les régulateurs augmentent l'examen des chatbots et leur impact sur la santé mentale des jeunes.

En vertu du changement, toute personne identifiée comme moins de 18 ans sera automatiquement dirigée vers une version différente de Chatgpt conçue avec des règles de contenu « adaptées à l'âge », a indiqué la société dans un communiqué.

La version adolescente bloque le contenu sexuel et peut impliquer les forces de l'ordre dans de rares cas où un utilisateur est en détresse aiguë.

« La façon dont Chatgpt répond à un enfant de 15 ans devrait être différent de la façon dont il réagit à un adulte », a expliqué la société.

OpenAI prévoit également de déployer des commandes parentales d'ici la fin de septembre. Les parents pourront lier les comptes, afficher l'historique du chat et même définir des heures de panne pour limiter l'utilisation.

L'annonce fait suite à l'enquête de la Federal Trade Commission (FTC) sur les risques potentiels des chatbots d'IA pour les enfants et les adolescents.

En avril, Adam Raine, 16 ans, de Californie, est décédé par suicide; Sa famille a poursuivi Openai, affirmant que Chatgpt a joué un rôle dans sa mort, a rapporté CBS News.

Alors qu'Openai dit qu'il privilégie la sécurité, des questions restent sur la façon dont le système vérifiera l'âge d'un utilisateur. Si la plate-forme ne peut pas confirmer l'âge d'un utilisateur, elle sera par défaut à la version adolescente, a indiqué la société.

D'autres géants de la technologie ont annoncé des étapes similaires. YouTube, par exemple, a introduit une nouvelle technologie d'estimation de l'âge qui facilite l'historique des comptes et les habitudes de vision, a déclaré CBS News.

Les parents restent inquiets.

Un rapport du Pew Research Center publié plus tôt cette année a révélé que 44% des parents qui s'inquiètent de la santé mentale des adolescents pensent que les médias sociaux ont le plus gros impact négatif.