Character.AI vient de montrer à ChatGPT la manière d'aborder le problème de l'IA et des mineurs

Le suicide d’un adolescent et d’autres cas de délires ont mis les chatbots IA sur le devant de la scène pour leurs effets sur la santé mentale, notamment celle des plus jeunes. ChatGPT a déjà mis en place des contrôles parentaux en réponse à cette préoccupation croissante et il y a quelques jours, ils ont admis être conscients que ChatGPT causait de graves problèmes de santé mentale à certains utilisateurs. . Désormais, Character.ai, l'un des chatbots également au centre de la polémique, a pris une décision drastique.

+18. Les États-Unis ont déjà légiféré pour réglementer l'utilisation de ce qu'on appelle les « compagnons IA » chez les mineurs et Character.ai a pris une mesure plus drastique que le contrôle parental. Comme indiqué dans TechCrunch, à partir du 25 novembre, l'application commencera à limiter la durée d'utilisation à deux heures pour les moins de 18 ans. Petit à petit, cette durée sera réduite jusqu'à zéro.

Vérification de l'âge. Pour garantir que les moins de 18 ans ne puissent plus utiliser l'application, Character.ai va déployer un système de vérification de l'âge qui analyse le comportement des utilisateurs. En cas d'échec, l'application utilisera une vérification d'identité supplémentaire et une reconnaissance faciale pour bloquer les utilisateurs qui n'ont pas l'âge légal.

ChatGPT, échauffez-vous en sortant. OpenAI a récemment pris des mesures pour prévenir des cas comme Adam Raine, principalement en intégrant le contrôle parental dans ChatGPT. Cette mesure contraste avec les déclarations d'Altman quelques jours plus tard, lorsqu'il déclarait que ChatGPT nous permettrait d'avoir des conversations à contenu érotique, mais uniquement pour les adultes. Altman a déclaré que l'application nécessiterait une vérification de l'âge pour toute personne souhaitant l'utiliser, mais il n'a rien dit sur la possibilité de la bloquer complètement aux mineurs comme l'a fait Character.ai.

Une balle dans le pied ? Faire de ChatGPT une application pour les personnes de plus de 18 ans serait une mesure forte pour mettre fin au problème ou, du moins, se conformer à ce que demandent les premières lois qui veulent réglementer les « compagnons IA ». Cependant, cela pourrait être un coup dans le pied car cela leur ferait perdre de nombreux utilisateurs, ce qu’ils ne peuvent pas se permettre dans le climat actuel.

OpenAI a récemment publié un rapport détaillé sur ses utilisateurs, mais n'a pas partagé de données sur les utilisateurs de moins de 18 ans, disent-ils, pour des raisons de confidentialité. Nous savons que près de la moitié (46 %) de leur base d’utilisateurs totale a entre 18 et 26 ans. Autrement dit, une grande partie d’entre eux sont de très jeunes utilisateurs.

Mineurs et IA. OpenAI ne veut pas nous dire combien de mineurs utilisent son chatbot, mais grâce à d'autres études nous savons que l'utilisation de l'IA générative est très populaire parmi cette tranche d'âge. Selon une étude de Plan International, en Espagne, 86 % des jeunes entre 12 et 21 ans ont récemment utilisé l'IA. A leur tour, 18 % des filles et 12 % des garçons avouent l'utiliser « pour parler et raconter leurs affaires ».

Images | Caractère.ai, Pexels

À Simseo | Le grand paradoxe des téléphones portables à l'adolescence : ils sont mauvais pour les performances et la santé mentale, mais les interdire à l'école n'aide pas