La FTC lance une enquête sur les chatbots d'IA agissant comme compagnons et leurs effets sur les enfants
La Federal Trade Commission a lancé une enquête sur plusieurs sociétés de médias sociaux et de renseignement artificiel sur les préjudices potentiels pour les enfants et les adolescents qui utilisent leurs chatbots d'IA comme compagnons.
La FTC a déclaré jeudi qu'elle avait envoyé des lettres à Google Parent Alphabet, Facebook et Instagram Parent Meta Plateformes, Snap, Character Technologies, Chatgpt Maker Openai et Xai.
La FTC a déclaré qu'elle voulait comprendre quelles étapes, le cas échéant, les entreprises ont pris pour évaluer la sécurité de leurs chatbots lorsqu'ils agissent en tant que compagnons, pour limiter l'utilisation des produits et les effets négatifs potentiels sur les enfants et les adolescents, et pour informer les utilisateurs et les parents des risques associés aux chatbots.
Cette décision intervient alors qu'un nombre croissant d'enfants utilisent des chatbots d'IA pour tout – de l'aide aux devoirs aux conseils personnels, au soutien émotionnel et à la prise de décision quotidienne. C'est malgré la recherche sur les méfaits des chatbots, qui se sont avérés donner aux enfants des conseils dangereux sur des sujets tels que les drogues, l'alcool et les troubles de l'alimentation. La mère d'un adolescent en Floride qui s'est suicidée après avoir développé ce qu'elle a décrit comme une relation émotionnellement et sexuellement abusive avec un chatbot a déposé une plainte pour mort injustifiée contre le caractère. Et les parents d'Adam Raine, 16 ans, ont récemment poursuivi Openai et son PDG Sam Altman, alléguant que Chatgpt a entraîné le garçon de Californie dans la planification et la suivi de sa vie plus tôt cette année.
Personnage.ai a déclaré qu'il était impatient de « collaborer avec la FTC sur cette enquête et de fournir un aperçu de l'industrie de l'IA des consommateurs et de la technologie en évolution rapide de l'espace ».
« Nous avons investi une énorme quantité de ressources en fiducie et en sécurité, en particulier pour une startup. Au cours de la dernière année, nous avons déployé de nombreuses caractéristiques de sécurité substantielles, y compris une toute nouvelle expérience des moins de 18 ans et une fonctionnalité de perspectives parentales », a indiqué la société. « Nous avons des avertissements importants dans chaque chat pour rappeler aux utilisateurs qu'un personnage n'est pas une vraie personne et que tout ce qu'un personnage dit devrait être traité comme une fiction. »
Meta a refusé de commenter l'enquête et Alphabet, Snap, Openai et X.ai n'ont pas immédiatement répondu aux messages pour commenter.
Openai et Meta plus tôt ce mois-ci ont annoncé des modifications à la façon dont leurs chatbots réagissent aux adolescents posant des questions sur le suicide ou montrant des signes de détresse mentale et émotionnelle. Openai a déclaré qu'il déploie de nouveaux contrôles permettant aux parents de relier leurs comptes au compte de leur adolescent.
Les parents peuvent choisir les fonctionnalités à désactiver et « recevoir des notifications lorsque le système détecte que leur adolescent est dans un moment de détresse aiguë », selon un article de blog de l'entreprise qui indique que les changements entreront en vigueur cet automne.
Quel que soit l'âge d'un utilisateur, la société affirme que ses chatbots tenteront de rediriger les conversations les plus pénibles sur des modèles d'IA plus capables qui peuvent fournir une meilleure réponse.
Meta a également déclaré qu'elle empêchait maintenant ses chatbots de parler avec les adolescents de l'automutilation, du suicide, de l'alimentation désordonnée et des conversations romantiques inappropriées, et les dirige plutôt vers des ressources expertes. Meta propose déjà des contrôles parentaux sur les comptes des adolescents.
