Le régulateur américain sonde les chatbots AI sur les problèmes de sécurité des enfants
La Federal Trade Commission américaine a annoncé jeudi qu'elle avait lancé une enquête sur les chatbots d'IA qui agissent en tant que compagnons numériques, en se concentrant sur les risques potentiels pour les enfants et les adolescents.
L'Agence de protection des consommateurs a envoyé des ordonnances à sept sociétés, y compris les géants de la technologie Alphabet, Meta, OpenAI et SNAP – recherchez des informations sur la façon dont elles surveillent et traitent les impacts négatifs des chatbots conçus pour simuler les relations humaines.
« La protection des enfants en ligne est une priorité absolue pour la FTC », a déclaré le président Andrew Ferguson, mettant l'accent sur la nécessité d'équilibrer la sécurité des enfants en maintenant le leadership américain dans l'innovation de l'intelligence artificielle.
L'enquête cible les chatbots qui utilisent une IA générative pour imiter la communication et les émotions humaines, se présentant souvent comme des amis ou des confidents aux utilisateurs.
Les régulateurs ont exprimé une préoccupation particulière que les enfants et les adolescents peuvent être particulièrement vulnérables à la formation de relations avec ces systèmes d'IA.
La FTC utilise ses larges pouvoirs d'investigation pour examiner comment les entreprises monétisent l'engagement des utilisateurs, développent des personnalités de chatbot et mesurent les dommages potentiels.
L'agence souhaite également savoir quelles mesures les entreprises prennent pour limiter l'accès des enfants et se conformer aux lois existantes en matière de protection de la vie privée en ligne.
Les entreprises qui reçoivent des commandes comprennent le personnage.ai, le Xai Corp d'Elon Musk et d'autres exploitent des chatbots d'IA orientés vers les consommateurs.
L'enquête examinera comment ces plateformes gèrent les informations personnelles des conversations utilisateur et appliquent les restrictions d'âge.
La Commission a voté à l'unanimité pour lancer l'étude, qui n'a pas d'objectif spécifique d'application de la loi mais pourrait éclairer les futures mesures réglementaires.
La sonde est disponible lorsque les chatbots de l'IA sont devenus de plus en plus sophistiqués et populaires, ce qui soulève des questions sur leur impact psychologique sur les utilisateurs vulnérables, en particulier les jeunes.
Le mois dernier, les parents d'Adam Raine, un adolescent qui s'est suicidé en avril à 16 ans, a déposé une plainte contre Openai, accusant Chatgpt d'avoir donné à leur fils des instructions détaillées sur la façon de réaliser l'acte.
Peu de temps après le procès, Openai a annoncé qu'il travaillait sur des mesures correctives pour son chatbot de pointe.
La société basée à San Francisco a déclaré qu'elle avait notamment observé que lorsque les échanges avec Chatgpt sont prolongés, le chatbot ne suggère plus systématiquement de contacter un service de santé mentale si l'utilisateur mentionne avoir des pensées suicidaires.
