Il est obsolète et ne fonctionne pas si vous n'avez pas accès à la caméra
L'Organisation mondiale de la santé (OMS) possède son propre chatbot conversationnel. L'organisme dépendant des Nations Unies Plus tôt ce mois-ci, elle a lancé SARAH, une « défenseure de la santé numérique » disponible 24h/24 et 7j/7 en huit langues.
« Utilisez l'IA générative pour vous aider à mener une vie plus saine », déclare l'OMS sur la page de présentation de sa plus récente innovation numérique. Cependant, comme le rapporte Bloomberg, nous sommes confrontés à un prototype obsolète qui, parfois, peut finir par halluciner.
SARAH, le chatbot IA de l'OMS
La mission de SARAH est d'offrir des conseils et des informations sur un large éventail de problèmes de santé. On peut lui demander comment gérer le stress ou comment mieux manger. Dans ce dernier cas, nous avons également la possibilité d'ajouter du contexte pour recevoir une réponse plus précise.
Sur la page du chatbot, on peut lire qu'il a été formé « avec les dernières informations de l'Organisation mondiale de la santé et de partenaires de confiance ». Cependant, ci-dessous et en petits caractères, l'OMS note que ses réponses ne représentent pas son point de vue.
Certes, se fier à ce que dit un chatbot IA n’est pas une bonne idée, encore plus lorsqu’il s’agit de problèmes de santé. Dans l'état actuel de la technologie, ces solutions basé sur des algorithmes Ils ont tendance à avoir des hallucinations, même après avoir reçu une formation de qualité.
Mais la vérité est que SARAH ne semble pas être aussi mise à jour que promis. Le média américain précité souligne que l'outil est basé sur ChatGPT-3.5 et que ses données de formation atteignent septembre 2021.
Cela signifie que le chatbot ne dispose pas d'informations récentes sur les avertissements médicaux ou événements importants récents. Lors de nos tests, nous avons pu le vérifier. Nous vous avons demandé quand la fin de l’urgence sanitaire liée au COVID-19 a été déclarée.
Pour SARAH, la fin de l’urgence sanitaire n’est pas encore déclarée, bien qu’elle soit intervenue le 5 mai 2023. Nous l’avons également interrogé sur les décès dus aux accidents de la circulation au cours de l’année dernière. Le chatbot nous a livré ses statistiques, mais sa connaissance indique que la dernière année était 2020.
Au niveau de la confidentialité, cette solution développée par Digital People Soul Machines Limited promet de maintenir chaque visite de manière anonymeCependant, des données aléatoires non liées à une adresse IP sont collectées. Un compte n’est pas non plus requis pour utiliser le service.
Fait intéressant, SARAH oblige les utilisateurs à accorder l’autorisation à la caméra et au microphone pour fonctionner. Bien que l’accès à ces ressources soit lié à une « amélioration de l’expérience de conversation », il pourrait se faire uniquement par le biais du texte.
En ce sens, à une époque où nous valorisons de plus en plus la confidentialité et les autorisations que nous accordons, il serait idéal avoir la possibilité de choisir si nous voulons permettre au microphone et à la caméra de converser naturellement par la voix avec le chatbot AI.
L'OMS vise à créer une expérience de pointe, c'est pourquoi le système est également alimenté par les expressions faciales des utilisateurs (c'est pourquoi il demande l'accès à la caméra). Les vidéos, selon l'organisation, sont supprimées au bout de 30 secondes.
Comme on dit, c'est un projet en plein développement. En fait, l’OMS elle-même se dit ouverte à recevoir des commentaires sur le fonctionnement de SARAH. Les utilisateurs peuvent trouver un bouton dédié à cet effet dans le coin supérieur gauche.
Le projet cherche à explorer les avantages de l’IA pour la santé publique, ainsi qu’à comprendre ses défis. AI, reflète l'OMS, « soulève d’importantes préoccupations éthiquestels que l’égalité d’accès, la confidentialité, la sécurité et l’exactitude, la protection des données et les préjugés.
Images | OMS
À Simseo | Les entreprises des États-Unis et de Chine s’associent pour une bonne raison : créer la première norme mondiale pour l’IA générative.
