ChatGPT et confidentialité : quand les conversations peuvent être lues

Les conversations que nous avons avec ChatGPT peuvent être lues par les humains. Pas tous, bien sûr, et pas de quelqu’un qui observe ce que nous écrivons en direct. Mais une partie des conversations des utilisateurs peut entrer dans les processus par lesquels OpenAI forme, évalue et améliore ses modèles et, au sein de ces processus, également être soumise à des examinateurs humains.

C’est un aspect que peu de gens connaissent et qui ressort désormais de l’enquête publiée le 14 septembre par 404 Media, basée sur des documents internes, des modes d’emploi, des chaînes Slack et des invites réelles que le journal prétend avoir consulté. Le projet porterait le nom de code «Projet Lily« .

La découverte est importante avant tout pour une raison : l’interface d’un chatbot amène facilement à percevoir la conversation comme un échange privé entre une personne et une machine. Mais derrière le fonctionnement et surtout derrière l’amélioration de cette machine, il y a encore du travail humain.

Projet Lily : ce que les critiques auraient vu

Selon l’enquête de 404 Media, OpenAI fait appel à des centaines de sous-traitants pour examiner les invites de conversations réelles et évaluer les réponses produites par les modèles.

Le processus décrit par l’enquête est plutôt structuré. L’examinateur lit l’invite de l’utilisateur, résume ce qu’il pense que la personne demande, puis évalue plusieurs réponses générées par ChatGPT, signalant les éléments corrects ou problématiques et attribuant un score.

Il ne s’agit donc pas simplement de modérer des contenus dangereux ou illégaux. L’objectif du projet Lily, comme il ressort des documents consultés par 404 Media, est d’améliorer le comportement général du modèle : le rendre plus utile, naturel et précis, éviter les réponses trop complaisantes, limiter l’anthropomorphisation et corriger certains tics typiques de l’écriture produite par l’IA.

C’est une distinction importante. Nous savons depuis longtemps que les plateformes peuvent soumettre certains contenus à un examen humain pour des raisons de sécurité et de lutte contre les abus. Ici, nous parlons plutôt de l’utilisation de conversations pour évaluer et améliorer l’IA elle-même.

Cela ne veut pas dire que quelqu’un lit toutes nos conversations

Le scoop ne prouve pas que chaque conversation soit lue par un être humain ni qu’il existe quelqu’un qui puisse suivre sans discernement les discussions d’un utilisateur particulier.

Au lieu de cela, il décrit un pipeline dans lequel une partie du contenu pouvant être utilisé pour améliorer les modèles peut atteindre les évaluateurs humains.

OpenAI déclare publiquement que, dans les services grand public, les conversations peuvent être utilisées pour améliorer et former des modèles lorsque l’utilisateur le permet. La page officielle Comment vos données sont utilisées pour améliorer les performances du modèle en fait, il explique que ChatGPT peut s’améliorer grâce à une formation plus approfondie sur les conversations des utilisateurs et indique comment les exclure de cette utilisation.

Le nouvel élément mis en lumière par 404 Media est avant tout à quel point le rôle de l’être humain est concret dans ce processus et quel type de matériel peut arriver sous ses yeux.

Le problème : dans les chats on met des informations bien plus intimes que dans un réseau social

C’est là que la question prend une importance particulière pour la vie privée.

Une personne sait qu’une publication publiée sur Facebook, LinkedIn ou X peut être vue par d’autres personnes et modérée. Une conversation avec ChatGPT a plutôt l’apparence d’un dialogue individuel.

Et les discussions aboutissent désormais à des CV, des problèmes familiaux, des documents d’entreprise, des rapports médicaux, des problèmes juridiques, des informations financières, du code source, des stratégies commerciales et des données d’autres personnes.

Michal Luria, chercheur au Center for Democracy & Technology cité par 404 Media, identifie précisément cela comme la différence par rapport à la modération traditionnelle des réseaux sociaux : l’interface du chatbot peut créer un sentiment d’intimité et de confidentialité qui ne correspond pas nécessairement à l’ensemble du processus industriel derrière le service.

Pour les entreprises, le point est encore plus délicat. Un employé pourrait coller un contrat client, une base de données, un email interne ou des morceaux de code dans un chatbot sans considérer le traitement ultérieur de ces informations.

OpenAI essaie de supprimer les données personnelles avant de les examiner

Cela ne signifie pas qu’OpenAI fournit sciemment aux évaluateurs des discussions complètes avec le prénom, le nom et l’adresse de l’utilisateur.

L’entreprise a expliqué à 404 Media qu’elle soumettait les conversations à un système de filtrage avant qu’elles ne parviennent aux sous-traitants. La technologie est publiquement documentée : en avril 2026, OpenAI a présenté Privacy Filter, un modèle spécialisé dans l’identification et le masquage des informations personnelles présentes dans les textes.

Le système reconnaît des catégories telles que les personnes privées, les adresses, les e-mails, les numéros de téléphone, les numéros de compte et les informations secrètes, notamment les mots de passe et les clés API.

La limite est déclarée par OpenAI lui-même : le filtre n’est pas infaillible. Il peut ne pas reconnaître les identifiants inhabituels ou les références ambiguës, et il peut obscurcir trop ou pas assez lorsque le contexte est insuffisant. OpenAI précise également que Privacy Filter n’est pas, à lui seul, un outil d’anonymisation ni une certification de conformité.

C’est une distinction essentielle. Supprimer « Mario Rossi » du texte ne signifie pas nécessairement rendre une conversation anonyme. Une combinaison d’entreprises, de postes, de villes, de circonstances personnelles et d’autres détails peuvent rendre une personne identifiable même sans son nom.

De plus, selon 404 Media, certaines tâches montraient également aux évaluateurs un résumé des « souvenirs » de l’utilisateur, contenant le contexte obtenu à partir de ses interactions précédentes. Cependant, les sous-traitants n’ont pas vu le nom d’utilisateur associé au compte.

Pourquoi OpenAI a besoin des humains

La présence des auditeurs montre également quelque chose d’important sur le fonctionnement industriel de l’IA générative.

Un bon modèle linguistique ne s’améliore pas seulement en absorbant des quantités croissantes de textes. Elle doit être continuellement évaluée pour comprendre si une réponse est utile, correcte, sûre et adaptée au contexte.

Selon des documents décrits par 404 Media, le Projet Lily demande par exemple aux évaluateurs de pénaliser les réponses trop longues, l’utilisation gratuite d’émojis, le « Parler de l’IA», le ton ou les phrases excessivement complaisants qui attribuent les expériences et les émotions humaines au système.

Le travail humain devient ainsi partie intégrante du mécanisme par lequel nous définissons non seulement ce que le modèle sait, mais aussi comment il doit se comporter.

Ce n’est pas exclusif à OpenAI. Anthropic a confirmé à 404 Media l’utilisation de l’évaluation humaine pour améliorer Claude pour les utilisateurs ayant activé l’option correspondante ; Google informe également les utilisateurs que certaines conversations enregistrées avec Gemini peuvent être soumises à un examen humain.

Comment empêcher l’utilisation de nouveaux chats pour améliorer ChatGPT

Pour un utilisateur grand public, la protection la plus immédiate est un simple réglage.

Dans ChatGPT, vous devez accéder à Paramètres → Contrôles des données et désactiver « Améliorer le modèle pour tout le monde ».

La documentation officielle de Data Controls précise qu’après désactivation, les conversations continuent d’apparaître dans l’historique mais ne sont pas utilisées pour entraîner ChatGPT. Le paramètre s’applique à l’ensemble du compte et se synchronise donc entre les appareils Web et mobiles.

Il y a cependant un détail important : le choix concerne de nouvelles conversations. Elle ne doit donc pas être interprétée comme une commande capable de retirer rétroactivement du contenu déjà inclus dans les processus précédents d’amélioration du modèle.

Pour les sujets particulièrement sensibles, il existe également un chat temporaire. OpenAI précise que ces conversations ne sont pas utilisées pour améliorer les modèles tant qu’elles restent temporaires et ne sont pas inscrites dans l’historique ; Pour des raisons de sécurité, une copie peut toutefois être conservée jusqu’à 30 jours.

Cela signifie également que « temporaire » n’est pas la même chose que « ne passe jamais par les systèmes OpenAI ».

Le cas est différent pour ChatGPT Business et Enterprise

La distinction la plus importante pour les entreprises se situe entre les comptes grand public et les produits professionnels.

OpenAI déclare que le contenu ChatGPT Business, Enterprise et Edu et le contenu de la plate-forme API ne sont pas utilisés par défaut pour former ou améliorer les modèles, y compris les entrées et les sorties.

De plus, pour ChatGPT Business, les collègues et administrateurs d’espace de travail ne peuvent pas lire automatiquement toutes les conversations d’un collaborateur : chaque membre a son propre historique et les chats deviennent visibles aux autres lorsqu’ils sont partagés selon les fonctions proposées par le service.

Il est donc erroné pour une entreprise de traduire le scoop par « OpenAI permet aux entrepreneurs de lire les discussions de l’entreprise ». Les conditions dépendent du service utilisé et de ses paramètres.

Cela n’élimine pas la nécessité d’une gouvernance interne. Une entreprise doit toujours déterminer quelles informations peuvent être introduites dans les systèmes d’IA générative, quelles applications et comptes sont autorisés, quelles données doivent être anonymisées avant leur envoi et quelles informations ne doivent pas quitter les systèmes de l’entreprise.

Et en Europe ? Le nœud du RGPD

Pour les utilisateurs de l’Union européenne, le RGPD entre également en jeu. Dans sa politique européenne de confidentialité, mise à jour le 24 août 2026, OpenAI indique expressément que, lorsque la formation est activée ou que l’utilisateur fournit des commentaires, il peut utiliser le contenu partagé pour améliorer la capacité, la précision et la sécurité des modèles. Pour cette activité, il indique comme base juridique son propre intérêt légitime, ainsi que celui de tiers et de la société en général, dans le développement et l’amélioration des services.

Pour les utilisateurs de l’Espace économique européen, le responsable du traitement indiqué par la politique est OpenAI Ireland Limited. Les mêmes informations réglementent également l’exercice des droits prévus par la législation européenne et indiquent un délégué à la protection des données qui peut être contacté pour les questions relatives au traitement des données personnelles.

Ce scoop soulève cependant une question qui va au-delà de la simple existence d’une base juridique : dans quelle mesure est-il évident pour l’utilisateur moyen qu’autoriser l’utilisation de conversations pour « améliorer le modèle » peut également inclure un examen humain ?

404 Media affirme avoir spécifiquement demandé à OpenAI où cet aspect avait été communiqué aux utilisateurs et n’avoir initialement pas reçu de réponse en temps opportun. Après la publication de l’article, OpenAI a créé un lien vers sa propre page d’assistance qui informe de la possibilité d’un examen humain du contenu.

Cependant, la différence entre une formulation générale sur « l’amélioration du modèle » et la conscience qu’une conversation peut être physiquement montrée à un entrepreneur est l’un des points centraux soulevés par l’enquête.

Les cinq règles d’utilisation de ChatGPT en entreprise

Pour les entreprises, la leçon du Projet Lily ne doit pas être de bannir ChatGPT, mais de cesser de considérer un chatbot comme s’il était un interlocuteur cantonné à l’ordinateur du salarié.

1. utiliser des comptes et des produits d’entreprise avec des conditions contractuelles appropriées pour le travail, au lieu de demander aux employés de transférer les informations de l’entreprise via des comptes de consommateurs personnels.
2. classer les données. Les mots de passe, les clés API, les données de santé, les informations financières, les données personnelles des clients, les secrets commerciaux et les documents sensibles ne doivent pas être placés sans discernement sur un service externe.
3. minimiser. Si le nom du client n’est pas nécessaire pour obtenir une réponse de l’IA, le nom doit être supprimé. Si vous n’avez pas besoin de l’intégralité du contrat, vous n’avez pas besoin d’envoyer l’intégralité du contrat.
4. vérifier les intégrations. Les GPT, plugins, applications et autres outils peuvent également envoyer des informations à des tiers, avec leurs propres politiques de conservation et de traitement. Même dans les Chats temporaires, OpenAI prévient que les données envoyées à des tiers via ces fonctions peuvent être conservées plus longtemps.
5. former les employés. Le plus gros risque n’est pas forcément la cyberattaque contre le modèle. Il s’agit du copier-coller quotidien d’informations qui n’auraient pas dû sortir du périmètre de l’entreprise.