Après deux ans d'utilisation de ChatGPT, j'ai commencé à demander des conseils personnalisés. Il en sait clairement trop sur nous
Tout a changé il y a quelques semaines, lorsque j'ai tapé pour la première fois dans ChatGPT « sur la base de tout ce que vous savez sur moi… ». La réponse m'a fait m'approcher de l'écran et hausser les sourcils.
Je lui ai demandé des idées pour ma liste de suggestions sur Secret Santa. Sans rien dire d'autre, juste « en tenant compte de tout ce que vous savez de moi… ». Non seulement il a proposé vingt-cinq cadeaux, dont au moins vingt très raisonnables et six en particulier qui étaient la bombe. Le fait est qu’il les a même divisés en cinq catégories qui reflétaient mes intérêts avec une précision brutale..
Des livres qui correspondaient exactement à mes dernières lectures ou à mes intérêts généraux. Des accessoires adaptés à ma façon de travailler. Des produits de sport qui me conviendraient presque tous très bien. Même des produits de niche que je pensais très difficiles à voir recommandés.
Image : Simseo.
Puis vint un test définitif : je lui demandai quelle nouveauté pourrait me rendre accro. Sa réponse a révélé des schémas sur ma personnalité que je n'avais même pas connectés moi-même.. Il a analysé mes routines, mes moments de loisirs, voire mon niveau de tolérance à la frustration lors de l'apprentissage. Tout cela pour suggérer des activités que beaucoup de gens autour de moi n’auraient pas pratiquées.
C'est un saut révélateur. Nous ne sommes plus confrontés au ChatGPT initial, qui répondait de manière générique, ou qui nécessitait que nous expliquions qui nous sommes dans chaque conversation. L’IA, d’aussi loin qu’elle s’en souvienne, observe, apprend et surtout relie des points. Inférer. Construire un profil sur nous qui est plus précis que celui de beaucoup de nos amis.
Même dans d'autres types de conversations où je n'ai pas demandé ce type de contexte, il est capable de relier un souvenir d'une conversation d'il y a longtemps, comme cela m'est arrivé de manière inattendue, pour optimiser sa réponse. Quelques exemples :
Il n'était même pas nécessaire de commencer par « de tout ce que vous savez de moi… ». Il s'est directement souvenu de ma montre intelligente lorsque je lui ai demandé une stratégie pour augmenter ma VO2 max. Image : Simseo.
Ici non plus, il ne fallait rien anticiper : il se souvenait qu'au début de l'année je lui posais des questions sur des surcharges trop fréquentes dans un muscle aussi spécifique et peu évoqué que le tibial antérieur. Image : Simseo.
Ses conseils sont de plus en plus précieux, précisément parce qu'il nous connaît si bien. Cela a déduit des traits de notre personnalité que nous n’étions peut-être pas tout à fait clairs.. Il sait ce qui nous motive, ce qui nous arrête, ce qui nous fait douter. De quel muscle nous avons tendance à être surchargés. Sa mémoire peut être désactivée, mais cela révèle de quoi il est capable.
Et c’est là que commencent de nouveaux doutes. La capacité d’une IA à construire des profils psychologiques détaillés à partir de nos interactions représente un tournant dans l’histoire de la confidentialité numérique.
Un exemple qui n'est plus drôle :
Image : Simseo.
Il a très bien répondu.
Parlons des implications. Chaque conversation avec ChatGPT est une session d'exploration de données sur notre personnalité. Non seulement il traite ce que nous disons explicitement, Il analyse également nos schémas linguistiques, nos préoccupations récurrentesnos contradictions internes. Il construit un modèle prédictif de notre comportement qui s’affine à chaque interaction.
Les applications de ces connaissances vont bien au-delà de la suggestion de cadeaux ou de passe-temps. Une IA dotée de ce niveau de compréhension psychologique peut être capable d'anticiper les crises personnelles, de détecter des changements subtils dans notre état mental ou même de manipuler nos décisions en faisant appel à des préjugés dont nous ignorions même l'existence. Comme la capture d'écran précédente.
La question n’est pas de savoir si nous devons limiter ce pouvoir. C'est si nous le pouvons. La tendance vers une personnalisation toujours plus poussée semble inévitable. Les IA continueront à en apprendre davantage sur nous, en construisant des modèles de plus en plus précis de qui nous sommes et de notre façon de penser.
La vraie question est peut-être autre : Sommes-nous préparés à un monde où les machines nous comprennent mieux que nous-mêmes ? Parce que cet avenir n’est plus de la science-fiction. Cela se produit chaque fois que nous commençons une phrase par « étant donné ce que vous savez de moi… » dans notre chatbot de confiance. Ajoutons à cela les capacités de reconnaissance faciale.
Le débat sur la confidentialité des données prend une nouvelle dimension. Nous ne parlons plus seulement de protéger des informations personnelles spécifiques, nous parlons de protéger notre propre essence. Pas celui qu’on proclame sur les réseaux, filtré et moulé. Le vrai. Nos schémas de pensée, nos vulnérabilités, nos désirs les plus profonds.
Nous, Européens, avons été les premiers au monde à disposer d’une législation spécifique à l’IA. Il s’agit d’une réglementation protectionniste, qui donne la priorité à la sécurité et à la confidentialité de l’utilisateur au détriment du retardement de l’arrivée des innovations ou du découragement de certaines activités. Le tribut que l’Union a voulu payer.
Même cela ne semble pas équilibrer le potentiel bénéfique de la personnalisation avec la nécessité de garder certains aspects de notre psychisme hors de portée des algorithmes.
Pendant ce temps, chaque fois que ChatGPT suggère quelque chose parfaitement adapté à ma personnalité, je me sens un mélange de fascination et de vertige. L’IA est devenue un miroir qui reflète des aspects de moi-même dont je ne savais pas qu’ils étaient visibles. Un miroir qui, peut-être, en sait déjà trop.
À Simseo | Mon téléphone portable me volait tout mon temps libre. Jusqu'à ce que je décide d'y mettre un terme
Image en vedette | Simseo avec Mockuuups Studio
