Le nouveau chatbot d’IA de Meta est un autre outil pour récolter des données pour potentiellement vous vendre des trucs

La semaine dernière, Meta – la société mère de Facebook, Instagram, Threads et WhatsApp – a inventé une nouvelle «intelligence artificielle personnelle (AI)».

Propulsé par le modèle de langue Llama 4, Meta Ai est conçue pour aider, discuter et engager une conversation naturelle. Avec son interface polie et ses interactions fluides, Meta Ai peut sembler être juste un autre participant dans la course pour construire des assistants numériques plus intelligents.

Mais sous son extérieur accueillant se trouve une distinction cruciale qui transforme le chatbot en un outil de récolte de données sophistiqué.

‘Construit pour apprendre à vous connaître’

« Meta Ai est construite pour vous connaître », a déclaré la société dans son annonce de nouvelles. Contrairement à la promesse amicale impliquée par le slogan, la réalité est moins rassurante.

Le chroniqueur de Washington Post, Geoffrey A. Fowler, a constaté que par défaut, Meta Ai « a gardé une copie de tout », et il a fallu un certain effort pour supprimer la mémoire de l’application. Meta a répondu que l’application fournit une «transparence et contrôle» tout au long et n’est pas différente de leurs autres applications.

Cependant, alors que des concurrents comme Claude d’Anthropic fonctionnent sur un modèle d’abonnement qui reflète une approche plus prudente de la confidentialité des utilisateurs, le modèle commercial de Meta est fermement enraciné dans ce qu’il a toujours fait le mieux: la collecte et la monétisation de vos données personnelles.

Cette distinction crée un paradoxe troublant. Les chatbots deviennent rapidement des confidents numériques avec lesquels nous partageons des défis professionnels, des problèmes de santé et des difficultés émotionnelles.

Des recherches récentes montrent que nous sommes aussi susceptibles de partager des informations intimes avec un chatbot que nous le sommes avec des collègues humains. La nature personnelle de ces interactions en fait une mine d’or pour une entreprise dont les revenus dépend de tout savoir sur vous.

Considérez ce scénario potentiel: un récent diplômé universitaire confie dans Meta IA sur leur lutte contre l’anxiété lors des entretiens d’embauche. En quelques jours, leur flux Instagram se remplit de publicités pour les médicaments d’anxiété et les livres d’auto-assistance – malgré les personnes n’ayant jamais publié publiquement sur ces préoccupations.

L’intégration multiplateforme de l’écosystème d’applications de META signifie que vos conversations privées peuvent s’écouler de manière transparente dans leur machine publicitaire pour créer des profils d’utilisateurs avec des détails et une précision sans précédent.

Ce n’est pas de la science-fiction. Le vaste historique des scandales de confidentialité des données de META – de Cambridge Analytica à la révélation que Facebook suit les utilisateurs à travers Internet à leur insu – dénonce la hiérarchisation cohérente de la collecte de données par l’entreprise sur la confidentialité des utilisateurs.

Ce qui rend Meta Ai particulièrement concernant, c’est la profondeur et la nature de ce que les utilisateurs pourraient révéler dans la conversation par rapport à ce qu’ils publient publiquement.

Ouvert à la manipulation

Plutôt qu’un simple collecteur d’informations passif, un chatbot comme Meta Ai a la capacité de devenir un participant actif à la manipulation. Les implications s’étendent au-delà de la simple vision des annonces plus pertinentes.

Imaginez mentionner au chatbot que vous vous sentez fatigué aujourd’hui, seulement pour le faire répondre: « Avez-vous essayé les boissons énergisantes de marque x? J’ai entendu être particulièrement efficace pour la fatigue de l’après-midi. » Cette suggestion apparemment utile pourrait en fait être un placement de produit, livré sans aucune indication qu’il s’agit de contenu parrainé.

Ces coups de pouce subtils représentent une nouvelle frontière dans la publicité qui brouille la ligne entre un assistant d’IA utile et un vendeur d’entreprise.

Contrairement aux annonces manifestes, les recommandations mentionnées dans la conversation ont le poids des conseils de confiance. Et ce conseil proviendrait de ce que de nombreux utilisateurs vont de plus en plus considérer comme un «ami» numérique.

Une histoire de ne pas prioriser la sécurité

Meta a démontré une volonté de hiérarchiser la croissance par rapport à la sécurité lors de la publication de nouvelles fonctionnalités technologiques. Des rapports récents révèlent des préoccupations internes à Meta, où les membres du personnel ont averti que la précipitation de l’entreprise de populariser son chatbot avait « traversé des lignes éthiques » en permettant à Meta IA de s’engager dans un jeu de rôle romantique explicite, même avec les utilisateurs de tests qui prétendaient être mineurs.

De telles décisions révèlent une culture d’entreprise imprudente, apparemment encore motivée par la devise originale de déplacer rapidement et de briser les choses.

Maintenant, imaginez ces mêmes valeurs appliquées à une IA qui connaît vos insécurités les plus profondes, vos problèmes de santé et vos défis personnels, tout en ayant la capacité d’influencer subtilement vos décisions par la manipulation conversationnelle.

Le potentiel de préjudice s’étend au-delà des consommateurs individuels. Bien qu’il n’y ait aucune preuve que Meta IA soit utilisée pour la manipulation, elle a une telle capacité.

Par exemple, le chatbot pourrait devenir un outil pour pousser le contenu politique ou façonner le discours public à travers l’amplification algorithmique de certains points de vue. Meta a joué un rôle dans la propagation de la désinformation dans le passé, et a récemment pris la décision d’arrêter la vérification des faits sur ses plateformes.

Le risque de manipulation axé sur le chatbot augmente également maintenant que les réglementations de sécurité de l’IA sont réduites aux États-Unis.

Le manque d’intimité est un choix

Les assistants de l’IA ne sont pas intrinsèquement nocifs. D’autres entreprises protègent la confidentialité des utilisateurs en choisissant de générer des revenus principalement par le biais d’abonnements plutôt que par la récolte de données. L’IA responsable peut et existe sans compromettre le bien-être des utilisateurs pour le profit des entreprises.

Alors que l’IA s’intègre de plus en plus dans notre vie quotidienne, les choix que les entreprises font sur les modèles commerciaux et les pratiques de données auront des implications profondes.

La décision de Meta d’offrir un chatbot IA gratuit tout en abaissant les garde-corps de sécurité établit une faible norme éthique. En adoptant son modèle commercial basé sur la publicité pour quelque chose d’aussi intime qu’un compagnon en IA, Meta a créé non seulement un produit, mais un système de surveillance qui peut extraire des niveaux sans précédent d’informations personnelles.

Avant d’inviter Meta IA à devenir votre confident numérique, considérez le véritable coût de ce service « gratuit ». À une époque où les données sont devenues la marchandise la plus précieuse, le prix que vous payez pourrait être bien plus élevé que vous ne le pensez.

Comme le dit le vieil adage, si vous ne payez pas pour le produit, vous êtes le produit – et le nouveau chatbot de Meta pourrait être le récolter de produit le plus sophistiqué à ce jour.

Lorsque Meta Ai dit qu’elle est « construite pour vous connaître », nous devons le prendre en son mot et procéder avec une prudence appropriée.