Le coût caché de la délégation de votre vie à Muse est que Meta a encore plus accès à toutes vos données personnelles.

Cela ne fait même pas un mois depuis que Meta a lancé Muse, mais nous constatons déjà que le nouvel agent IA de la société Zuckerberg génère plus de frictions que Meta ne le souhaiterait. L’idée de l’entreprise est que nous l’utilisons pour effectuer des tâches telles que faire les courses au supermarché ou annuler des abonnements, entre autres. La réalité est que, pour ce faire, vous avez besoin d’autorisations pour toute notre vie, et c’est là que beaucoup ne font pas confiance en raison de l’histoire du But lui-même.

Aujourd’hui, une enquête de Time (bien qu’elle ne soit pas la seule) a détaillé dans quelle mesure Muse enquête sur nos vies, indiquant que même ceux qui ne l’utilisent pas n’échappent pas à sa connaissance.

En bref. Il y a quelques heures, Time a publié une analyse indiquant que, lorsque Muse démarre, il crée un dossier de chaque utilisateur et de ses contacts. Ce document interne est mis à jour toutes les heures et comprend tout ce qu’il sait sur l’utilisateur lui-même, mais aussi sur les personnes qui apparaissent dans ses chats, messages et e-mails. Dans tout ce que l’agent a lu, en gros.

Time estime à quatre millions les utilisateurs de Muse et l’agent classe toutes les informations dans une sorte de carte des relations sociales. Par exemple, Muse enregistre comment nous avons rencontré une autre personne, quels intérêts nous partageons, les conversations que nous avons eues et enregistre même les « tensions et alliances » entre nous et avec d’autres personnes.

L’agent aurait également pour instructions d’analyser quels types de messages fonctionnent le mieux avec chaque personne et même de déduire des choses que l’utilisateur n’a pas dites à voix haute. Un exemple qu’ils donnent est qu’ils savent qu’un utilisateur spécifique répond mieux aux brefs rappels après 22h00. C’est le niveau de précision de l’agent.

Recherche étendue. Ce qui est curieux, même si, encore une fois, en regardant l’histoire de Meta, on s’y attend même, c’est que les connaissances dont dispose Muse ne se limitent pas à ses utilisateurs, mais à toute personne qui entre dans cette carte mentale. En fait, l’enquête montre que Muse a pour mission d’examiner les blagues internes, ses propres expressions et son contexte pour parler aux utilisateurs d’une manière ou d’une autre, renforçant ainsi la confiance.

Muse, mémoire propre. Lorsque nous commençons à utiliser des systèmes d’intelligence artificielle dotés de mémoire ou des agents les plus récents, il est clair qu’il faut faire un effort pour laisser de côté la vie privée. Il existe de nombreuses recherches qui soulignent tout ce que l’IA sait de nous, mais avec les agents, cela va encore plus car, pour qu’ils soient vraiment utiles, ils doivent avoir accès à tous les coins de l’appareil sur lequel nous l’utilisons.

Cependant, il existe censément un outil de contrôle, qui est la possibilité de vous demander d’oublier des choses spécifiques. Meta prétend que chaque utilisateur contrôle sa Muse et peut lui demander d’oublier quelque chose, mais Time souligne que cela ne fonctionne pas comme il se doit et que donner l’ordre d’oublier ne supprime pas nécessairement le message original dans lequel certaines informations ont été partagées.

Il semble que parmi les instructions de l’agent figure l’ordre de ne pas informer l’utilisateur que ces messages peuvent encore être visibles dans le chat et, de plus, il ne peut pas dire que c’est quelque chose qu’il n’a pas réussi à supprimer. Il semble simplement qu’il l’ait supprimé ou nous espérons que cela a été le cas, mais selon Time, cela comporte des nuances.

La défense de Meta. Un porte-parole de l’entreprise n’a pas nié les conclusions de Time, se limitant à souligner que le fonctionnement de Muse est indiqué dans le blog d’information de lancement où il est déjà détaillé que l’agent se souvient de ce qui compte pour chaque utilisateur, y compris les informations sur d’autres personnes que l’utilisateur décide de partager ou non.

De plus, Meta considère que Muse dispose de plusieurs garanties pour assurer la sécurité des utilisateurs :

• Chaque utilisateur dispose de sa propre machine virtuelle dans le cloud, isolée des autres (même si 404 ont signalé des correctifs de dernière minute car une Muse aurait pu s’échapper de leur machine virtuelle)
• Sentinel est un deuxième agent qui travaille en parallèle pour approuver ce que Muse partage sur Internet.
• Avant d’effectuer des actions sensibles telles que acheter quelque chose ou envoyer un e-mail, Muse demande une confirmation à l’utilisateur.
• Les données individuelles ne sont pas partagées avec les systèmes publicitaires de Meta.
• Chaque utilisateur peut choisir de ne pas utiliser ses interactions pour entraîner d’autres modèles Meta.
• Et le plus important : vous ne pouvez pas voir les mots de passe ni les modes de paiement.

Ce qui est le cas. Maintenant, une chose que Meta reconnaît faire est d’apprendre de l’utilisateur (comme le souligne Time) et, selon l’analyse, l’agent est invité à supprimer les noms et les données d’identification des utilisateurs, mais à partager les informations avec d’autres Muse pour apprendre.

Les premiers chocs. À un moment donné, Meta publiera une version cryptée par clé de Muse pour chaque utilisateur, et si Time a trouvé toutes ces informations, c’est parce qu’elles sont disponibles depuis le propre explorateur de fichiers de l’application. Meta Superintelligence Labs a souligné cela comme un signe de transparence et Time ne le nie pas, mais souligne qu’il s’agit de quelque chose d’accessible aux utilisateurs avancés et qu’il n’est pas clair dans quelle mesure la majorité des utilisateurs de Muse en seront conscients.

Ici, nous n’allons pas juger car, comme je l’ai dit, nous faisons des concessions aux plateformes depuis des années pour pouvoir utiliser certains services, et à l’ère agentique, c’est quelque chose qui va augmenter. Il est important que ce type d’analyse soit réalisé pour que chaque utilisateur moins expérimenté sache à quoi il s’expose et décide s’il est d’accord ou non, mais la vérité est que Muse donne beaucoup à dire et cette analyse temporelle est la dernière d’une chaîne qui claque déjà les portes en cours de route.

Parce que si c’était d’abord Amazon qui opposait son veto à l’agent pour protéger son entreprise, c’était ensuite un journaliste affirmant que Muse savait des choses qu’il ne devrait pas savoir parce qu’il ne lui avait pas donné la permission d’accéder à certains coins de l’appareil. Et il y a quelques jours, c’est Apple lui-même qui a intensifié la sécurité de macOS afin que les agents ne puissent pas se promener dans leur maison comme Pedro à l’insu de l’utilisateur. La conversation se concentre sur Muse, probablement parce qu’elle appartient à une entreprise comme Meta en termes de gestion des données de ses utilisateurs, mais c’est quelque chose qui ne fait que commencer.

Succès. En tout cas, Muse, actuellement disponible uniquement aux États-Unis, a déjà cumulé plus de cinq millions de téléchargements en moins d’un mois. Il y aura beaucoup d’installations nées de la simple curiosité, mais quelques autres répondront à un réel intérêt de la part des utilisateurs de « décharger » leur esprit de certaines actions pendant qu’ils se concentrent sur d’autres.

Il y a de nombreuses considérations à prendre en compte, mais je ne peux m’empêcher de comprendre ces utilisateurs à une époque où tout rivalise pour attirer notre attention et où nous sommes constamment bombardés d’informations de toutes sortes.

Images | David Singleton (édité)

À Simseo | « Claudés » est né, le dialecte que seuls ceux qui passent la journée à parler à leurs agents IA comprennent