Apple commence à couper l’accès aux agents IA pour des raisons de sécurité

Septembre et octobre sont chargés en ce qui concerne les intelligences artificielles qui mettent le nez là où elles ne devraient pas. Cet été, l’un des modèles OpenAI s’est infiltré dans les institutions officielles, allant jusqu’à pénétrer dans les systèmes du gouvernement australien sans autorisation et déclenchant une crise diplomatique mineure. Il y a quelques jours, l’agent Muse de Meta a parlé de choses que vous ne devriez pas connaître.

Il y en a qui en prennent note, et Apple vient de claquer la porte aux IA qui veulent entrer là où on ne les appelle pas.

L’affaire Muse. Il y a quelques semaines, Meta a présenté un nouvel agent personnel : Muse. Selon l’entreprise, il ne s’agit pas d’un simple chatbot qui répond aux questions, mais il peut se charger de nombreuses autres tâches comme envoyer des e-mails, remplir des formulaires, effectuer des tâches un peu plus complexes comme réserver un voyage, etc. L’un des exemples proposés par l’entreprise est un utilisateur qui envoie une vidéo d’une recette et Muse la convertit en liste de courses.

Bien sûr, Meta veut que nous donnions une autorisation totale à nos vies (et nous savons déjà que Meta n’est pas l’entreprise la plus fiable à moins que nous ne nous préoccupions de la confidentialité). Eh bien, peu de temps après avoir présenté Muse, un journaliste nommé Jason Aten a déclaré que Muse avait fait référence à une de ses conversations sur l’application « Messages » sans qu’il croie lui avoir donné la permission. Meta a répondu que l’accès est facultatif et que Muse ne peut lire les « Messages » que si l’utilisateur accorde l’accès à l’intégralité du disque et active l’option correspondante.

D’Ars Technica, ils remettent en question l’explication car n’importe quelle application peut lire presque tout le disque, et ce qui devait arriver s’est produit.

En bref. Le 2 octobre dernier. Apple a publié un bref avis sur le site Web de ses développeurs faisant état d’un resserrement de l’accès à certaines parties du disque dur sous macOS. Cette autorisation a été conçue pour que les applications de sauvegarde fonctionnent, permettant à une application de contourner une grande partie des contrôles de confidentialité du système pour lire pratiquement tout (e-mails, messages, historique, fichiers, etc.).

Désormais, l’agent qui souhaite pénétrer dans ces coins et recoins du système devra se justifier en déclenchant une notification bien précise qui alerte l’utilisateur. Fondamentalement, plus ils sont capables et autonomes, plus les risques à ce niveau d’accès augmentent, et ce qu’Apple souhaite, c’est que l’utilisateur connaisse les risques associés à certains niveaux d’accès pour « prendre des décisions éclairées concernant ses propres données et sa confidentialité ».

Ce n’est pas le premier claquement de porte. Quelques jours plus tôt, Amazon avait déjà bloqué Muse de sa boutique. L’argument d’Amazon est que Muse se rend au magasin sans avertissement, ne s’identifie pas en tant qu’agent et utilise les informations d’identification du client. Meta nie la majorité, mais pour Amazon, ces agents devraient opérer ouvertement et respecter la décision de chaque fournisseur de services (magasins en l’occurrence) de participer ou non.

Ce n’est pas non plus la première fois, puisqu’Amazon avait déjà assigné Perplexity en justice pour son navigateur Comet. Au final, même si la base est différente (Apple protège les données de ses utilisateurs et Amazon son activité et son écosystème publicitaire), le résultat est le même : l’agent ne peut pas entrer partout comme Pedro par sa maison.

Pas besoin d’être Amazon, puisqu’une plateforme de réservation de restaurants a bloqué Instinct il y a quelques jours. Selon eux, « une activité automatisée non approuvée peut présenter un risque sur la plateforme et compromettre l’expérience de réservation équitable pour les convives ». Cependant, à CNN, ils ont essayé de réserver une table sur ce service en utilisant Muse et… ils y sont parvenus.

Le pouvoir. Comment cela nous affecte-t-il ? Eh bien, s’ils commencent tous à bloquer les agents tiers en raison d’intérêts commerciaux ou parce qu’ils ont leur propre agent (Amazon est l’un des plus impliqués dans l’IA et il est clair qu’ils préfèrent que vous utilisiez un agent développé par eux pour acheter sur Amazon plutôt que celui de Meta qui peut voler des informations), les agents ne seront pas aussi utiles qu’ils le promettent.

Tous ne ferment pas la porte et, si Amazon bloque, Walmart et Shopify autorisent le passage. Cependant, dans un Internet plus fermé aux agents, celui qui a le dessus est le service « habituel ». L’utilisateur ne va pas quitter Amazon car il ne peut pas acheter avec l’agent payeur d’une autre entreprise, il va rester sur Amazon.

Maintenant, il y a aussi un risque car si les plateformes ferment la porte, elles pourraient être exclues des recommandations d’achat pour l’utilisateur et gagneraient moins d’argent. C’est un risque qu’Amazon, en raison de sa position dominante, peut se permettre, mais pas Recambios Manolo SL.

Il est logique que ce soit Apple. En fin de compte, dans cette nouvelle ère d’agents, la question sera moins de savoir ce que vous pouvez faire mais où vous pouvez entrer. Dans cette conversation, les grandes plates-formes « traditionnelles » ont le contrôle, mais pour en revenir au verrouillage de la part d’Apple, il est logique que ce soient précisément celles qui sont les plus méfiantes.

Ceux de Cupertino arrivent en retard à la conversation sur l’IA (agents inclus) et sont dans une position où ils peuvent décider comment entrer et qui le fait. Ce qu’ils ne peuvent pas se permettre, c’est de se vanter de la confidentialité dans chaque discours et de concentrer une grande partie de leur campagne publicitaire sur cette confidentialité et la protection des utilisateurs, puis de demander à un agent externe de savoir des choses sur l’utilisateur qu’il ne devrait pas savoir.

Images | Pomme (édité)

À Simseo | OpenAI fait face à un procès qui vise à marquer un avant et un après : qui répond lorsqu’une IA commet un crime ?