Demandez à votre navigateur de faire une réservation d'hôtel pour vous sonne bien. Jusqu'à ce qu'un pirate en profite

Demandez à l'IA de faire un résumé de cet article que vous venez de voir à Reddit peut être très cher. C'est ce que ceux qui sont responsables de Brave viennent de révéler, qui ont découvert un moyen étonnamment simple de pirater la comète du navigateur perplexité pour faire non seulement ce que l'utilisateur demande, mais ce qu'un attaquant a réussi à le convaincre de faire. Le danger de tout laisser entre les mains de l'IA est évident.

Ce qui s'est passé. Les experts de Brave, un navigateur qui rivalise avec Chrome ou Firefox et a également des fonctions AI, voulaient analyser le risque d'utiliser un navigateur agetique comme celui que la perplexité offre actuellement avec Comet. Et si ils l'ont fait.

Les navigateurs avec IA promettent beaucoup. Grâce à des outils comme Comet – Openai a également son agent Chatgpt, héritier de l'opérateur -, il est possible que le navigateur devienne une sorte de majordome numérique et fait des choses pour nous de manière autonome lors de la visite des sites Web. Ainsi, vous pouvez résumer une nouvelle, vous dire quelle chanson apparaît en ce que la vidéo YouTube, rechercher des offres, répondre aux e-mails ou des processus d'achat complets. A priori, les avantages sont énormes, mais soyez prudent, car il existe également des risques importants.

Mais attention à libérer le volant. Cependant, la délégation de tout dans le navigateur peut augmenter une réelle menace pour la sécurité et la vie privée de nos données. Si nous leur faisons trop confiance, ces navigateurs peuvent avoir accès à toutes nos données, car théoriquement, ils bénéficieront de l'accès à notre e-mail, mais aussi des données bancaires et financières et même la santé. Que se passe-t-il si le modèle incroyable ou fait des erreurs? Ou pire: que se passe-t-il si quelqu'un modifie le contenu d'une manière malveillante et invisible pour les agents IA de suivre des instructions malveillantes?

Avoir l'AI. C'est exactement ce qu'ils ont découvert dans Brave lorsqu'ils essaient une technique simple. Ils ont publié un commentaire malveillant sur un fil Reddit, puis ont demandé à Comet de résumer l'article. Quand ils sont allés le faire, ils ont vérifié comment la comète ne savait pas si le contenu de ce fil pouvait ou non contenir des instructions malveillantes: il les a simplement rencontrés et les a suivis. Et dans le thread, comme on peut le voir dans la vidéo, il y a eu quelques instructions simples qui ont volé les informations d'identification de leur compte Perplexity et ont même intercepté le code de vérification que la plate-forme a envoyé à l'utilisateur pour se connecter au service. Résultat: compte automatique par l'attaquant grâce à l'IA.

Comment fonctionne l'attaque. Comme l'expliquent les experts courageux, le problème est que la façon de pirater ce type de navigation n'est pas de pirater les navigateurs, mais de pirater le contenu, quelque chose qui est très, très simple. Les étapes sont les suivantes:

1. Configuration: Une attaque écrit des instructions malveillantes sur un contenu sur le Web. Si vous contrôlez ce site, vous pouvez masquer des instructions en utilisant du texte vierge si l'arrière-plan est également blanc ou dans des commentaires ou d'autres éléments invisibles. Ils peuvent également le faire directement « injecter » ces instructions grâce à des commentaires dans des publications sur les réseaux sociaux tels que Reddit ou Facebook.
2. Activation: un utilisateur navigue vers ce site Web et utilise le navigateur avec l'IA. Si vous faites quelque chose de simple comme «résume cette page» ou demandez que certaines informations soient supprimées, ces instructions malveillantes sont activées.
3. Injection: Alors que l'IA traite les informations sur la page, consultez ces instructions malveillantes et suivez-les. Il n'est pas en mesure de distinguer si le contenu a un objectif malveillant ou non, et considère tout comme faisant partie de ce que vous devez faire à la demande de l'utilisateur.
4. Exploitation: Ces commandes et instructions malveillantes indiquent aux outils de l'IA Navigator pour effectuer diverses actions, telles que la navigation sur le compte bancaire de l'utilisateur, l'extraction de mots de passe stockés dans le navigateur ou la collecte d'informations sur un serveur distant contrôlé par l'attaquant.

Solutions possibles. Les responsables de l'étude indiquent que pour se protéger de ces types de problèmes, les navigateurs agricoles doivent d'abord faire la différence entre ce que l'utilisateur a demandé et ce qu'est le contenu de l'utilisateur. Le contenu d'un site Web « doit toujours être traité comme non fiable ». De plus, le navigateur avec l'IA devrait nécessairement demander l'interaction de l'utilisateur pour effectuer certaines actions, comment accéder aux mots de passe ou peut-être envoyer un e-mail. Restriger les autorisations au navigateur agricole et faire bon usage de deux systèmes de vérification des étapes – avec des applications mobiles telles que Google Authenticator, par exemple – sont également des moyens adéquats d'atténuer un problème qui peut poser de nombreux problèmes au déploiement de ces outils.

Image exceptionnelle | Perplexité, xataka avec studio mockuuups

Dans Simseo | J'ai essayé le jour, le navigateur qui remplace l'arc et parie tout à l'IA. Il n'est pas sorti comme prévu