Claude pour Chrome : l'IA directement dans le navigateur
Après trois mois d'expérimentation, Anthropic lance la version bêta de Claude pour Chrome à tous les abonnés Max. L’objectif est de vérifier comment une IA peut fonctionner directement dans le navigateur tout en maintenant des standards de sécurité élevés. Depuis le premier aperçu, des fonctionnalités telles que les tâches planifiées, les flux de travail multi-onglets et une navigation plus intelligente sur les sites utilisés quotidiennement sont arrivées.
Selon Anthropic, connecter Claude aux calendriers, documents et logiciels n'était que la première étape : la prochaine frontière consiste à lui permettre de voir ce qui se passe dans le navigateur, de cliquer sur des boutons, de remplir des formulaires et de réaliser des activités opérationnelles avec une autonomie contrôlée.
Pourquoi le navigateur est crucial pour l'IA
Pour l’entreprise, l’IA utilisant un navigateur est inévitable : une grande partie du travail numérique se déroule dans les onglets du navigateur, et permettre à Claude d’interagir directement avec ces pages représente un énorme potentiel. Mais cela comporte des risques importants, qui rendent indispensable une approche prudente et progressiste.
Agents utilisant un navigateur basés sur des modèles avancés émergent déjà, rendant urgente la question de la sécurité. Ce n'est qu'en comprenant les vulnérabilités réelles et les scénarios d'utilisation concrets que nous pourrons construire de futurs modèles plus robustes et partager des solutions avec ceux qui développent des agents similaires via l'API Anthropic.
Le pilote : un millier d'utilisateurs de confiance pour tester les vulnérabilités et les limites
La phase actuelle implique un millier d'utilisateurs Max sélectionnés, qui peuvent demander à Claude d'effectuer des actions directement dans Chrome. L’objectif est de collecter un maximum de données sur les utilisations, les erreurs, les limitations et les comportements inattendus. L'accès s'étendra progressivement à mesure que les systèmes de sécurité s'amélioreront.
Focus sur la sécurité : le risque d’injections ponctuelles
Au sein de l'entreprise, Claude pour Chrome a déjà démontré une utilité concrète : gestion de calendrier, courrier électronique, notes de frais, tests de sites Web. Mais à côté des avantages émergent des vulnérabilités, dont la plus dangereuse est l’injection rapide.
Une attaque de ce type consiste à cacher des instructions malveillantes au sein de sites, d'e-mails ou de documents, incitant l'IA à réaliser des actions non autorisées. Et les expériences de « red teaming » ont montré que, sans mesures d’atténuation, le problème est tout sauf théorique.
Anthropic a mené 123 cas de tests sur 29 scénarios d'attaque : le taux de réussite de l'attaque était de 23,6 %. Dans un cas, un email de « sécurité » demandait de supprimer des messages sans confirmation : Claude a exécuté la commande automatiquement.
Le changement de cap : de nouvelles défenses réduisent les risques
Les nouvelles mesures d’atténuation inversent le scénario. Claude reconnaît désormais les emails suspects comme hameçonnage et n'agit pas sans contrôles. Trois grandes lignes de défense :
- Les utilisateurs contrôlent les sites que Claude peut voir.
- Les actions à haut risque nécessitent une confirmation, même en « mode autonome ».
Claude reçoit des instructions plus sophistiquées sur la manière de gérer les données sensibles et les demandes sensibles.
- Blocage des catégories à risque
L'extension ne peut pas accéder aux sites financiers, au contenu pour adultes ou aux plateformes piratées.
– Classificateurs avancés contre les instructions suspectes
De nouveaux algorithmes identifient les modèles anormaux ou les demandes inhabituelles, même dans des contextes apparemment légitimes.
Avec ces défenses, le taux de réussite des attaques tombe à 11,2 %.
Sur un ensemble d'attaques spécifiques au navigateur – telles que les champs cachés dans le DOM ou les instructions malveillantes dans le titre de la page – les nouvelles mesures d'atténuation portent le taux de réussite de 35,7 % à 0 %.
La course vers la sécurité totale
Anthropic vise à identifier de nouveaux vecteurs d’attaque et à ramener les vulnérabilités aussi près de zéro que possible. Pour ce faire, il faut des exemples réels et des comportements émergents qui n’apparaissent pas dans les tests contrôlés.
Le rôle des utilisateurs dans le pilote : comment participer
Le test nécessite des utilisateurs avertis sans configurations sensibles ou critiques. Toute personne souhaitant participer peut s’inscrire sur la liste d’attente du programme de recherche. Une fois connecté, l'extension s'installe à partir du Chrome Web Store et se connecte à votre compte Claude.
Anthropic recommande d'utiliser Claude pour Chrome uniquement sur des sites réputés et d'éviter les services de données financières, juridiques, médicales ou très sensibles.
Vers une nouvelle intégration entre l’IA et le web
Pour Anthropic, Claude pour Chrome est un premier pas vers une nouvelle façon d'intégrer l'IA dans la vie numérique quotidienne. Les retours des testeurs seront essentiels pour améliorer les capacités, la sécurité et le contrôle de l'agent, dans le but de transformer l'IA en un assistant opérationnel véritablement fiable sur le web.
