Le captcha était devenu un excellent outil pour combattre les bots. Jusqu'à l'arrivée de l'agent Chatgpt

En 2003, un jeune guatémaltèque nommé Luis von Ahn a publié un studio unique avec deux collègues de l'Université Carnegie Mellon et un chercheur IBM. Ce projet a décrit un test automatisé facile à résoudre pour les humains mais pratiquement insurmontable pour les systèmes d'intelligence artificielle.

Ces chercheurs ont appelé ce test Captcha.

Le concept était simple et axé sur le paradoxe Moravec déjà célèbre: il y a des choses que les humains font sans effort – comme la résolution des énigmes visuelles que le Captcha propose – mais que les machines ne résolvent pas.

L'idée s'est avérée être l'une de celles entre un million. Von Ahn a fini par créer une version améliorée qu'il a appelée Recaptcha qui a non seulement vérifié que vous étiez humain: il l'a fait aider Train et systèmes OCR parfaits. Cette autre idée complémentaire a été un autre moment unique « Eureka! » De von Ahn, et en fait il a fini par lui faire un millionnaire en 2009, l'année où Google a décidé d'acheter son service. Ensuite, il se consacrerait à un autre projet tout aussi frappant (ou peut-être plus): Duolingo.

Une évolution vertigineuse (et juteuse)

Ce faisant, le captcha a continué à grandir et à évoluer. Le mettre de plus en plus difficile pour les machines qui ont progressivement déclaré que peut-être que ces tests n'étaient plus aussi valables. À partir de ces captchas de base, nous avons fini par passer à des recaptchas de toutes sortes dans lesquels les puzzles visuels ont non seulement contesté la capacité d'abstraction des machines, mais ont également aidé à former les systèmes OCR, mais les systèmes de vision artificielle pour mieux reconnaître les voitures, les bus, les passages zèbres ou, comment non, les bouches de feu.

Mais les systèmes de vision artificielle et d'intelligence se sont également améliorés, et cette lutte entre ces tests (CAPTCHA provient de tests publics complètement automatisés pour dire à un appartement informatique et humain) et les machines sont devenues de plus en plus intéressantes. C'était un jeu unique du chat et de la souris avec les spambots, et quand un système d'IA a réussi à surmonter un captcha ou l'une de ses variantes, les puzzles sont devenus de plus en plus difficiles.

L'histoire s'est à nouveau répétée.

Il l'a fait ce vendredi. C'est alors qu'un utilisateur de la communauté R / OpenAI de Reddit a publié Captures of Chatgpt Agent surmonter sans problèmes apparents l'un des recaptchas plus populaire et utilisé aujourd'hui sur Internet. Il s'agit du système CloudFlare Turonstile, qui présente une petite boîte avec le texte «  » (« Je ne suis pas un robot ») pour cliquer dessus. Cela semble très simple et simple, mais ce n'est pas tant pour les machines.

Comme indiqué dans CloudFlare, cette variante RecaptCha analyse divers signaux tels que le mouvement de la souris, le moment où nous prenons pour cliquer, « l'empreinte numérique » de notre navigateur, la « réputation » de notre IP ou certains modèles d'exécution javascript. Avec eux, détermine si l'utilisateur est un être humain ou se méfie d'être un bot. Et s'il y a des soupçons, le système présente après ce premier captcha un autre dans lequel nous devons résoudre un certain type de puzzle visuel.

L'IA ne sait pas si elle est humaine, elle essaie seulement de fonctionner comme telle

Ce qui est drôle ici, c'est que l'agent d'Openai a résolu le problème d'une manière évidente: voir ce qui était à l'écran pour agir en conséquence, ce qui n'avait pas été facile jusqu'à présent. L'agent racontait même ce qu'il faisait, et en faisant cette étape, il a montré le texte suivant:

« Le lien est inséré, je vais donc cliquer sur » Vérifiez que vous êtes humain « cliquez pour terminer la vérification dans CloudFlare. Cette étape est nécessaire pour démontrer que je ne suis pas un bot et que je peux continuer avec l'action. »

Ou quel est le même: La machine était auto-heurtante comme un être humain. C'est quelque chose d'inhabituel, mais peut-être pas tout à fait étrange étant donné que 1) l'IA ne sait pas vraiment ce qu'il dit et 2) a été formé pour parler (et agir, du moins d'une manière limitée) en tant qu'être humain. L'opérateur, l'agriculture précédente d'Openai, a passé un très mauvais moment avec ces systèmes.

Cela signifie-t-il que le captcha est menacé de mort? Probablement pas. Ce n'est rien de plus qu'une autre bataille de cette guerre entre les bots et le captcha. Celui qui, par exemple, nous avons déjà vu une autre victoire de l'IA en octobre 2024, mais qui n'a pas impliqué la débâcle de ce type de tests de vérification des utilisateurs.

Comme indiqué dans ARS Technica, les systèmes CAPTCHA n'ont pas cessé d'évoluer. À partir de ces textes floues et déformés, nous allons à RecaptCha dans lequel nous avons dû résoudre des puzzles visuels de toutes sortes qui nous obligent récemment à ne pas identifier les feux de circulation, mais à placer une image dans une orientation spécifique – un système de plus en plus populaire appelé Arkose MatchKey – ou pour identifier un élément d'une image qui ne correspond pas.

En fait, les captchas les plus récents ne sont plus tant pour empêcher les robots de dépasser cette barrière pour les ralentir tellement que la fabrication d'attaques de force brute avec des robots ne compense pas.

Captchas non pas comme une barrière, mais comme un frein de bots

Un article de ceux qui sont responsables d'Arkose Labs, créateurs de Matchkey, ont clairement indiqué que « Il n'y a pas de captcha complètement impénétrable« , Et qu'avec leur proposition, ce qu'ils voulaient était » d'introduire une dissuasion économique ou une preuve des coûts pour le comportement malveillant des bots. « Ou ce qui est la même: que de développer un bot qui surmonte ces captcha était si cher qu'il n'en valait pas la peine.

Ainsi, nous ne devons pas nous inquiéter beaucoup au cas où les agents de l'IA pourraient surmonter ce test, car ils apparaîtront sûrement CAPTCHAS qui continuent d'assumer une barrière presque impraticable pour ces systèmes. C'est précisément le même concept avec lequel fonctionne le test ARC-AGI 2, qui mesure la compréhension visuelle et le raisonnement abstrait des systèmes d'IA et qui est si compliqué que les meilleurs modèles d'IA, qui sont également très chers, ne dépassent pas plus de 4% des cas dans le meilleur cas (O3-Preview).

Va-t-il un moment où ces agents de l'IA obtiennent un captcha que nous mettons devant vous? Cela peut être, bien sûr, et ce sera alors quand nous devrons affronter Comment vivre avec des machines À une époque où Internet ne parvient plus à différencier qui est humain et qui ne l'est pas.

Dans Simseo | Duolingo inaugure une nouvelle ère: quand le talent humain n'est plus essentiel