L'IA peut-elle vous aider à identifier une arnaque? Un expert explique
Imaginez que vous avez reçu un e-mail vous demandant de transférer de l'argent sur un compte bancaire. Certains détails semblent corrects, mais comment pouvez-vous être sûr que le message est légitime?
Certaines personnes pourraient demander à un outil d'IA comme Gemini ou Chatgpt de renifler des signes de fraude. Mais des modèles de grands langues comme ceux-ci sont-ils bons pour détecter la fraude? Et quelle langue rapide obtiendra les résultats les plus précis?
Tester de grands modèles de langue pour la détection de fraude
Les consommateurs ont besoin de conseils clairs sur la façon d'utiliser l'IA pour se protéger contre la fraude, explique Jessica Staddon, professeur de pratique de la pratique de l'Université du Nord-Est en informatique. Avec deux étudiants chercheurs diplômés, Staddon teste dans quelle mesure Gemini et Chatgpt peuvent repérer la fraude, dans le but de construire un corpus de techniques rapides fiables.
« Cette idée que les LLM pourraient aider à cela est très populaire en ce moment », dit Staddon, « mais les gens n'ont vraiment pas reçu beaucoup de soutien pour savoir comment interagir avec eux. »
Rechertes de plaintes pour la recherche rapide sur le carburant
En utilisant le langage tiré directement des rapports de fraude à la consommation déposés auprès du Consumer Financial Protection Bureau (CFPB), les chercheurs créent des invites pour voir si les LLM peuvent faire la distinction entre les escroqueries (lorsqu'un utilisateur est trompé), les fraudes (lorsque l'argent d'un utilisateur est pris sans son consentement) et les communications légitimes.
Ils ont d'abord formé Gemini et Chatgpt4 pour comprendre ce qu'est une arnaque, a déclaré Staddon. Ensuite, passez en revue 300 plaintes sur la base de données CFPB – dont 192 ont été étiquetées comme des escroqueries – ils ont utilisé le langage des plaintes pour construire des invites décrivant divers scénarios.
Résultats préliminaires: une promesse, quelques pièges
Staddon, ainsi que les co-investigateurs Isha Chadalavada et Tianhui Huang, ont partagé leurs recherches en cours en mai lors de l'atelier sur la technologie et la protection des consommateurs à San Francisco.
Les premiers résultats indiquent que les LLM ont besoin de plus de formation pour être efficaces. Dans un cas, les outils ont détecté une arnaque même lorsque les détails de l'arnaque typiques n'ont pas été inclus, en basant leur évaluation sur la façon dont le client a été traité par sa banque.
Ils montrent également un certain biais en faveur des organisations nommées. Parmi quatre plaintes concernant une société de réparation de crédit qui a été condamnée à une amende par le CFPB pour la publicité trompeuse, les LLM ont révélé que deux escroqueries potentielles. Dans l'ensemble, les chercheurs ont constaté que les LLM font mieux lorsque les noms d'entreprise ne sont pas du tout mentionnés.
Pourquoi une incitation efficace est plus que jamais plus que jamais
La nécessité de conseils clairs sur la fabrication d'invites efficaces n'a jamais été plus grande, a déclaré Staddon. Les plaintes de fraude potentielle à la CFPB ont plus que doublé de 2020 à 2023, avec 2,6 millions de rapports déposés en 2023 seulement. La majorité concerne les transactions de compte bancaire et de carte de crédit.
Les chercheurs ont choisi d'étudier des outils LLM gratuits car ils sont si fortement utilisés par les victimes potentielles de fraude.
« L'un des moteurs les plus clairs de la sensibilité à l'escroque est l'isolement social », a déclaré Staddon, « quand les gens n'ont pas quelqu'un vers lequel se tourner et dire: » Hé, j'ai ce texte étrange. Est-ce que ça a l'air bien? « »
Formation AI avec les escrocs linguistiques utilisent
La construction invite avec la langue que les consommateurs utilisent lors de la déclaration de fraude étaient également intentionnelles, a-t-elle déclaré. Les escrocs construisent leurs communications en utilisant un langage spécifique et ont tendance à répéter leurs hauteurs, en les modifiant en fonction de leurs taux de succès. Un exemple, a déclaré Staddon, est que « le gars au téléphone m'a dit de déplacer mon argent pour le protéger. »
En utilisant le libellé exact d'une communication suspecte comme une invite LLM, a-t-elle dit, formera l'outil d'IA pour identifier les modèles et devenir efficace pour identifier la fraude.
« C'est une course aux armements », a-t-elle déclaré. « Ils développent toujours de nouvelles techniques. »
