Comment l'IA améliore-t-elle les escroqueries?

À présent, vous savez que l'e-mail d'un riche prince africain est une fraude. Mais est-ce vraiment la voix d'un ami au téléphone en disant qu'ils sont en difficulté?

Lana Swartz, professeur d'études des médias au Collège des arts et sciences de l'Université de Virginie, étudie l'intersection de l'IA et de la fraude, et comment vous pouvez vous protéger. Elle a récemment discuté avec UVA aujourd'hui.

Les escroqueries AI sont-elles quelque chose de nouveau? Ou est-ce que l'IA est un outil qui a aidé les fraudeurs à amener les escroqueries communes à un nouveau niveau?

Les deux. L'IA automatise les anciennes escroqueries de masse – les courriels de phishing traditionnels envoyés à des millions, mais il démocratiser également ce qui était autrefois des techniques d'élite.

« Harpoon Phishing » signifiait des attaques très ciblées et personnalisées contre des individus de grande valeur comme les PDG, nécessitant des équipes de chercheurs et d'ingénieurs sociaux. Il est désormais beaucoup moins à forte intensité de ressources pour exécuter le même type d'opérations sur des gens ordinaires. L'IA peut être utilisée pour rendre la communication de l'escroquerie plus efficace – la traduction de la langue plus grande, ciblant les personnes atteintes de démence ou des niveaux de lecture inférieurs.

L'IA crée également de nouvelles catégories d'escroqueries comme la fraude à l'identité synthétique, qui utilise des visages générés par l'IA, des backstories et des antécédents de médias sociaux pour créer des personnes qui n'ont jamais existé, mais qui ont des empreintes numériques complètes qui peuvent passer la plupart des systèmes de vérification.

Quelles sont les escroqueries et la fraude assistées par AI les plus courantes?

Le clonage vocal pour les « escroqueries grandiales » fait la une des journaux, et c'est important, mais nous voyons également une « boucherie de cochon » entièrement augmentée – où les escrocs utilisent l'IA pour maintenir de fausses relations pendant des mois. Initialement, la victime de perfusion de porcs voit un retour sur investissement, poussant la victime à faire des investissements de crypto-monnaie de plus en plus importants. Une fois que le « cochon » est engraissé, l'escroc prend l'argent.

Même sans une approche directe de l'investissement, l'IA peut être utilisée pour générer de faux jetons cryptographiques avec de fausses mentions de célébrités et de fausses plateformes de trading. La sextorsion est une autre grande, utilisant des images compromettant des AI pour les victimes de chantage. Chaque arnaque à laquelle vous pouvez penser a une application pour l'IA. Il existe des critiques de faux produits générées par l'IA, des offres d'emploi et des représentants du service client.

Que devraient savoir les gens des escroqueries en IA? Comment peuvent-ils se protéger?

Soyez sceptique quant aux demandes urgentes d'informations en matière d'argent ou de personne personnelle, en particulier celles impliquant des appels vocaux prétendant provenir de membres de la famille en détresse. Vérifiez les identités via des canaux indépendants avant de prendre des mesures. Ralentissez-vous face à des situations à haute pression.

Soyez particulièrement prudent des opportunités d'investissement promettant des rendements rapides, surtout lorsqu'ils proviennent de partenaires romantiques en ligne, d'amis et de mentors. Ne tirez pas de conversations sur des plates-formes établies. N'oubliez pas que les organisations légitimes ne demanderont pas d'informations sensibles via des appels ou des messages non sollicités. En cas de doute, raccrochez et contactez l'organisation directement en utilisant les coordonnées officielles que vous trouvez indépendamment.

Si quelqu'un tombe en proie à une arnaque AI, que devraient-ils faire ensuite?

Agir immédiatement. Contactez votre banque ou votre processeur de paiement. Congeler votre crédit. Rapport au Centre des plaintes de criminalité sur Internet du FBI, à la Federal Trade Commission et à la plate-forme où l'arnaque s'est produite. Documenter et prendre des captures d'écran de tout. Les cartes de crédit offrent une bien meilleure protection que les transferts de fil ou la crypto et même les cartes de débit.

Sachez que si la personne arnaque a développé une relation avec un escroc, elle sera probablement confrontée à une manipulation émotionnelle. Malheureusement, les escroqueries transfrontalières de crypto-monnaie entraînent rarement la récupération. Plus vous agissez vite, meilleur est vos chances. Il est également important de réduire la honte et la stigmatisation autour de la viciation.

Vous avez co-écrit un rapport sur la façon dont l'IA a élevé la fraude. Avec des progrès rapides d'IA et pas de pénurie d'escrocs, qu'est-ce qui vous fait éveiller la nuit?

La pure complexité de ce à quoi nous avons affaire. Ce n'est pas seulement un problème technologique ou un problème de réglementation ou un problème d'éducation; C'est tout cela simultanément. C'est un problème avec Global Reach. De nombreuses escroqueries sont perpétrées par des victimes de la traite des êtres humains dans des endroits ayant une gouvernance de l'État ratée.

Du côté américain, tout se produit dans un contexte de confiance réduite dans les institutions et l'incertitude économique. De plus en plus de personnes sont confrontées à la précarité et se retrouvent à utiliser des canaux informels et à faire des choix risqués.

Que peut-on faire?

La solution doit être à plusieurs volets. Nous avons besoin d'une collaboration gouvernementale, industrielle et de la société civile à travers les frontières. Nous avons besoin d'une éducation culturelle qui rencontre des gens où ils se trouvent. Les escroqueries sont déjà une grande partie de la culture populaire, alors travaillons avec cela plutôt que contre.

Nous devons investir dans une éducation financière qui représente en fait ce à quoi les gens sont confrontés aujourd'hui, et non des conseils obsolètes qui ne tiennent pas compte de la complexité du paysage financier en ligne.

Les entreprises d'IA et les plateformes technologiques doivent accepter une plus grande responsabilité de prévenir les escroqueries en AI en mettant en œuvre des systèmes de détection robustes, des mécanismes de rapports et des politiques de suppression du contenu frauduleux. Au-delà de l'autorégulation, les gouvernements doivent établir des cadres réglementaires complets qui tiennent ces plateformes juridiquement responsables.