Les escroqueries à l’ère de l’IA
En tant qu'étudiant, Gabriel Aguilar a été victime d'une arnaque élaborée. Les fraudeurs se faisaient passer pour des employeurs offrant des opportunités d’emploi leur permettant de gagner rapidement des revenus.
Il a terminé ce qui semblait être un processus d'entretien légitime, s'est vu proposer un poste et a même reçu un chèque pour acheter un ordinateur portable, qui comprenait une note des agresseurs pour leur envoyer la monnaie. L'arnaque devait se dérouler avec le chèque sans provision et le Dr Aguilar perdant son propre argent. Heureusement, sa banque a signalé le chèque en raison de fautes de frappe et d'erreurs.
Aguilar, aujourd'hui professeur adjoint de rédaction technique et de communication professionnelle au département d'anglais de l'Université du Texas à Arlington, examine comment les escrocs d'aujourd'hui utilisent l'intelligence artificielle (IA) pour aider à escroquer le public, en particulier la population latino-américaine, qui est souvent ciblée.
Il y a des années, lorsqu’Aguilar a été victime d’une arnaque, le monde n’avait pas encore assisté à une augmentation explosive de l’utilisation de l’IA. Si les fraudeurs avaient tenté la même arnaque avec l’IA aujourd’hui, aurait-il eu plus de chances de réussir et d’avoir réussi à escroquer Aguilar ?
La nouvelle recherche d'Aguilar vise à réduire la probabilité que les populations vulnérables soient victimes d'arnaques à l'IA en augmentant les connaissances de ses étudiants en IA grâce à des compétences en rédaction technique.
Les cours de rédaction technique apprennent aux étudiants à présenter des informations complexes ou spécialisées d'une manière claire, précise et facile à comprendre pour le public visé. Cela aide les gens à comprendre un sujet, à suivre des instructions ou à prendre des décisions éclairées.
L'étude d'Aguilar, récemment publiée dans le Journal de communication commerciale et techniqueexplore la manière dont les fraudeurs de l'IA ciblent les populations sensibles en utilisant des tactiques d'exploitation séculaires renforcées par les progrès technologiques rapides de cette nouvelle ère. Ses recherches indiquent que les deepfakes, le clonage vocal et les robots vocaux IA sont parmi les tactiques d'IA les plus couramment utilisées pour moderniser certaines des plus anciennes astuces du manuel de jeu des escrocs.
« Dans mon domaine, il existe un consensus croissant selon lequel lorsque les humains et l'IA travaillent ensemble, ils concluent ce que nous appelons des partenariats créatifs, généralement pour produire un travail animé de bonnes intentions positives », a déclaré Aguilar. « Je reprends la conversation et regarde comment ces partenariats créatifs se produisent avec des personnes qui utilisent de manière néfaste l'IA pour arnaquer les autres. »
Ainsi, pour que les étudiants acquièrent une compréhension globale des escroqueries potentielles liées à l’IA, Aguilar a présenté un cadre en quatre parties que les instructeurs techniques et professionnels en communication peuvent utiliser lorsqu’ils enseignent l’IA.
« Essentiellement, ce cadre vise à enseigner que l'IA n'a pas révolutionné l'escroquerie : elle a donné aux escrocs plus d'outils pour rendre leurs tactiques d'escroquerie plus convaincantes », a déclaré Aguilar. « Et une fois que les élèves ont appris à détecter quand quelque chose ne va pas, ils peuvent diffuser l'information à leurs familles et à leurs communautés pour améliorer progressivement leurs connaissances en IA. »
Des cours comme la rédaction technique, a déclaré Aguilar, sont précieux pour préparer les étudiants à la vie au-delà de l'obtention du diplôme, pour enseigner des compétences transférables à des opportunités de carrière significatives et pour les aider à réfléchir de manière critique à ces opportunités.
« Pour moi, la rédaction technique est un outil qui aide à dissoudre les œillères que les gens peuvent mettre en place et à les amener à réfléchir et à voir rapidement quand les choses semblent trop belles pour être vraies », a déclaré Aguilar.
