Avertissement d'escroquerie dialecte régional alors que la recherche découvre les capacités de l'IA
Les chercheurs de l'Université Abertay ont fait craindre que les progrès de la technologie vocale de l'IA puissent être exploités par des escrocs pour cibler les victimes sans méfiance en utilisant des accents régionaux.
Une nouvelle étude, dirigée par le Dr Neil Kirk du Département des sciences sociologiques et psychologiques, souligne comment les voix générées par l'IA sont devenues, les auditeurs supposant que les voix doivent être réelles, en particulier lorsqu'ils imitent des dialectes régionaux comme les Écossais dundoniens.
La recherche soulève des inquiétudes que les escrocs pourraient cibler des domaines spécifiques du pays et adopter des dialectes régionaux pour paraître plus humains et tromper les personnes.
Le Dr Kirk a déclaré: « Alors que les voix de l'IA deviennent plus avancées, cela devient de plus en plus difficile pour la plupart des gens de les distinguer du vrai discours humain. C'est une préoccupation sérieuse car les voix AI-Augmentation pourraient être utilisées dans des escroqueries comme le phishing ou la fraude, en particulier lorsqu'ils imitent de manière convaincante les accents et les dialectes régionaux. »
Publié dans la revue Ordinateurs dans le comportement humain: les humains artificielsla recherche impliquait la création de six phrases communes dans le dialecte écossais en anglais et en dialecte dundonien standard – par exemple, « le chien avait cinq chiots » et « le Doag avait des chiots FEV ».
Les enregistrements ont été traités à l'aide d'un logiciel AI et lorsqu'ils ont été joués avec 100 adultes écossais et 100 personnes du sud de l'Angleterre, la plupart des auditeurs ont eu du mal à distinguer les deux versions des vraies voix. En moyenne, les participants écossais ont correctement identifié des voix authentiques 57% du temps, tandis que les participants anglais ont obtenu 52%.
Bien que les Écossais soient meilleurs pour reconnaître les fausses voix, de nombreuses versions de l'IA ont quand même réussi à les tromper.
Le Dr Kirk a ajouté: « Les écossais ne sont pas souvent habitués à la compréhension de leur façon de parler, sans parler de nous.
« Cela souligne comment les escrocs pourraient exploiter les dialectes régionaux pour rendre les fausses voix plus convaincantes et dignes de confiance. De plus, ma recherche montre que le public sous-estime souvent à quel point cette technologie est devenue sophistiquée, tout en surestimant simultanément leur capacité à détecter une fausse voix. »
Dans le document, le Dr Kirk propose qu'une façon de réduire ces risques est d'augmenter la sensibilisation du public que les voix générées par l'IA peuvent sembler remarquablement réalistes, en particulier lorsque des accents régionaux sont impliqués. Cela pourrait être réalisé grâce à des campagnes de sensibilisation du public ou à des invites de sécurité à partir de services comme les services bancaires en ligne.
Il a ajouté: « Bien que de telles campagnes de sécurité publique puissent conduire à plus de fausses alarmes – telles que confondre un véritable appel de la banque d'une personne pour une voix d'IA – l'avantage global est un risque plus faible de être victime d'escroqueries ou de manipulation, ce qui pourrait avoir de graves conséquences réelles. »
Les recherches primaires du Dr Kirk se concentrent sur la compréhension des mécanismes cognitifs sous-jacents au bridialectalisme – l'utilisation de variétés étroitement apparentées comme l'anglais écossais et les Écossais dundoniens. Reconnu par la charte européenne pour les langues régionales et minoritaires, les Écossais sont une langue germanique indigène parlée d'environ 1,5 million de personnes en Écosse.
Alors que les Écossais et l'anglais partagent une origine commune, leurs statuts ont évolué au fil du temps. De nombreuses personnes considèrent les Écossais comme une langue distincte, mais un rapport du gouvernement écossais a révélé que 64% des répondants le considèrent comme «une façon de parler».
