Les pirates nord-coréens ont utilisé Chatgpt pour aider à forger un ID Deepfake
Un groupe de piratage soupçonné par l'État nord-coréen a utilisé Chatgpt pour créer un document d'identification militaire en profondeur pour attaquer une cible en Corée du Sud, selon des chercheurs en cybersécurité.
Les attaquants ont utilisé l'outil d'intelligence artificielle pour élaborer un faux projet d'une carte d'identité militaire sud-coréenne afin de créer une image réaliste destinée à rendre une tentative de phishing plus crédible, selon la recherche publiée dimanche par des génies, une entreprise sud-coréenne de cybersécurité. Au lieu d'inclure une vraie image, l'e-mail lié à des logiciels malveillants capables d'extraire des données des appareils des destinataires, selon les génies.
Le groupe responsable de l'attaque, que les chercheurs ont surnommé Kimsuky, est une unité de cyber-espionnage parrainée par la Corée du Nord, auparavant liée à d'autres efforts d'espionnage contre des cibles sud-coréennes. Le département américain de la sécurité intérieure a déclaré que Kimsuky « est très probablement chargé par le régime nord-coréen avec une mission mondiale de collecte de renseignement », selon un avis en 2020.
Les résultats des génies en juillet sont le dernier exemple d'agents nord-coréens présumés déploiement de l'IA dans le cadre de leur travail de collecte de renseignement. Anthropic a déclaré qu'en août, il avait découvert que les pirates nord-coréens ont utilisé l'outil Claude Code pour être embauché et travailler à distance pour les entreprises technologiques américaines Fortune 500. Dans ce cas, Claude les a aidés à construire des fausses identités élaborées, à passer des évaluations de codage et à livrer des travaux techniques réels une fois embauchés.
Les représentants d'OpenAI n'ont pas immédiatement répondu à une demande de commentaires en dehors des heures normales. La société a déclaré en février qu'elle avait interdit de présumer des comptes nord-coréens qui avaient utilisé le service pour créer des curriculum vitae frauduleux, des lettres de motivation et des publications sur les réseaux sociaux pour essayer de recruter des personnes pour aider leurs programmes.
La tendance montre que les attaquants peuvent tirer parti de l'IA émergente pendant le processus de piratage, notamment la planification des scénarios, le développement de logiciels malveillants, la construction de leurs outils et l'identité des recruteurs d'emplois, a déclaré Mun Chong-hyun, directeur chez Génians.
Les cibles de phishing dans cette dernière frénésie de cybercriminalité comprenaient des journalistes sud-coréens et des chercheurs et des militants des droits de l'homme axés sur la Corée du Nord. Il a également été envoyé à partir d'une adresse e-mail se terminant par .mli.kr, une usurpation d'identité d'une adresse militaire sud-coréenne.
Le nombre de victimes a été violée exactement n'était pas immédiatement claire.
Les chercheurs de génies ont expérimenté le chatppt lors de l'étude du faux document d'identification. Comme la reproduction des identifiants gouvernementaux est illégale en Corée du Sud, Chatgpt a initialement rendu un refus lorsqu'on lui a demandé de créer un identifiant. Mais la modification de l'invite leur a permis de contourner la restriction.
Les responsables américains ont allégué que la Corée du Nord était engagée dans un effort de longue date pour utiliser les cyberattaques, le vol de crypto-monnaie et les entrepreneurs informatiques pour recueillir des informations au nom du gouvernement de Pyongyang.
Selon le gouvernement américain,
