FraudGPT et d'autres IA malveillantes sont la nouvelle frontière des menaces en ligne. Que pouvons-nous faire ?

Internet, une ressource vaste et indispensable pour la société moderne, a un côté plus sombre où les activités malveillantes prospèrent.

Du vol d’identité aux attaques de logiciels malveillants sophistiqués, les cybercriminels continuent de proposer de nouvelles méthodes d’escroquerie.

Les outils d’intelligence artificielle (IA) générative largement disponibles ajoutent désormais une nouvelle couche de complexité au paysage de la cybersécurité. Il est plus important que jamais de maîtriser votre sécurité en ligne.

L'essor des LLM dans le noir

L’une des adaptations les plus sinistres de l’IA actuelle est la création de « LLM sombres » (grands modèles de langage).

Ces versions non censurées des systèmes d’IA courants comme ChatGPT ont été repensées pour les activités criminelles. Elles fonctionnent sans contraintes éthiques et avec une précision et une rapidité alarmantes.

Les cybercriminels déploient des LLM sombres pour automatiser et améliorer les campagnes de phishing, créer des logiciels malveillants sophistiqués et générer du contenu frauduleux.

Pour y parvenir, ils recourent au « jailbreaking » LLM, en utilisant des invites pour amener le modèle à contourner ses protections et filtres intégrés.

Par exemple, FraudGPT écrit du code malveillant, crée des pages de phishing et génère des malwares indétectables. Il propose des outils pour orchestrer divers cybercrimes, de la fraude à la carte de crédit à l'usurpation d'identité numérique.

FraudGPT est commercialisé sur le dark web et sur l'application de messagerie cryptée Telegram. Son créateur commercialise ouvertement ses capacités, en mettant l'accent sur la vocation criminelle du modèle.

Une autre version, WormGPT, génère des e-mails de phishing persuasifs qui peuvent tromper même les utilisateurs les plus vigilants. Basé sur le modèle GPT-J, WormGPT est également utilisé pour créer des logiciels malveillants et lancer des attaques de « compromission de messagerie professionnelle » (phishing ciblé d'organisations spécifiques).

Que pouvons-nous faire pour nous protéger ?

Malgré les menaces qui planent, il y a une lueur d’espoir : à mesure que les défis se multiplient, les moyens de nous en défendre se développent.

Les outils de détection des menaces basés sur l’IA peuvent surveiller les programmes malveillants et répondre aux cyberattaques plus efficacement. Cependant, les humains doivent rester dans le coup pour garder un œil sur la façon dont ces outils réagissent, les actions qu’ils entreprennent et s’il existe des vulnérabilités à corriger.

Vous avez peut-être entendu dire que maintenir vos logiciels à jour est essentiel pour la sécurité. Cela peut sembler une corvée, mais c'est en réalité une stratégie de défense essentielle. Les mises à jour corrigent les vulnérabilités que les cybercriminels tentent d'exploiter.

Vos fichiers et vos données sont-ils régulièrement sauvegardés ? Il ne s’agit pas seulement de préserver les fichiers en cas de panne du système. Les sauvegardes régulières constituent une stratégie de protection fondamentale. Vous pouvez reprendre possession de votre vie numérique sans céder à l’extorsion si vous êtes la cible d’une attaque de ransomware (lorsque des criminels verrouillent vos données et exigent le paiement d’une rançon avant de les rendre publiques).

Les cybercriminels qui envoient des messages de phishing peuvent laisser des indices tels qu'une grammaire erronée, des salutations génériques, des adresses e-mail suspectes, des demandes trop urgentes ou des liens suspects. Développer l'œil pour détecter ces signes est aussi essentiel que de verrouiller sa porte la nuit.

Si vous n'utilisez pas encore de mots de passe forts et uniques et d'authentification multifacteur, il est temps de le faire. Cette combinaison multiplie votre sécurité, rendant l'accès à vos comptes beaucoup plus difficile pour les criminels.

À quoi pouvons-nous nous attendre dans le futur ?

Notre existence en ligne continuera d’être étroitement liée aux nouvelles technologies telles que l’intelligence artificielle. Nous pouvons également nous attendre à l’apparition d’outils de cybercriminalité plus sophistiqués.

L’intelligence artificielle malveillante améliorera le phishing, créera des programmes malveillants sophistiqués et améliorera l’exploration de données pour des attaques ciblées. Les outils de piratage basés sur l’intelligence artificielle seront largement disponibles et personnalisables.

En réponse à cela, la cybersécurité devra elle aussi s’adapter. On peut s’attendre à une chasse aux menaces automatisée, à un chiffrement résistant aux quanta, à des outils d’IA qui aident à préserver la vie privée, à des réglementations plus strictes et à une coopération internationale.

Le rôle des réglementations gouvernementales

Une réglementation gouvernementale plus stricte sur l’IA est un moyen de contrer ces menaces avancées. Cela impliquerait d’imposer le développement et le déploiement éthiques des technologies d’IA, de s’assurer qu’elles sont dotées de fonctionnalités de sécurité robustes et qu’elles respectent des normes strictes.

Outre une réglementation plus stricte, nous devons également améliorer la manière dont les organisations réagissent aux cyberincidents et les mécanismes de signalement obligatoire et de divulgation publique.

En exigeant des entreprises qu’elles signalent rapidement les cyberincidents, les autorités peuvent agir rapidement et mobiliser des ressources pour remédier aux violations avant qu’elles ne dégénèrent en crises majeures.

Cette approche proactive peut atténuer considérablement l’impact des cyberattaques, préservant ainsi à la fois la confiance du public et l’intégrité de l’entreprise.

En outre, la cybercriminalité ne connaît pas de frontières. À l’ère de la cybercriminalité alimentée par l’intelligence artificielle, la collaboration internationale est essentielle. Une coopération mondiale efficace peut simplifier la manière dont les autorités traquent et poursuivent les cybercriminels, créant ainsi un front uni contre les cybermenaces.

Alors que les logiciels malveillants basés sur l'IA prolifèrent, nous nous trouvons à un tournant critique du parcours technologique mondial : nous devons équilibrer l'innovation (nouveaux outils d'IA, nouvelles fonctionnalités, plus de données) avec la sécurité et la confidentialité.

Dans l'ensemble, il est préférable d'être proactif en ce qui concerne votre propre sécurité en ligne. De cette façon, vous pouvez garder une longueur d'avance sur le champ de bataille cybernétique en constante évolution.