Les cybercriminels achètent de plus en plus un nouvel outil d’IA malveillant appelé GhostGPT et l’utilisent pour générer des e-mails d’hameçonnage, des logiciels malveillants et d’autres contenus dangereux. Des chercheurs d’Abnormal Security ont découvert pour la première fois que GhostGPT était vendu via l’application de messagerie Telegram à la fin de 2024.
Qu’est-ce que GhostGPT ?
Selon les chercheurs d’Abnormal Security, GhostGPT semble utiliser un wrapper pour se connecter à une version débridée de ChatGPT ou à un autre grand modèle de langage (LLM). ChatGPT et les autres LLM disposent de garde-fous éthiques qui les empêchent de fournir certaines réponses jugées indésirables, comme la création d’un e-mail d’hameçonnage malveillant. Le débridage du LLM lui permet de produire du contenu non censuré en réponse à des requêtes sensibles ou contraires à l’éthique.
Comme GhostGPT prend déjà en charge le débridage — une opération techniquement difficile et chronophage —, il permet aux cybercriminels inexpérimentés de commencer rapidement à créer du contenu malveillant. Il leur suffit de payer les frais via Telegram pour obtenir immédiatement l’accès au modèle d’IA. Les créateurs de GhostGPT promettent également des temps de réponse rapides et affirment que les réponses ne sont pas enregistrées, conformément à la politique « no logs » de l’outil, ce qui contribue à dissimuler les activités illégales.
Pour tester le modèle GhostGPT, les chercheurs lui ont demandé de générer un e-mail d’hameçonnage imitant DocuSign. Ils ont déclaré que le chatbot avait « produit un modèle convaincant en toute simplicité » et en ont partagé une capture d’écran. Les chercheurs indiquent également que GhostGPT a été consulté des milliers de fois sur des forums en ligne, ce qui montre l’intérêt croissant des hackers pour l’utilisation de la puissance de l’IA générative afin de créer du contenu malveillant.
Les cybercriminels tirent parti des outils d’IA générative
GhostGPT n’est pas le premier outil utilisé par des acteurs malveillants pour exploiter la puissance de l’IA. Le chatbot WormGPT, conçu spécifiquement pour faciliter les attaques par compromission de messagerie professionnelle (BEC), a été lancé en 2023. D’autres variantes de ces modèles d’IA malveillants sont depuis apparues, notamment WolfGPT et EscapeGPT.
Ces outils d’IA générative malveillants abaissent la barrière à l’entrée pour les cybercriminels et leur permettent de créer des contenus plus convaincants. Grâce à l’IA, ils peuvent rapidement générer un e-mail d’hameçonnage et le vérifier pour y déceler des erreurs en quelques touches. Ces e-mails semblent souvent légitimes et sont bien plus difficiles à repérer que les tentatives d’hameçonnage d’autrefois. L’accélération et le gain d’efficacité permettent également aux acteurs malveillants de lancer davantage d’attaques en moins de temps, ce qui augmente le taux de cybercriminalité.
Découvrez comment l’IA générative peut être utilisée en cybersécurité ou explorez les meilleurs logiciels de sécurité basés sur l’IA pour voir comment ces outils peuvent être utilisés dans le respect de la loi.