Des attaquants utilisent de véritables pages de contenu partagé de ChatGPT pour rendre plus crédibles de faux téléchargements d’applications OpenAI.
La LLMShare campagne, révélée par Push Security le 29 mai, montre comment la publicité malveillante peut exploiter les URL légitimes de plateformes d’IA avant de rediriger les utilisateurs vers des sites de téléchargement contrôlés par les attaquants. Pour les équipes chargées de la sécurité des entreprises, le risque ne tient pas au fait qu’OpenAI aurait été compromis, mais au fait que des domaines de confiance peuvent désormais héberger des pièges d’ingénierie sociale convaincants qui contournent les simples contrôles de réputation des domaines.
Comment les attaquants ont utilisé de véritables URL de ChatGPT
La documentation publique d’OpenAI indique que les liens de partage de ChatGPT peuvent rendre certaines conversations visibles à toute personne disposant de l’URL. Les attaquants ont utilisé une page distincte de contenu partagé située sur chatgpt.com/s/ pour afficher du HTML et du CSS personnalisés sous la forme d’un faux avis de service ChatGPT.
La page affichait un faux message de panne due à un trafic élevé, invitant les visiteurs à télécharger une application de bureau. Push Security a indiqué que les commandes « Show code » et « Remix with ChatGPT » montraient que l’avis n’était pas une alerte de service officielle d’OpenAI.
Les attaquants ont utilisé des annonces payantes dans les résultats de recherche pour diriger les utilisateurs vers la véritable page chatgpt.com/s/ avant de les rediriger vers openew[.]app, un site contrôlé par les attaquants qui imitait la page de téléchargement de l’application de bureau d’OpenAI.
BleepingComputer a rapporté que le faux site de téléchargement utilisait des techniques de dissimulation, affichant aux véritables visiteurs d’un navigateur la fausse page de téléchargement de ChatGPT tout en présentant à des outils comme URLScan un site d’entreprise AR/VR d’apparence inoffensive. Le site proposait des téléchargements pour macOS et Windows, même si la publication a précisé que les charges utiles finales n’étaient pas clairement identifiées dans son analyse.
ThreatLocker a de son côté cité des recherches de Malwarebytes qui ont identifié une campagne simultanée de faux téléchargements de ChatGPT utilisant Odyssey Stealer sur macOS, mais les détails précis des charges utiles doivent être rattachés à des échantillons spécifiques ou aux conclusions des chercheurs.
Pourquoi les pages d’IA de confiance présentent un risque pour les entreprises
La campagne exploite un raccourci de sécurité courant : considérer un domaine de confiance comme un gage de fiabilité du contenu. Dans ce cas, la page de première étape se trouvait sur un domaine légitime d’OpenAI, tandis que l’étape de téléchargement redirigeait les utilisateurs vers une infrastructure contrôlée par les attaquants.
Rien n’indique qu’OpenAI ait été compromis. Le risque tient au fait que les attaquants peuvent héberger du contenu d’ingénierie sociale sur des domaines auxquels les utilisateurs et les outils de sécurité sont conditionnés à faire confiance, un procédé également observé dans ChatGPhish, une technique distincte d’hameçonnage visant ChatGPT.
Le même mode opératoire ne se limite pas à ChatGPT. Push Security a également observé des conversations partagées sur Claude.ai contenant de faux guides d’installation qui demandaient aux utilisateurs de coller des commandes dans le terminal, tandis que de récentes recherches sur l’injection de prompts dans Gemini ont montré une autre manière pour les outils d’IA de faire apparaître des instructions non fiables.
Pour les équipes de sécurité, le problème concret se situe lors du passage du navigateur au téléchargement. Les défenses devraient examiner les redirections, les invites de téléchargement, les exécutables non signés, les destinations récemment apparues et les instructions demandant de copier des commandes, d’autant plus que le trafic automatisé et malveillant imite de plus en plus le comportement normal d’un navigateur. ThreatLocker recommande la liste blanche des applications, le contrôle des contenus web et la gestion des accès à privilèges.
Les employés devraient considérer comme suspects les messages les invitant à télécharger un logiciel depuis des pages d’IA partagées ou des messages de panne atteints via des annonces dans les résultats de recherche. La voie la plus sûre consiste à utiliser la page de téléchargement officielle du fournisseur ou un portail de logiciels d’entreprise approuvé.
À lire également : des chercheurs ont créé un ver piloté par l’IA qui adapte son parcours d’attaque, ce qui montre comment l’IA pourrait rendre les logiciels malveillants plus difficiles à prévoir