Les SMS frauduleux qui inondent votre téléphone ont été conçus avec la propre IA de Google

Vous les avez vus, ces SMS. « Votre colis est retenu. » « Votre péage est impayé. » « Activité suspecte sur votre compte. » Vous les avez probablement supprimés sans cliquer.

Bonne décision. Car l'opération qui se cache derrière vient d'être poursuivie en justice par Google… et les chiffres sont vertigineux.

Google a déposé plainte contre Outsider Enterprise, un réseau de cybercriminels basé en Chine accusé d'avoir utilisé Gemini (la propre IA de Google) pour produire en masse des sites d'hameçonnage et inonder les téléphones américains de SMS frauduleux. C'est la première fois que Google poursuit en justice des acteurs malveillants spécifiquement pour avoir détourné Gemini afin de mener des arnaques.

Voici ce qui s'est passé :

• En seulement deux semaines en mai, Outsider Enterprise a envoyé 2,5 millions de SMS frauduleux à des utilisateurs d'Android, générant 55 000 signalements de spam.
• Le FBI estime que le groupe a dérobé 3,87 millions de numéros de carte bancaire et causé environ 1,9 milliard de dollars de pertes depuis juillet 2023.
• Google a identifié plus de 9 000 faux sites web et 1,5 million d'URL frauduleuses liées à l'opération.
• Le groupe a utilisé Gemini pour générer le code HTML de faux sites convaincants usurpant l'identité de Google, YouTube, du service postal américain, de banques et d'organismes de péage.
• Ils géraient cela comme une franchise : une boîte à outils d'hameçonnage par abonnement sur Telegram, à partir de 88 dollars US par semaine, avec plus de 290 modèles préconçus qu'un criminel sans compétences techniques pouvait déployer en quelques minutes.

Pourquoi c'est important

Avant l'IA, créer un faux site convaincant nécessitait un développeur et quelques heures. Outsider Enterprise a réduit ce délai à quelques minutes, puis a vendu cette capacité à quiconque disposait de 88 dollars US et d'un compte Telegram.

C'est le modèle économique qui est le plus alarmant. Outsider Enterprise vendait également la boîte à outils à d'autres criminels. N'importe quel acheteur sans compétences techniques pouvait se connecter à Telegram, payer 88 dollars US par semaine, choisir un modèle usurpant l'identité de sa banque ou du service postal américain, puis commencer à récupérer des numéros de carte bancaire. Gemini était le moteur de production qui générait des pages factices convaincantes plus rapidement que n'importe quelle équipe humaine.

Google coordonne désormais ses actions avec le FBI et s'est associé à AT&T, T-Mobile et Verizon pour bloquer le trafic. L'entreprise soutient également sept projets de loi bipartisan au Congrès visant les arnaques orchestrées par l'IA.

Notre analyse

Le détail dérangeant, c'est qu'Outsider Enterprise a utilisé l'infrastructure de Google de bout en bout : Gemini pour le contenu, Google Cloud pour héberger les faux sites et Google Drive pour stocker les données volées. Google a raison de les poursuivre en justice. Mais c'est aussi un rappel utile : les mêmes outils d'IA qui accélèrent votre travail sont loués sur Telegram 88 dollars par semaine pour voler des numéros de carte bancaire.

Les SMS frauduleux vont ralentir. La boîte à outils, elle, existe toujours.

À propos, si vous voulez comprendre comment les modèles d'IA sont empilés et aiguillés en coulisses, nous avons décortiqué la nouvelle Fusion API d'OpenRouter, qui permet d'envoyer des prompts à plusieurs modèles à la fois et d'en synthétiser la meilleure réponse. Une bonne explication de la direction que prend discrètement l'infrastructure de l'IA. Lisez l'article ici.

Note de la rédaction : cet article a été publié à l'origine dans notre publication sœur, The Neuron.