-1.png?w=1024)
Googles eigene KI half dabei, einen massiven Phishing-Betrieb zu skalieren. Nun will das Unternehmen, dass der Betrieb rechtlich zerschlagen wird.
Google zufolge nutzte eine mutmaßlich in China ansässige Cybercrime-Plattform Gemini und andere KI-Plattformen, um ein Phishing-Ökosystem zu unterstützen, das für Millionen von Betrugs-SMS und Tausende gefälschter Websites verantwortlich ist, die vertrauenswürdige Dienste imitieren. Nun beantragt das Unternehmen bei einem Gericht, den Betrieb stillzulegen, und argumentiert, dass der Einsatz von KI durch die Gruppe dazu beigetragen habe, eine bekannte Cybercrime-Taktik in etwas weitaus Größeres, Einfacheres und Effizienteres zu verwandeln.
Die Klage wirft eine der größten Fragen auf, die über dem KI-Boom schweben: Was passiert, wenn dieselben Tools, die zur Steigerung der Produktivität entwickelt wurden, Kriminellen dabei helfen, Betrug zu skalieren?
Ein Blick ins Innere eines KI-gestützten Betrugsbetriebs
Im Zentrum des Betriebs stand eine in China ansässige Cybercrime-Gruppe namens Outsider Enterprise. Die Gruppe baute ein massives Phishing-Netzwerk auf, das sich auf Identitätsvortäuschung und Betrug konzentrierte.
Google zufolge verschickte die Gruppe innerhalb von zwei Wochen 2,5 Millionen Betrugs-SMS an Android-Nutzer. Sie startete 9.000 gefälschte Websites, die Opfer dazu bringen sollten, sensible persönliche und finanzielle Informationen preiszugeben. Google zufolge setzte die Gruppe außerdem 1 Million gefälschte Domains ein; mehrere davon wurden zusammen mit gefälschten Shopify-Konten beschlagnahmt.
Der Technologiekonzern erklärt, Outsider Enterprise habe seine Abläufe mithilfe von KI vereinfacht, wobei Gemini eine unterstützende Rolle in dem Schema spielte. Das Unternehmen behauptet, Mitglieder des Betriebs hätten diese KI-Plattformen genutzt, um Phishing zu skalieren und Nutzer unter dem Deckmantel von Telekommunikationsanbietern, Finanzinstituten, Behörden und Einzelhändlern zu täuschen.
Gerichtsunterlagen verweisen außerdem auf Schulungsmaterial, das anderen Betrügern zeigte, wie sie eine Phishing-Infrastruktur erstellen und optimieren konnten. Nach Googles eigener Darstellung führten die Betreiber von Outsider Enterprise nicht nur weitreichende Phishing-Angriffe durch, sondern entwickelten auch Outsider. Dieses Abonnement-Tool für „Phishing-Dummies“ kostet 88 US-Dollar pro Woche und 200 US-Dollar pro Monat.
Das Ergebnis war laut Google ein Betrugsbetrieb, der überzeugende Betrugsversuche in einem Umfang produzieren konnte, für den traditionell erheblich mehr Zeit, Fachwissen und Personal erforderlich gewesen wären. Phishing selbst ist zwar keineswegs neu, doch das Unternehmen erklärt, der Einsatz von KI durch die Gruppe habe dazu beigetragen, die bekannte Taktik auszuweiten.
So funktionierte das Phishing-Netzwerk von Outsider Enterprise
Google zufolge arbeitet der Betrieb mit anderen Mitgliedsgruppen zusammen.
Einige erstellen und pflegen mehr als 290 verwendete Phishing-Vorlagen, während andere Ziellisten aus öffentlichen Registern, sozialen Medien und Quellen von Datenschutzverletzungen bereitstellen. Eine weitere Gruppe liefert die Tools und Infrastruktur für den massenhaften Versand von Betrugs-SMS, darunter Smartphones, SIM-Karten und Modems. Eine vierte Gruppe kümmert sich um die Monetarisierung und Geldwäsche der erbeuteten Gelder.
In einer Stellungnahme gegenüber TechCrunch erklärte ein Google-Sprecher, die Plattform sei mindestens seit Juli 2023 aktiv. Seitdem hätten Hacker durch die Nutzung der Plattform „schätzungsweise 3.870.000 gestohlene Kreditkarten und entsprechende geschätzte Verluste in Höhe von 1,9 Milliarden US-Dollar“ ermöglicht.
Das Unternehmen erklärt außerdem, dass vom 14. Nov. 2025 bis zum 14. Apr. 2026 mehr als 1,59 Millionen URLs mit der Plattform von Outsider Enterprise verbunden waren, was auf ein hohes Maß an Aktivität hindeutet.
Was Google erreichen will
Um Spam-Aktivitäten zu blockieren, arbeitete Google mit den Netzbetreibern AT&T, T-Mobile und Verizon zusammen. Die Stilllegung der Plattform und die Beschlagnahmung von Domains wurden durch die Zusammenarbeit von Google, dem FBI und Lumen’s Black Lotus Labs ermöglicht.
Outsider Enterprise stellt seinen Betrieb jedoch, wie viele andere Gruppen dieser Art, nach solchen Störungen nicht ein. Deshalb ist Google nicht nur vor Gericht gezogen, um Schadenersatz und Strafschadenersatz zu fordern, sondern auch, damit das Gericht seine rechtlichen Befugnisse nutzt, um den Betrieb der Plattform vollständig zu zerschlagen.
Lesen Sie auch: Sicherheitsforscher von Permiso haben ChatGPhish offengelegt, eine Prompt-Injection-Schwachstelle, durch die von Angreifern kontrollierte Inhalte in ChatGPT-Zusammenfassungen erscheinen konnten.