.png?w=1024)
Sie kennen diese SMS. „Ihr Paket wird zurückgehalten.“ „Ihre Mautgebühr ist überfällig.“ „Verdächtige Aktivitäten in Ihrem Konto.“ Wahrscheinlich haben Sie sie gelöscht, ohne darauf zu klicken.
Klug. Denn die dahinterstehende Operation wurde gerade von Google verklagt … und die Zahlen sind erschreckend.
Google hat eine Klage eingereicht gegen Outsider Enterprise, ein in China ansässiges Cybercrime-Netzwerk, dem vorgeworfen wird, Gemini (Googles eigene KI) zur massenhaften Erstellung von Phishing-Websites und zur Überschwemmung amerikanischer Handys mit betrügerischen SMS eingesetzt zu haben. Es ist das erste Mal, dass Google Kriminelle speziell wegen des Missbrauchs von Gemini für Betrugsmaschen verklagt.
Das ist passiert:
- Allein in zwei Wochen im Mai verschickte Outsider Enterprise 2,5 Millionen Betrugs-SMS an Android-Nutzer und löste damit 55.000 Spam-Beschwerden aus.
- Das FBI schätzt, dass die Gruppe seit Juli 2023 3,87 Millionen Kreditkartennummern gestohlen und Verluste von rund 1,9 Milliarden US-Dollar verursacht hat.
- Google identifizierte mehr als 9.000 gefälschte Websites und 1,5 Millionen betrügerische URLs, die mit der Operation in Verbindung stehen.
- Die Gruppe nutzte Gemini, um HTML-Code für überzeugende gefälschte Websites zu generieren, die Google, YouTube, den US Postal Service, Banken und Mautbehörden imitierten.
- Sie betrieben das Ganze wie ein Franchise: ein abonnementbasiertes Phishing-Toolkit auf Telegram, ab 88 US-Dollar pro Woche, mit mehr als 290 vorgefertigten Vorlagen, die jeder technisch unerfahrene Kriminelle innerhalb weniger Minuten einsetzen konnte.
Warum das wichtig ist
Vor der KI brauchte man zum Erstellen einer überzeugenden gefälschten Website einen Programmierer und ein paar Stunden. Outsider Enterprise verkürzte das auf wenige Minuten und verkaufte diese Möglichkeit dann an jeden, der 88 US-Dollar und ein Telegram-Konto hatte.
Das Geschäftsmodell ist hier der beunruhigende Teil. Outsider Enterprise verkaufte das Toolkit auch an andere Kriminelle. Jeder technisch unerfahrene Käufer konnte sich bei Telegram anmelden, 88 US-Dollar pro Woche bezahlen, eine Vorlage auswählen, die seine Bank oder den USPS imitiert, und damit beginnen, Kreditkartennummern abzugreifen. Gemini war die Produktionsmaschine, die überzeugende gefälschte Seiten schneller generierte, als jedes menschliche Team es gekonnt hätte.
Google koordiniert sich nun mit dem FBI und hat sich mit AT&T, T-Mobile und Verizon zusammengeschlossen, um den Datenverkehr zu blockieren. Außerdem unterstützt das Unternehmen sieben überparteiliche Gesetzesentwürfe im Kongress, die auf KI-gestützte Betrugsmaschen abzielen.
Unsere Einschätzung
Das unangenehme Detail ist, dass Outsider Enterprise durchgehend Googles eigene Infrastruktur nutzte: Gemini für Inhalte, Google Cloud zum Hosten der gefälschten Websites und Google Drive zum Speichern der gestohlenen Daten. Dass Google sie verklagt, ist der richtige Schritt. Aber es ist auch eine nützliche Erinnerung daran, dass dieselben KI-Tools die Ihre Arbeit schneller machen, auf Telegram für 88 US-Dollar pro Woche vermietet werden, um Kreditkartennummern zu stehlen.
Die Betrugs-SMS werden weniger werden. Das Toolkit existiert weiterhin.
Nebenbei: Wenn Sie verstehen möchten, wie KI-Modelle im Hintergrund gebündelt und weitergeleitet werden, haben wir OpenRouters neue Fusion API aufgeschlüsselt. Damit können Sie Prompts gleichzeitig durch mehrere Modelle laufen lassen und die beste Antwort daraus zusammenführen. Eine gute Erklärung dafür, wohin sich die KI-Infrastruktur im Hintergrund entwickelt. Hier lesen.
Anmerkung der Redaktion: Dieser Artikel erschien ursprünglich in unserer Schwesterpublikation, The Neuron.