-10.png?w=1024)
Gestohlene Zugangsdaten für Unternehmens-KI befeuern einen Untergrundmarkt, auf dem Cyberkriminelle den Zugang zu Premium-KI-Modellen weiterverkaufen, während die rechtmäßigen Kontoinhaber auf den Rechnungen sitzen bleiben.
Forscher der Google Threat Intelligence Group (GTIG) und von Mandiant haben sogenannte LLM Mixers identifiziert. Diese bündeln kompromittierte API-Zugangsdaten und leiten KI-Anfragen über die Konten der Opfer. Dadurch können zahlende Kunden auf teure KI-Modelle zugreifen, ohne selbst rechtmäßige Abonnements abzuschließen.
Laut Googles Untersuchung mussten einige Organisationen an einem einzigen Tag mehr als 100.000 US-Dollar an nicht autorisierten KI-Gebühren tragen. In bestimmten Fällen sollen sich die Kosten auf bis zu 1 Million US-Dollar belaufen haben, bevor die Angreifer entfernt wurden.
Die Ergebnisse legen nahe, dass sich die Übernahme von KI-Tokens über den opportunistischen Diebstahl von Zugangsdaten hinaus zu einem kriminellen Geschäftsmodell für böswillige Akteure entwickelt.
Wie Angreifer gestohlene KI-Zugangsdaten zu einem Geschäftsmodell machen
Die als LLMjacking bekannte Technik hat laut Google Organisationen in Nordamerika, Südamerika und im asiatisch-pazifischen Raum betroffen.
Statt in KI-Modelle einzubrechen, nehmen Kriminelle die Zugangsdaten ins Visier, die Unternehmen für den Zugriff auf diese Modelle verwenden. Dazu können API-Schlüssel gehören, die in öffentlichen Code-Repositories offengelegt wurden, oder Zugangsdaten, die sie über kompromittierte Konten erlangt haben.
Sobald Angreifer Zugriff erhalten, können sie über das Konto des Opfers Anfragen an kommerzielle KI-Modelle senden und so Nutzungsgebühren erzeugen, die der rechtmäßige Kontoinhaber möglicherweise nicht sofort bemerkt.
Einige Betreiber gehen noch weiter und erstellen LLM Mixers – Dienste, die den Zugang mehrerer kompromittierter Konten bündeln und an zahlende Kunden weiterverkaufen.
Ein in der Untersuchung genanntes Beispiel ist Jet Night, das für etwa 60 US-Dollar pro Monat unbegrenzten KI-Zugriff anbot.
Das Ergebnis ist ein kriminelles Geschäftsmodell, bei dem Angreifer gestohlene Zugangsdaten zu Geld machen und zugleich die Kosten der KI-Nutzung auf die Organisationen abwälzen, deren Konten kompromittiert wurden.
Was eWEEK herausgefunden hat: Gestohlener KI-Zugang schafft eine neue Form des finanziellen Risikos
Googles Erkenntnisse zeigen einen Unterschied zwischen herkömmlichem Diebstahl von Zugangsdaten und LLMjacking: Angreifer können gestohlenen KI-Zugang in eine wiederkehrende Einnahmequelle verwandeln, ohne zwangsläufig Daten zu stehlen oder die Systeme des Opfers zu beeinträchtigen. Jede nicht autorisierte Anfrage verbraucht Ressourcen, die dem kompromittierten Konto in Rechnung gestellt werden. So können sich die Kosten anhäufen, während der Dienst weiterläuft.
Das Aufkommen von LLM Mixers fügt der Bedrohung eine weitere Ebene hinzu. Betreiber können den Zugang mehrerer kompromittierter Konten bündeln und an Kunden weiterverkaufen, statt die gestohlenen Zugangsdaten selbst zu nutzen. Dadurch werden die Personen, die Zugangsdaten stehlen, von denen getrennt, die die KI-Dienste nutzen. Für Kontoinhaber kann es dadurch schwieriger werden, nicht autorisierte Aktivitäten zu erkennen.
Sicherheitsaspekt | Herkömmliche Kontenkompromittierung | LLMjacking-spezifische Aktivitäten |
|---|---|---|
| Primäres Ziel | Benutzerkonten, Zugangsdaten, Systeme oder Daten | Cloud-Zugangsdaten, KI-API-Schlüssel oder offengelegte Modell-Endpunkte |
| Krimineller Nutzen | Nicht autorisierter Zugriff, Datendiebstahl oder Missbrauch von Ressourcen | Nicht autorisierte KI-Nutzung und Weiterverkauf des Modellzugangs |
| Auswirkungen auf Unternehmen | Datenoffenlegung, Betriebsunterbrechungen oder Infrastrukturkosten | Betrügerische KI-Gebühren, möglicherweise zusammen mit Datendiebstahl oder einer umfassenderen Kompromittierung der Cloud |
| Herausforderung bei der Erkennung | Erkennung nicht autorisierten Zugriffs und verdächtiger Kontoaktivitäten | Erkennung ungewöhnlicher Modellanfragen, des Missbrauchs von Zugangsdaten und unerwarteter KI-Ausgaben |
Der Vergleich macht deutlich, dass Unternehmen beim Thema KI-Sicherheit möglicherweise eine Lücke schließen müssen. Herkömmliche Identitätskontrollen bleiben unverzichtbar. Gültige API-Zugangsdaten können jedoch dazu führen, dass nicht autorisierte Anfragen wie gewöhnlicher Anwendungsverkehr aussehen. Die Überwachung des Zugriffs allein reicht daher möglicherweise nicht aus, wenn Einblick in Nutzungsmuster und Ausgaben fehlt.
Die Erkenntnisse belegen nicht, dass Kriminelle kompromittierte KI-Konten für Angriffe auf dieselben Organisationen nutzen, die für diese Ressourcen bezahlen. Sie zeigen jedoch ein Geschäftsmodell, bei dem sich gestohlene Zugangsdaten wiederholt zu Geld machen lassen und die KI-Nutzung selbst zu einem Sicherheits- und Finanzrisiko wird.
Was Unternehmen daraus mitnehmen sollten
Der Aufstieg von LLMjacking deutet nicht unbedingt auf eine neue Klasse von Sicherheitslücken hin. Er zeigt, wie Angreifer vertraute Taktiken wie den Diebstahl von Zugangsdaten und die Übernahme von Konten auf ein neues Ziel anwenden: KI-Dienste von Unternehmen. Je mehr KI-Tools Unternehmen einsetzen, desto mehr Konten, API-Schlüssel und Verbindungen schaffen sie, die Angreifer ausnutzen können, wenn sie nicht angemessen geschützt sind.
Damit bleiben grundlegende Cybersicherheitspraktiken auch für die Einführung von KI relevant. Unternehmen sollten einschränken, wer und was auf ihre KI-Dienste zugreifen kann, API-Schlüssel aus öffentlichen Code-Repositories heraushalten, Mitarbeiterkonten mit Multi-Faktor-Authentifizierung schützen und Zugriffsberechtigungen regelmäßig überprüfen.
Außerdem sollten sie die KI-Nutzung und Abrechnung auf ungewöhnliche Spitzen überwachen, sofern verfügbar Ausgabenlimits festlegen und Zugangsdaten sofort widerrufen, wenn sie eine Kompromittierung vermuten.
Der Schutz des Zugriffs ist jedoch nur ein Teil der Aufgabe. Die Einführung von KI bedeutet auch, zu verstehen, mit welchen Unternehmenssystemen diese Tools verbunden sind, auf welche Informationen sie zugreifen können und wie viele Ressourcen sie nutzen dürfen. Ein KI-Tool mit Berechtigungen für den Zugriff auf Unternehmensdaten oder zur Ausführung von Aufgaben kann zu einer ernsthaften Haftung werden, wenn sein Konto oder seine Zugangsdaten in die falschen Hände geraten.
Für Unternehmen, die KI einführen, lautet die Lehre, dass API-Zugangsdaten mit derselben Sorgfalt behandelt werden sollten wie andere sensible Cloud-Zugriffsschlüssel. Ein kompromittiertes Konto kann mehr als Unternehmensdaten oder Rechenressourcen offenlegen: Es kann auch erhebliche Kosten verursachen, bevor Sicherheitsteams erkennen, dass etwas nicht stimmt.
Da KI-Dienste immer stärker in Geschäftsabläufe eingebettet werden, müssen Organisationen nicht nur überwachen, wer auf ihre Modelle zugreifen kann, sondern auch, wie diese Modelle genutzt werden und welche Kosten diese Nutzung verursacht.
Weitere Nachrichten zur KI-Sicherheit: Anthropic berichtete, dass ein unveröffentlichtes Claude-Modell fünf funktionierende Exploit-Ketten entwickelte für Angriffe auf Chrome, Safari, Android, Windows und Linux. Dies zeigt, wie KI Softwareschwachstellen zu Angriffen kombinieren kann, die Sicherheitsvorkehrungen umgehen, auf sensible Daten zugreifen und Systeme kompromittieren können.