OpenAI informiert Kunden über eine Sicherheitslücke bei einem Drittanbieter, durch die begrenzte Profildaten einiger API-Nutzer offengelegt wurden, nachdem der Analyseanbieter Mixpanel bestätigt hatte, Opfer eines Smishing-Angriffs geworden zu sein.
Mixpanel mit Sitz in San Francisco, das eigenen Angaben zufolge mehr als 11.000 Unternehmenskunden betreut, erklärte, dass der Sicherheitsvorfall von einer betrügerischen Textnachricht ausging, die Anfang dieses Monats entdeckt wurde. OpenAI zufolge waren die eigenen Systeme nicht betroffen. Der Vorfall zeigte jedoch, wie ein Sicherheitsverstoß bei einem externen Analyseanbieter dennoch Kundendaten offenlegen kann.
Nach Angaben des Unternehmens griff der Angreifer auf einen Datensatz mit Namen, E-Mail-Adressen und grundlegenden Browserdaten zu. Passwörter, Zugangsdaten, Chat-Inhalte oder API-Schlüssel wurden nicht offengelegt. OpenAI hat Mixpanel inzwischen aus der Produktionsumgebung entfernt und damit begonnen, betroffene Nutzer zu informieren.
Was OpenAI und Mixpanel berichteten
Business Insider berichtete , dass Mixpanel den Vorfall als Folge einer Smishing-Nachricht beschrieb, die einem Angreifer den Zugriff ermöglichte , auf interne Systeme zuzugreifen und einen für Analysezwecke verwendeten Datensatz zu exportieren.
Mixpanel erklärte, der Angriff sei am 8. November entdeckt worden und habe betrügerische Textnachrichten umfasst, die Mitarbeiter täuschen sollten. Smishing ist eine Kombination aus SMS und Phishing und nutzt Textnachrichten, um Menschen dazu zu bringen, vertrauliche Informationen preiszugeben oder Schadsoftware herunterzuladen.
OpenAI erklärte in einer eigenen Mitteilung , dass der Sicherheitsvorfall ausschließlich Analysedaten eines Drittanbieters betroffen habe und die interne Infrastruktur sicher geblieben sei. Das Unternehmen bestätigte, dass die offengelegten Informationen Namen, E-Mail-Adressen, einen anhand des Browsers des API-Nutzers bestimmten groben Standort sowie technische Details wie Betriebssystem und Browsertyp umfassten.
„Transparenz ist uns wichtig“, erklärte OpenAI in der veröffentlichten Stellungnahme und wies darauf hin, dass betroffene API-Nutzer kontaktiert wurden, sobald das Unternehmen bestätigt hatte, auf welche Daten zugegriffen worden war.
Welche Daten offengelegt wurden und wer betroffen war
Proton berichtete , dass selbst begrenzte Metadaten wie Namen, E-Mail-Adressen und ungefähre Standorte Nutzer weiterhin gefährden können, da Angreifer diese Informationen für Phishing- oder Social-Engineering-Versuche nutzen können, die darauf abzielen, Zugriff auf sensiblere Konten zu erlangen.
OpenAI machte keine Angaben dazu, wie viele Konten betroffen waren, betonte jedoch, dass ausschließlich API-Nutzer auf platform.openai.com betroffen waren. Das Unternehmen erklärte außerdem, dass ChatGPT-Nutzer, die alltägliche Aufgaben erledigen, nicht betroffen waren, weil ihre Daten nicht über Mixpanel verarbeitet wurden.
OpenAI zufolge hat das Unternehmen seine Geschäftsbeziehung zu Mixpanel ausgesetzt und als Reaktion eine umfassendere Sicherheitsprüfung seiner Anbieter eingeleitet.
Warum der Vorfall für die KI-Sicherheit relevant ist
Proton wies darauf hin, dass die Offenlegung von Metadaten in Verbindung mit Phishing-Techniken als Ausgangspunkt für schädlichere Angriffe dienen kann. Proton zufolge gilt: „Trotz dieser Entwarnung können selbst begrenzte Metadaten in den falschen Händen gefährlich sein.“
Proton äußerte außerdem allgemeinere Bedenken hinsichtlich des Datenschutzes bei KI und erklärte, dass KI-Tools wie ChatGPT nicht mit Blick auf den Datenschutz entwickelt wurden. Wenn Ihre Organisation also ChatGPT nutzt, sind Ihre persönlichen oder geschäftlichen Daten gefährdet. Wie Proton betonte: „Ihre vertraulichen Informationen, Prompts, Metadaten und Nutzungsmuster können gespeichert, analysiert oder an Dritte weitergegeben werden, von denen Sie noch nie gehört haben und denen Sie möglicherweise keinen Grund zum Vertrauen geben – wie im Fall von OpenAI.“
Business Insider hob außerdem hervor, dass ein Hacker im vergangenen Jahr Zugriff auf die internen Nachrichtensysteme von OpenAI erlangte und Daten im Zusammenhang mit fortschrittlicher KI-Technologie.
stahl. Diese Vorfälle spiegeln den breiteren Sicherheitsdruck wider, dem bekannte KI-Unternehmen ausgesetzt sind. Während OpenAI und seine Wettbewerber ihre Plattformen ausbauen, zeigt der Sicherheitsvorfall bei Mixpanel, wie Integrationen von Drittanbietern die Angriffsfläche vergrößern können, selbst wenn die Kernsysteme geschützt bleiben.
Weitere Möglichkeiten, die KI-Sicherheit in Ihrer Organisation zu stärken, finden Sie in eWeeks Leitfaden zu den besten KI-Sicherheitstools.