Eine neue Untersuchung hat ergeben, dass einige Browsererweiterungen, die sich als hilfreiche KI-Assistenten ausgeben, heimlich die Unterhaltungen von Nutzern mit großen Sprachmodellen sammeln.
Forscher des Microsoft Defender Security Research Team erklären, dass bösartige Browsererweiterungen, die wie legitime KI-Assistenten erscheinen sollen, erhebliche Mengen an Nutzerdaten aus Interaktionen mit beliebten KI-Plattformen gesammelt haben.
Laut dem Sicherheitsblog des Unternehmens hat die Kampagne bereits rund 900.000 Installationen in Chromium-basierten Browsern erreicht.
Telemetriedaten aus den Sicherheitssystemen von Microsoft zeigen außerdem, dass die Aktivitäten auch Unternehmensumgebungen betreffen. Das Unternehmen erklärte, es habe entsprechende Aktivitäten „in mehr als 20.000 Enterprise-Tenants festgestellt, in denen Nutzer häufig unter Verwendung sensibler Eingaben mit KI-Tools interagieren.“
Was tatsächlich gestohlen wurde
Die bösartigen Add-ons zielten auf Unterhaltungen mit KI-Diensten wie ChatGPT und DeepSeek ab.
Nach der Installation konnten die Erweiterungen die Browseraktivitäten und Teile der KI-Unterhaltungen der Nutzer aufzeichnen. Microsoft merkte an, dass die erfassten Informationen Eingaben und Antworten aus Chats sowie vollständige URLs besuchter Seiten umfassten.
Laut Microsoft setzte die Datensammlung Organisationen dem Risiko aus, dass sensible Informationen nach außen gelangen. Das Unternehmen warnte, dass die Erweiterungen Inhalte sammelten, zu denen „proprietärer Code, interne Abläufe, strategische Diskussionen und andere vertrauliche Daten“ gehören könnten.
So funktioniert der Angriff
Der Angriff beginnt mit der Ausnutzung eines wachsenden Trends: Browsererweiterungen, die KI-Chat-Assistenten an der Seite einer Webseite hinzufügen.
Die Angreifer untersuchten legitime Tools, um deren Markenauftritt und Verhalten nachzuahmen. Anschließend wurden die bösartigen Versionen mit Namen und Beschreibungen, die echten Produktivitätstools sehr ähnlich waren, im Chrome Web Store veröffentlicht. Da Browser wie Google Chrome und Microsoft Edge dieselbe Chromium-Architektur verwenden, konnte sich ein einziger Erweiterungseintrag über beide Plattformen verbreiten.
Nach der Installation begann die Erweiterung heimlich, die Aktivitäten der Nutzer zu überwachen. Der Code protokollierte besuchte Webseiten und Ausschnitte aus Chatnachrichten, die während der Interaktion mit KI-Plattformen erzeugt wurden. Microsoft erklärte, dass die Erweiterung im Browser im Wesentlichen als Datensammler im Hintergrund lief.
Die gesammelten Daten wurden lokal gespeichert und regelmäßig an von den Angreifern kontrollierte Server gesendet. Die Analyse von Microsoft ergab, dass die Erweiterung die Informationen über HTTPS-Anfragen an Domains wie deepaichats[.]com und chatsaigpt[.]com übermittelte.
Da die Kommunikation gängige Webprotokolle verwendete, konnte der Datenverkehr wie normale Browseraktivität wirken. Dem Bericht zufolge zielte die Erweiterung auf eine langfristige Überwachung und nicht auf eine sofortige Störung ab.
Dauerhafte Aktivität durch normales Browserverhalten
Anders als viele Formen von Schadsoftware benötigte die Erweiterung keine fortschrittlichen Techniken zur Aufrechterhaltung ihrer Präsenz. Nach der Installation verhielt sie sich wie eine gewöhnliche Browsererweiterung und wurde bei jedem Start des Browsers automatisch neu geladen.
Im lokalen Speicher wurden Sitzungskennungen und ausstehende Datenübertragungen abgelegt, sodass die Erweiterung auch über mehrere Sitzungen hinweg weiter Informationen sammeln konnte. Die Ergebnisse verdeutlichen eine wachsende Sicherheitsherausforderung im Zusammenhang mit der raschen Verbreitung von KI-Tools.
Mitarbeiter fügen häufig Code, interne Notizen oder Geschäftsinformationen in KI-Chatdienste ein, wodurch diese Unterhaltungen zu wertvollen Zielen für Angreifer werden. Wenn eine bösartige Erweiterung den Inhalt einer Webseite lesen kann, kann sie diesen Text auch direkt aus der Benutzeroberfläche des Browsers erfassen.
Das bedeutet, dass sensible Informationen, die mit KI-Tools geteilt werden, möglicherweise offengelegt werden, ohne dass die Nutzer es bemerken.
Maßnahmen für Organisationen
Sicherheitsteams werden aufgefordert, die auf Unternehmensgeräten installierten Browsererweiterungen zu überprüfen und alle nicht verifizierten oder unnötigen Erweiterungen zu entfernen.
Die Microsoft-Forscher empfehlen mehrere Abwehrmaßnahmen, darunter:
- Alle Browsererweiterungen in der gesamten Organisation prüfen.
- Die Installation von Erweiterungen durch Unternehmensrichtlinien beschränken.
- Den Netzwerkverkehr auf Verbindungen zu bekannten bösartigen Domains überwachen.
- Browser-Schutzfunktionen wie SmartScreen und Netzwerkfilter aktivieren.
- Mitarbeiter über die Risiken der Installation nicht verifizierter KI-Tools informieren.
Organisationen sollten außerdem Richtlinien dafür einführen, wie sensible Daten mit KI-Plattformen geteilt werden.Lesen Sie auch: Eine weitere browserbasierte KI-Sicherheitsbedrohung tauchte in gefälschten KI-Chrome-Erweiterungen auf, die es auf Gmail abgesehen hatten.