Metas Tool zur Mitarbeiterüberwachung ist gerade auf das Problem gestoßen, vor dem Beschäftigte gewarnt hatten.
Das Unternehmen pausiert MCI, ein internes Programm, das Computeraktivitäten von Beschäftigten für das KI-Training aufzeichnet, nachdem ein Sicherheitsproblem einige der gesammelten Daten offengelegt hat, berichteten Reuters und WIRED. Der Vorfall wirft eine grundsätzliche Frage für Unternehmen auf, die in einem Wettlauf Systeme für KI am Arbeitsplatz trainieren: Wie viele Aktivitäten ihrer Beschäftigten können sie erfassen, bevor die Überwachung selbst zu einem Sicherheitsrisiko wird?
Der Pause gingen monatelange interne Bedenken hinsichtlich der Überwachung von Tastatureingaben und Bildschirmen voraus, bei der sensible Inhalte allein deshalb erfasst werden können, weil sie über ein Unternehmensgerät laufen.
Zu den Datensätzen gehörten Eingaben, Transkripte und Bewertungen
Interne Dokumente die Reuters einsehen konnte führten mehrere Kategorien betroffener Datensätze auf, darunter „vollständige Eingaben und Transkripte, private Gespräche, Personen- und Leistungsdaten, DSS-Sensitivitätsbewertungen (1–4).“
Die Liste legt nahe, dass die Datensätze weit über einfache Aktivitätsprotokolle hinausgingen, auch wenn die Dokumentation nicht jede Kategorie im Detail aufführte.
Unternehmenssprecherin Tracy Clayton sagte, Meta habe „zum jetzigen Zeitpunkt keinen Hinweis“ darauf, dass Beschäftigte unbefugt auf die Daten zugegriffen hätten. Sie fügte hinzu, dass das Programm pausiert werde, während die Untersuchung weiterlaufe.
Es wurde kein Zeitplan dafür genannt, wann MCI zurückkehren könnte.
Metas erste Lösung hielt nicht
Innerhalb von Meta entwickelte sich das Problem rasch von einer internen Sicherheitsmeldung zu einer Gegenreaktion der Beschäftigten. Ein Meta-Ingenieur sagte, Datenbanken mit von MCI gesammelten Informationen seien für jeden innerhalb des Unternehmens zugänglich gewesen, berichtete WIRED.
Bald gingen in internen Foren kritische Kommentare ein. Ein ehemaliger Mitarbeiter, der an früheren Protesten gegen MCI beteiligt gewesen war, bezeichnete den Vorfall als „ein einziges Chaos“ und sagte, Beschäftigte hätten die Führung bereits vor Risiken für Mitarbeiter- und Kundendaten gewarnt.
Stephane Kasriel, ein für die KI-Forschung zuständiger Vizepräsident von Meta, sagte später, das Problem sei am 18. Juni entdeckt und innerhalb von vier Stunden behoben worden. Die erste Lösung hielt nicht, und der Zugriff auf die Daten musste weiter eingeschränkt werden.
„Wir werden MCI erst wieder aktivieren, wenn wir von der Wirksamkeit unserer Maßnahmen zum Datenschutz überzeugt sind“, sagte Kasriel.
Umfassende Überwachung schuf ein größeres Angriffsziel
Das Risiko von MCI begann mit seiner Reichweite. Frühere Berichte ergaben, dass das Tool Daten aus mehr als 200 Apps und Websites abrufen und E-Mails oder Direktnachrichten an in den USA beschäftigte Mitarbeiter erfassen konnte – darunter Nachrichten von Kollegen außerhalb der USA.
Das Programm ist zudem Teil einer umfassenderen KI-Transformation bei Meta, bei der CEO Mark Zuckerberg versucht, das Unternehmen um Agenten herum neu auszurichten, die mehr Aufgaben am Arbeitsplatz übernehmen können.
Beschäftigte hatten bereits Bedenken darüber geäußert, welche Daten durch eine umfassende Erfassung auf Arbeitsgeräten erfasst werden könnten. „Ich habe über meinen Arbeitscomputer sowohl auf persönliche Steuer- als auch auf medizinische Informationen zugegriffen, ebenso wie viele Tausend Beschäftigte“, schrieb ein Mitarbeiter in einem von Reuters zitierten internen Kommentar.
Zwar gibt es keine Bestätigung dafür, dass diese Details in den offengelegten Datensätzen enthalten waren, doch die Warnung zeigte, wie schnell routinemäßige Arbeitsaktivitäten mit persönlichen Informationen in Berührung kommen können.
Auch Datenschützer hatten gewarnt, dass die Erfassung der Kommunikation europäischer Beschäftigter, selbst indirekt, Probleme im Hinblick auf die DSGVO aufwerfen könnte. Sobald Verhalten am Arbeitsplatz für das KI-Training erfasst wird, wird jede App, jede Nachricht und jeder Bildschirm Teil der Sicherheitslast.
DeepMinds AI Control Roadmap bietet Unternehmen eine klarere Grundlage, um die Sicherheit von Agenten vor ihrer Einführung zu bewerten.