Metas smarte KI-Brillen erfassen möglicherweise mehr, als den Nutzern bewusst ist.
Von den Geräten aufgezeichnetes Material – darunter äußerst intime Momente – kann von menschlichen Mitarbeitern geprüft werden, die beim Training der KI-Systeme des Unternehmens helfen. Laut der BBC berichten ausgelagerte Prüfer, die für die Kennzeichnung der Daten zuständig sind, dass sie bei ihrer Arbeit auf zutiefst persönliche Aufnahmen gestoßen sind.
Die Nachricht wirft neue Fragen darüber auf, wie Aufnahmen von den Brillen hinter den Kulissen verarbeitet werden.
Eine Aufsichtsbehörde stellt Fragen
Diese Bedenken haben nun die Aufsichtsbehörden erreicht. Das britische Information Commissioner’s Office (ICO) bezeichnete die Vorwürfe als „besorgniserregend“, und bestätigte, dass es Meta kontaktieren werde, um Einzelheiten darüber anzufordern, wie das Unternehmen von den Brillen erfasste personenbezogene Daten sammelt, verarbeitet und schützt.
Die Aufsichtsbehörde fügte hinzu, dass Geräte, die personenbezogene Daten verarbeiten, den Nutzern klare Kontrolle und Transparenz darüber geben müssen, wie Informationen verwendet werden – ein Standard, den sie von Unternehmen erwartet, die KI-gestützte Wearables entwickeln.
Wenn smarte Brillen zu viel erfassen
Die Untersuchung ergab, dass ein Teil des Materials in die Hände von Datenannotatoren gelangt, die für Sama arbeiten, ein in Nairobi ansässiges Outsourcing-Unternehmen, das Dienstleistungen für das Training von KI anbietet. Ihre Aufgabe besteht darin, von den Brillen aufgenommene Bilder zu prüfen und zu kennzeichnen, was darauf zu sehen ist, damit das System die Welt um den Träger besser interpretieren kann.
Mitarbeiter erklärten den Ermittlern, dass das Material zutiefst persönlich sein kann. In einigen Fällen sahen die Prüfer eigenen Angaben zufolge Aufnahmen von Menschen beim Toilettengang oder beim Anschauen von Pornografie sowie Aufnahmen, die entstanden waren, nachdem die Brillen in privaten Räumen weitergelaufen waren.
Die Aufgabe geht zudem über Bilder hinaus. Annotatoren prüfen Transkripte von Interaktionen mit der KI, um festzustellen, ob das System die Fragen der Nutzer dazu, was die Brillen sehen, korrekt beantwortet hat.
Meta verteidigt seine Verfahren zur Datenprüfung
Meta erklärt, der Prüfprozess sei Teil der Verbesserung der Nutzererfahrung mit seinen KI-gestützten Brillen. Gegenüber der BBC erklärte das Unternehmen, dass einige Bilder oder Videos von Auftragnehmern geprüft werden können, wenn Menschen Inhalte mit Meta AI teilen, um die Fähigkeit des Systems zu verbessern, das Gesehene zu verstehen.
Das Unternehmen fügte hinzu, dass Daten vor der Prüfung zum Schutz der Privatsphäre gefiltert werden, unter anderem durch Maßnahmen wie das Verpixeln von Gesichtern in Bildern. Von der Untersuchung zitierte Quellen erklärten jedoch, dass diese Schutzvorkehrungen nicht immer wie vorgesehen funktionieren. Dadurch können in einigen Aufnahmen weiterhin identifizierbare Details zu sehen sein.
Die Datenschutzabwägungen bei KI-gestützten smarten Brillen
Metas Brillen zeichnen Fotos und Videos mit einer kleinen integrierten Kamera auf, die Nutzer durch Drücken einer Taste oder einen Sprachbefehl aktivieren können. Eine kleine Kontrollleuchte am Rahmen soll anzeigen, wenn eine Aufnahme stattfindet.
Dennoch hat der rasante Aufstieg KI-gestützter Wearables weiterreichende Bedenken hinsichtlich eines möglichen Missbrauchs ausgelöst. Mit der zunehmenden Verbreitung dieser Geräte warnen Kritiker, dass sie dazu verwendet werden könnten, Menschen ohne deren Wissen aufzunehmen – und damit alltäglichen Orten eine neue Ebene des Datenschutzrisikos hinzuzufügen.
Diese Sorgen sind bereits an unerwarteten Orten zutage getreten. Laut CBS News hat ein kalifornischer Richter Mitglieder von Mark Zuckerbergs Team kürzlich gerügt , weil sie Ray-Ban Meta AI glasses während eines Prozesses über soziale Medien in einem Gerichtssaal in Los Angeles trugen, und gewarnt, dass alle Aufnahmen vernichtet werden müssten.
Während KI-gestützte Brillen immer stärker in den Alltag vordringen, dürften Fragen darüber, wo ihre Aufnahmen landen und wer sie zu sehen bekommt, nicht ausbleiben.
Metas Chatbot wird als Tool zum Durchsuchen von Produkten mit Preisangaben.