Hier ist eine weitere Erinnerung daran, vorsichtig zu sein, was man seinem bevorzugten Chatbot mit künstlicher Intelligenz anvertraut: Die Auftragnehmer von Meta hatten Zugriff auf die „expliziten Fotos“, die Nutzer an Meta AI geschickt hatten. Zu den sonstigen „nicht geschwärzten persönlichen Daten“, auf die sie gestoßen sind, gehören Namen, Telefonnummern, E-Mail-Adressen, Geschlecht, Hobbys, Aufenthaltsorte, Social-Media-Nutzernamen, Berufsbezeichnungen und Selfies.
Meta beauftragt Auftragnehmer damit, Gespräche zwischen Nutzern und dem Chatbot Meta AI zu lesen, um dessen Leistung zu bewerten. Obwohl diese Praxis in der KI-Branche üblich ist, wurde sie bereits kritisiert – etwa als Facebook dabei ertappt wurde, Auftragnehmer dafür zu bezahlen, private Sprachchats im Messenger zu transkribieren , ohne zu erklären, wie die Audiodaten gesammelt wurden.
Auftragnehmer sagen, dass sie regelmäßig auf sensible Nutzerinformationen stießen
Vier Auftragnehmer von Aligner und Outlier, das zu Scale AI gehört und kürzlich eine Investition von Meta in Höhe von 14 Milliarden US-Dollar erhielten, erklärten gegenüber Business Insider, dass sie in Nutzerchats von Meta AI auf äußerst persönliche Inhalte gestoßen seien – von flirtenden Nachrichten bis hin zu Geständnissen über Beziehungen und persönliche Probleme.
Laut Business Insider wurden persönliche Details entweder von Nutzern während der Chats übermittelt oder waren in den Gesprächsdaten enthalten, die Meta den Auftragnehmern zur Verfügung stellte, damit diese die Antworten der KI personalisieren konnten. Einer der Auftragnehmer sagte, es wäre mit einigen der Informationen, die Meta ihnen im Rahmen ihrer Arbeit zur Verfügung stellte, „absolut“ möglich, die tatsächliche Identität eines Nutzers herauszufinden. Ein anderer sagte, dass solche Informationen in bis zu 70 % der mehreren Tausend Chats auftauchten, die er jede Woche überprüfte.
Meta sagt, dass Richtlinien zum Schutz von Nutzerdaten bestehen
Meta erklärte gegenüber Business Insider, dass für die persönlichen Daten im Zusammenhang mit Meta-AI-Chats, auf die Auftragnehmer zugreifen können, „strenge Richtlinien“ gelten und ihr Zugriff darauf „absichtlich eingeschränkt“ werde. Das Unternehmen fügte hinzu, dass diese Mitarbeiter, die Prüfungen zu Cybersicherheit und Datenschutz-Risikomanagement absolvieren müssen, im Rahmen ihrer Arbeit „bestimmte persönliche Informationen“ einsehen dürfen.
In den Nutzungsbedingungen für Metas KI-Dienste heißt es außerdem, dass Meta Nutzerinteraktionen mit seiner KI „möglicherweise überprüft“. Das unterscheidet sich nicht grundlegend von den Haftungsausschlüssen vieler Big-Tech-Konkurrenten, die erlauben, Chatdaten zum Training von Modellen zu verwenden.
Doch das bedeutet nicht, dass keine Fehler passieren können: Apple-Auftragnehmer hörten Berichten zufolge laufende Drogengeschäfte und Menschen beim Sex mit, während sie Audiodaten von Siri überprüften. Die Prüfer von Amazon stießen auf sensible Finanzinformationen in Alexa-Aufzeichnungen. Auftragnehmer von Microsoft hörten Skype-Anrufe und Cortana-Gespräche mit, von denen einige von Xbox-Controllern aufgezeichnet worden waren.
Meta sieht sich weiterhin mit den Folgen früherer Datenschutzskandale konfrontiert
Zwei der Auftragnehmer, die mit Business Insider sprachen, hatten bei anderen Technologiekonzernen wie Google und OpenAI Datenannotationen oder KI-Training durchgeführt. Sie sagten, dass „nicht geschwärzte persönliche Daten bei den Meta-Projekten, an denen sie gearbeitet hatten, häufiger vorkamen“ als bei den Projekten der Konkurrenz.
Das sind keine guten Nachrichten für Meta, das versucht, seinen eher dürftigen Ruf in Sachen Sicherheit und Datenschutz abzuschütteln. Das Unternehmen wurde von der US Federal Trade Commission mit einer Geldstrafe von 5 Milliarden US-Dollar belegt, weil es Nutzer über den Umgang mit ihren persönlichen Daten getäuscht hatte, und mit 1,2 Milliarden Eurovon der irischen Datenschutzkommission wegen eines Verstoßes gegen die DSGVO.
Beide Strafen folgten auf den berüchtigten Cambridge-Analytica-Skandal, bei dem Daten von mehreren zehn Millionen Facebook-Nutzern ohne deren Einwilligung gesammelt und dazu verwendet wurden, politische Kampagnen auf der ganzen Welt zu beeinflussen. Apple hat die verschiedenen Verstöße von Meta als Grund angeführt, Drittanbietern keinen Zugriff auf seinenTechnologie-Stack zu gewähren, damit diese interoperable Produkte entwickeln können.
Zuckerbergs KI-Ambitionen werfen neue Fragen auf
Metas Neuausrichtung im Jahr 2021 von Facebook diente sowohl dazu, das Bekenntnis des Unternehmens zur virtuellen Realität zu signalisieren, als auch die Aufmerksamkeit von seiner zweifelhaften Vergangenheit abzulenken. Während das Unternehmen weiter in das Metaverse investiert und zugehörige Wearables entwickelt, hat sich der aktuelle Schwerpunkt des Unternehmens auf das KI-Rennen verlagert und es steckt Millionen in eine neue Abteilung zur Entwicklung eines Systems, das menschliche Fähigkeiten übertreffen kann. CEO Mark Zuckerberg hat die Idee einer „persönlichen Superintelligenz“ betont – einer KI, die „ihren Nutzer zutiefst kennt“, ein Konzept, für dessen Funktion vermutlich umfangreiche Nutzerdaten erforderlich wären.
Trotz dieser Ambitionen bestehen Metas Datenprobleme fort. Im Juni entdeckten Nutzer, dass private Eingaben, darunter medizinische Details, rechtliche Fragen und sogar persönliche Geständnisse, in einem öffentlichen Feed auftauchten. In der vergangenen Woche enthüllte Business Insider, dass bestimmte Chats tatsächlich in den Google-Suchergebnissen erscheinen konnten. Die Chatbots führten außerdem äußerst unangemessene Gespräche, und Meta ist in Rechtsstreitigkeiten mit Kreativen verwickelt, die dem Unternehmen vorwerfen, ihre Werke für Trainingsdaten zu stehlen.
Im März schickte Amazon ausgewählten Echo-Nutzern eine E-Mail, in der sie davor gewarnt wurden, dass sie nun zustimmen müssen, dass ihre Alexa-Sprachaufzeichnungen zur Verarbeitung an die Cloud des Unternehmens gesendet werden.