Geben Sie „Nudify“ in einen App-Store ein, könnte das Problem inzwischen bereits in der Suche selbst auf Sie warten.
Apple und Google sehen sich neuen Vorwürfen ausgesetzt, dass ihre App-Stores mehr tun, als Nudify-Apps lediglich zu hosten – sie könnten Nutzern auch dabei helfen, sie zu finden.
Das Tech Transparency Project erklärt, dass das Problem seit Januar gewachsen ist. Damals stellte es fest, dass Dutzende dieser Apps weiterhin in den Stores von Apple und Google verfügbar waren. Der neue Bericht besagt, dass über diese Systeme angezeigte Apps Hunderte Millionen Downloads verzeichneten – ein Hinweis darauf, in welchem Ausmaß die Unternehmen Nutzer zu ihnen lenken könnten.
Hunderte Apps, Millionen an Umsatz
Bereits im Januar zeigte sich, dass es sich nicht um einen vereinzelten Moderationsfehler handelte. TTP erklärte, dass es in den Stores von Apple und Google mehr als 100 Apps gefunden habe, die Frauen auf Fotos entkleiden oder sie in sexualisierten Darstellungen zeigen konnten.
Der April-Bericht macht es noch schwieriger, das Problem abzutun, da eine Handvoll problematischer Einträge den Prüfprozess passieren konnte. Laut TTP waren die bei den jüngsten Suchen angezeigten Apps 483 Millionen Mal heruntergeladen worden und hatten über ihre gesamte Laufzeit mehr als 122 Millionen US-Dollar Umsatz erzielt. Das deutet darauf hin, dass es sich um eine große und aktive Kategorie handelt – und nicht um eine Randerscheinung in einem der beiden Stores.
Eine Suche konnte zu vielen weiteren führen
Nutzer mussten nicht lange suchen, um auf sie zu stoßen.
TTP testete beide App-Stores mit Begriffen wie „nudify“, „undress“ und „deepnude“ und untersuchte anschließend die angezeigten Top-Ergebnisse. In beiden Stores konnten etwa 40 Prozent dieser Apps Frauen entkleiden – eine einzelne Suchanfrage führte somit wiederholt zu diesen Tools.
Eine Suchanfrage konnte sich schnell vervielfachen. Der Store von Apple platziert Nudify-Anzeigen mitunter an erster Stelle, während Google Play gesponserte Platzierungen mit einem Karussell „Für dich empfohlen“ kombiniert, das sexuell explizite Apps enthält. Die Autovervollständigung verstärkte diese Spur, indem sie verwandte Suchbegriffe anzeigte, die Nutzer zu weiteren Ergebnissen in derselben Richtung führten.
Statt die Suche abzubrechen, konnten die Stores sie immer weiter befeuern. Aus einer Suchanfrage konnte eine Kette aus Anzeigen, vorgeschlagenen Begriffen und weiteren App-Ergebnissen werden, die alle in dieselbe Richtung wiesen.
Die Regeln sagten das eine, doch die Stores zeigten etwas anderes
Apple und Google mangelte es nicht an schriftlich festgehaltenen Regeln.
Google verbietet Apps, die sexuelle Inhalte enthalten oder Menschen herabwürdigen beziehungsweise objektifizieren – darunter auch solche, die behaupten, jemanden entkleiden oder durch Kleidung hindurchsehen zu können. Apple erklärt, Apps sollten kein anstößiges, pornografisches oder „einfach nur gruseliges“ Material enthalten. Dennoch zeigten diese Plattformen weiterhin Apps an, die offenbar gegen diese Standards verstießen.
Damit ging das Problem über die Frage hinaus, was überhaupt zugelassen wurde. Einige der bei diesen Suchen ermittelten Apps waren sogar als für Minderjährige geeignet eingestuft.
Die jüngsten Erkenntnisse von TTP warfen neue Fragen dazu auf, wie Altersfreigaben, Werbegenehmigungen und Suchfunktionen auf Plattformen funktionierten, die bereits erklärten, dass diese Art von Inhalten dort nicht vorhanden sein sollte.
Google bringt Gemini mit einer neuen nativen macOS-App.