YouTube hat damit begonnen, ein auf künstlicher Intelligenz basierendes System zur Altersüberprüfung einzuführen. Ziel ist laut Unternehmen, eine sicherere Umgebung für ein jüngeres Publikum zu schaffen. Die Einführung hat schnell Gegenwind von Nutzern ausgelöst, die Bedenken hinsichtlich des Datenschutzes, der Zuverlässigkeit des Systems und einer ihrer Ansicht nach zunehmenden Überwachung im Internet äußern.
Das neue „Modell zur Altersschätzung“ nutzt maschinelles Lernen, um zu ermitteln, ob ein angemeldeter Nutzer unter 18 ist. Es analysiert das Sehverhalten, die Suchaktivitäten und den Kontoverlauf, um einzuschätzen, ob der Nutzer möglicherweise unter 18 ist. Kommt das Modell zu dem Schluss, dass der Zuschauer unter 18 ist, aktiviert YouTube automatisch die Sicherheitseinstellungen für Jugendliche – unabhängig vom im Konto angegebenen Geburtsdatum.
Zu den Schutzmaßnahmen gehören das Entfernen personalisierter Werbung, die Aktivierung integrierter Hinweise zum Wohlbefinden, die Einschränkung bestimmter Inhaltsvorschläge und die Verweigerung des Zugriffs auf als für Erwachsene gekennzeichnete Videos. Als unter 18 eingestufte Nutzer können eine Überprüfung beantragen, indem sie einen Altersnachweis einreichen. Dazu können ein amtlicher Ausweis, die Verifizierung einer Zahlungskarte oder ein Gesichtsbild gehören.
James Beser, YouTubes Senior Director of Product Management für Produkte für junge Menschen, schrieb in einem Unternehmensblogbeitrag, „Diese Technologie ermöglicht es uns, das Alter eines Nutzers abzuleiten und dieses Signal – unabhängig vom im Konto angegebenen Geburtsdatum – zu nutzen, um altersgerechte Produkterlebnisse und Schutzmaßnahmen bereitzustellen.“
Befürworter sehen Sicherheit, Kritiker Überwachung
Laut YouTube wurden ähnliche Systeme bereits im Ausland mit positiver Resonanz eingeführt. Der Start in den USA soll zunächst mit begrenzten Tests erfolgen, bevor das System breiter angeboten wird. Das Unternehmen betont, dass es Ausweis- oder Kreditkarteninformationen nicht zu Werbezwecken speichern werde.
Doch viele YouTuber sind beunruhigt. Eine Change.org-Petition gegen das neue KI-System zur Alterserkennung von YouTube hat bereits Unterstützung erhalten und mehr als 77.000 verifizierte Unterschriften gesammelt. Kritiker warnen, dass Erwachsene fälschlicherweise als minderjährig eingestuft werden könnten und dann gezwungen wären, sensible Identitätsdaten preiszugeben, um den uneingeschränkten Zugang zu behalten.
Der Urheber der Petition, ein unter dem Namen Gerfdas Gaming bekannter Gaming-Content-Creator, sagte gegenüber Ars Technica, dass das Einspruchsverfahren „erhebliche Datenschutzbedenken aufwirft“. Dabei stellte er infrage, wo solche Daten gespeichert werden und wie sicher sie sind.
Einige Kritiker argumentieren, dass dieser Ansatz einer Überwachung in großem Maßstab gleichkommt. Sie warnen außerdem, dass Erwachsene mit Hobbys oder Interessen an Inhalten, die typischerweise mit einem jüngeren Publikum in Verbindung gebracht werden – etwa Spielzeugrezensionen oder Animationsserien –, fälschlicherweise als Minderjährige eingestuft werden könnten.
Zu den Bedenken gehören der Schutz Minderjähriger vor schädlichen Inhalten und die Wahrung ihrer Privatsphäre
Die neue Richtlinie kommt inmitten des wachsenden politischen und elterlichen Drucks auf Technologieplattformen, Minderjährige vor schädlichen Inhalten zu schützen. Andere Plattformen wie Instagram, TikTok und Discord haben vergleichbare KI-basierte Tools zur Alterserkennung erprobt oder eingeführt, während Regierungen in den USA, im Vereinigten Königreich und in verschiedenen Regionen strengere Regeln zum Schutz junger Menschen einführen.
Bürgerrechtsorganisationen warnen, dass solche Systeme die Anonymität im Internet aushöhlen und Risiken für die Datensicherheit schaffen könnten. Beser zufolge verfolgt YouTube das Ziel, „Sicherheitsmaßnahmen bereitzustellen und gleichzeitig die Privatsphäre von Jugendlichen zu wahren“. Angesichts der an Fahrt gewinnenden Petitionen und der Kritik in den sozialen Medien könnte es dem Unternehmen jedoch schwerfallen, Kritiker davon zu überzeugen, dass die versprochenen Sicherheitsmaßnahmen die möglichen Einbußen bei Privatsphäre und Nutzerautonomie rechtfertigen.
Was passiert, wenn der „Godfather of AI“ warnt – wieder einmal –, dass wir in die falsche Richtung gehen? Erfahren Sie es hier.