Meta führt ein neues Set an Kindersicherungen ein, mit denen Eltern steuern können, wie ihre Teenager auf seinen Plattformen mit KI-Chatbots interagieren. Vorausgegangen waren monatelange öffentliche Besorgnis und regulatorische Prüfungen.
Die Ankündigung, die Instagram-Chef Adam Mosseri und Metas Chief AI Officer Alexandr Wang in einem Blogbeitrag veröffentlichten, beschreibt Tools, die Eltern eine bessere Übersicht über KI-Unterhaltungen geben und potenziell unangemessene Interaktionen einschränken sollen.
Ab Anfang nächsten Jahres können Eltern den Zugang ihrer Teenager zu Einzelgesprächen mit KI-Charakteren vollständig deaktivieren oder bestimmte Chatbots gezielt blockieren. Nach Angaben des Unternehmens werden diese Kontrollmöglichkeiten zunächst auf Instagram eingeführt und in den USA, im Vereinigten Königreich, in Kanada und Australien auf Englisch verfügbar sein.
Meta zufolge erhalten Eltern außerdem neue Einblicke in „die Themen, über die ihre Teenager mit KI-Charakteren chatten“, sodass sie „bedachte Gespräche“ über die Nutzung von KIbeginnen können. Diese Einblicke geben zwar keine vollständigen Chatprotokolle preis, sollen laut dem Unternehmen aber einen Überblick über Interaktionstrends liefern.
Das Unternehmen betonte, dass sein zentraler KI-Assistent für Teenager weiterhin aktiv bleiben und ihnen mit „altersgerechten Schutzvorkehrungen“ Bildungsunterstützung und Informationen bieten werde. Wie Mosseri und Wang in der Ankündigung erklärten: „Technologie wird niemals den Wert kritischen Denkens, echter Verbindungen und menschlicher Interaktion ersetzen – und das ist auch nicht unser Ziel.“
Stärkerer Schutz für Teenager
Die Maßnahme baut auf Metas bestehenden Schutzvorkehrungen für Teen Accounts auf, die bereits Inhalte auf den PG-13-Standard beschränken. Das bedeutet, dass die KI-Systeme des Unternehmens so programmiert sind, dass sie Antworten zu sensiblen oder expliziten Themen – etwa Selbstverletzung, Suizid oder Essstörungen – vermeiden und Teenager stattdessen bei Bedarf an professionelle Hilfsangebote verweisen.
Meta erklärte, dass für Interaktionen mit Teenagern nur eine begrenzte Auswahl an KI-Charakteren zu Themen wie Bildung, Sport und Hobbys verfügbar sei. Eltern können außerdem tägliche Bildschirmzeitlimits festlegen, einschließlich der Zeit, die mit Gesprächen mit KI-Charakteren verbracht wird.
Die Einführung erfolgt nach Kritik daran, dass Meta unangemessenes Verhalten von Chatbots nicht verhindert habe. Im August berichtete Reuters, dass einige KI-Charaktere romantische Gespräche mit minderjährigen Nutzern geführt hatten, woraufhin Meta seine Richtlinien zur KI-Sicherheit überarbeitete. Das Unternehmen blockiert nun sämtliche romantischen oder sexuellen Dialoge zwischen KI-Chatbots und Teenagern.
Die US Federal Trade Commission (FTC) hat ebenfalls eine Untersuchung gegen große Technologieunternehmen – darunter Meta und OpenAI – eingeleitet, um zu prüfen, ob KI-Chatbots Risiken für Minderjährige darstellen. Die Behörde erklärte, sie wolle verstehen, wie diese Unternehmen „die Sicherheit dieser Chatbots bewerten, wenn sie als Begleiter fungieren“.
Meta hofft, dass die neuen Funktionen Familien beruhigen werden, während sich KI rasant weiterentwickelt. „Wir setzen uns dafür ein, Eltern hilfreiche Tools und Ressourcen bereitzustellen, die ihnen die Dinge erleichtern – insbesondere, während sie über neue Technologien wie KI nachdenken“, schrieben Mosseri und Wang.
Goldman Sachs zufolge befindet sich der KI-Boom trotz wachsender Sorgen an den Märkten, dass sich eine KI-Blase bilden könnte, noch in einem frühen Stadium.