Die Federal Trade Commission (FTC) bereitet eine Untersuchung künstlicher Intelligenz-Chatbots vor, um deren Auswirkungen auf Kinder zu bestimmen, insbesondere im Hinblick auf psychische Gesundheit und Datenschutz. Die Behörde wird unter anderem OpenAI, Meta Platforms und character.ai anschreiben und Unterlagen darüber anfordern, wie ihre KI-Produkte von jüngeren Zielgruppen genutzt werden, berichtet The Wall Street Journal.
Die im Rahmen der Befugnis der FTC zur Anforderung von Informationen durchgeführte Untersuchung soll klären, ob Chatbots Kinder schädlichen Interaktionen aussetzen oder ihre persönlichen Daten gefährden. Die Aufsichtsbehörden dürften prüfen, wie Technologieunternehmen Nutzerdaten speichern, ob die Schutzvorkehrungen angemessen sind und ob Chatbots zu unsicherem Verhalten unter Minderjährigen beitragen könnten.
Die Schreiben der FTC dürften den ersten Schritt einer umfassenderen Untersuchung markieren. Sobald die Behörde Informationen von den Unternehmen gesammelt hat, könnte sie einen öffentlichen Bericht veröffentlichen oder schärfere Durchsetzungsmaßnahmen einleiten.
Druck von Eltern und Interessenverbänden
Der Schritt folgt auf Klagen, in denen behauptet wird, Minderjährige hätten schädliche Bindungen zu Chatbots entwickelt. Familien machen geltend, dass diese Interaktionen zu Suizid und Selbstverletzung beigetragen hätten. Eine kürzlich durchgeführte Untersuchung einer Kontrollorganisation berichtete, dass Bots auf character.ai häufig schädliche Gespräche mit als Kinder registrierten Konten führten.
Abgeordnete, Eltern und Interessenverbände haben Washington zum Eingreifen gedrängt, da KI-Tools zunehmend zum Alltag von Kindern gehören. The Journal berichtete, dass das Weiße Haus der FTC-Untersuchung zugestimmt habe, während einige Beamte zugleich davor warnten, dass strengere Regeln die Wettbewerbsfähigkeit des Landes gegenüber China im weltweiten KI-Wettlauf bremsen könnten.
„Präsident Trump hat versprochen, Amerikas Vorherrschaft bei KI, Kryptowährungen und anderen zukunftsweisenden Technologien zu festigen“, sagte der Sprecher des Weißen Hauses, Kush Desai, in einer von The Journal zitierten Erklärung. „FTC-Chairman Andrew Ferguson und die gesamte Regierung konzentrieren sich darauf, diesem Auftrag nachzukommen, ohne die Sicherheit und das Wohlergehen des amerikanischen Volkes zu gefährden.“
First Lady übernimmt aktive Rolle
First Lady Melania Trump hat die Sicherheit von Kindern im digitalen Zeitalter zu einer persönlichen Priorität gemacht. Diese Woche veranstaltete sie im Weißen Haus eine Zusammenkunft führender Vertreter der Technologiebranche, darunter Sundar Pichai von Google, Sam Altman von OpenAI und Satya Nadella von Microsoft.
Während der Veranstaltung rief sie zu einem vorsichtigen Vorgehen auf und sagte laut The Journal: „Als Führungskräfte und Eltern müssen wir das Wachstum der KI verantwortungsvoll steuern. In dieser noch unausgereiften Phase ist es unsere Pflicht, mit KI so umzugehen wie mit unseren eigenen Kindern – sie zu fördern, aber mit wachsamer Anleitung.“
Technologieunternehmen reagieren mit Schutzvorkehrungen
Einige Unternehmen haben bereits neue Schutzmaßnahmen eingeführt. Meta hat seine KI-Tools kürzlich so eingeschränkt, dass sie mit Jugendlichen nicht über Themen wie Selbstverletzung oder unangemessene Beziehungen sprechen. OpenAI bereitet beaufsichtigte Konten für Jugendliche mit Funktionen zur elterlichen Kontrolle vor, während character.ai zugesagt hat, die Zusammenarbeit mit Sicherheitsexperten auszubauen, um seine Systeme zu stärken.
Kritiker argumentieren, dass diese Schritte nicht ausreichen. Der texanische Generalstaatsanwalt Ken Paxton hat ebenfalls Untersuchungen gegen Meta und character.ai eingeleitet und wirft ihnen vor, Kinder in die Irre zu führen und Verbraucherschutzbestimmungen zu verletzen.Ein offener Brief von 44 US-Generalstaatsanwälten warnt große KI-Unternehmen wie Meta, Apple und Google, dass sie „jede Facette [ihrer] Befugnisse“ nutzen werden, um Kinder vor Schäden im Zusammenhang mit Chatbots zu schützen.