Ein offener Brief von 44 Generalstaatsanwälten der US-Bundesstaaten warnt große Unternehmen für künstliche Intelligenz, sie würden „jede Facette [ihrer] Befugnisse nutzen“, um Kinder vor Schäden im Zusammenhang mit Chatbots zu schützen. Der Brief richtet sich an Meta, Google, Microsoft, Apple, OpenAI, Anthropic, Chai AI, Character.AI, Luka, Perplexity, Nomi, Replika und xAI.
Was steht in dem Brief an KI-Unternehmen?
Der Brief an KI-Unternehmen nimmt direkt Bezug auf die jüngsten Berichte von Reuters und The Wall Street Journal, denen zufolge Meta seinen Chatbots aktiv erlaubte, sich mit Kindern auf „romantische oder sinnliche“ Gespräche einzulassen, und dass sie sich unter Verwendung der Stimmen von Prominenten an sexuell expliziten Gesprächen mit Minderjährigen beteiligen konnten. Kinder sexuellen Inhalten auszusetzen sei nicht „allein deshalb entschuldbar, weil dies durch eine Maschine geschieht“, schrieben die Juristen.
„Wir sind allesamt zutiefst empört über diese offensichtliche Missachtung des emotionalen Wohlergehens von Kindern und alarmiert darüber, dass KI-Assistenten Handlungen ausführen, die nach unseren jeweiligen Strafgesetzen offenbar verboten sind“, heißt es weiter. „Als oberste Rechtsvertreter unserer jeweiligen Bundesstaaten hat der Schutz unserer Kinder für uns höchste Priorität.“
Die Juristen stellten klar, dass in dieser neuen Ära „parasozialer Beziehungen zu Chatbots“ nicht nur Meta „Unfähigkeit oder Gleichgültigkeit gegenüber grundlegenden Pflichten zum Schutz von Kindern“ gezeigt habe. Zwei Klagen gegen Character.AI behaupten, dass dessen Chatbot zum Suizid eines 14-jährigen Jungen geführt und einen 17-jährigen Jungen dazu ermutigt habe, seine Eltern zu töten.
Erst vergangene Woche wurde eine Untersuchung gegen Meta und Character.AI eingeleitet. Den Unternehmen wird vorgeworfen, Kinder mit KI-gestützten Werkzeugen für psychische Gesundheit in die Irre zu führen, die als Therapie „getarnt“ seien. Die von Nutzern erstellten Chatbots auf dem zu Meta gehörenden Instagram wurden unabhängig davon dabei ertappt, sich fälschlicherweise als Therapeuten auszugeben und auf Aufforderung Qualifikationen zu erfinden.
In dem Brief wird hervorgehoben, dass „interaktive Technologie eine besonders starke Wirkung auf sich entwickelnde Gehirne hat“. Eine im April veröffentlichte Studie kam zu dem Ergebnis, dass die Beziehungen zwischen Menschen und KI-Systemen die Suchtwirkung herkömmlicher sozialer Medienplattformen übertreffen könnten. Untersuchungen deuten darauf hin, dass Kinder besonders gefährdet sind, zu schädlichem Verhalten ermutigt zu werden, unangemessenen Inhalten ausgesetzt zu sein und unter einer Verschlimmerung bestehender psychischer Erkrankungen zu leiden.
Welche Pflichten haben KI-Unternehmen?
Die Generalstaatsanwälte sagen, dass die Unternehmen hinter den KI-Chatbots gegenüber den Kindern, die sie nutzen, eine „rechtliche Verpflichtung“ haben, da sie von deren Interaktionen profitieren. Sie fordern die CEOs auf, das zerstörte Leben von Kindern nicht als „irrelevanten Ausreißer in den Interaktionsmetriken“ zu betrachten, sondern bei der Festlegung von Produktrichtlinien deren Wohlergehen zu priorisieren – etwas, das Meta versäumt habe.
„Sie werden für Ihre Entscheidungen zur Verantwortung gezogen“, schrieben die Generalstaatsanwälte. „Wenn Sie Kindern wissentlich schaden, werden Sie dafür geradestehen müssen.“
eWeek hat Meta um eine Stellungnahme gebeten.
Hier ist eine weitere Erinnerung daran, vorsichtig zu sein, was man mit seinem bevorzugten KI-Chatbot teilt: Die Auftragnehmer von Meta hatten Zugriff auf die „expliziten Fotos“, die Nutzer an Meta AI gesendet hatten.