Der Streit um die Sicherheit von Minderjährigen im Zusammenhang mit KI ist von politischen Debatten und Forschungsarbeiten in den Gerichtssaal eines Bundesstaats gelangt.
Jahrelang waren Warnungen vor den Risiken von KI-Plattformen, insbesondere für Kinder, weitgehend auf akademische Studien, Anhörungen im Kongress und Diskussionen innerhalb der Branche beschränkt. Florida stellt dieses Muster nun mit einer kürzlich eingereichten Klage infrage, in der OpenAI und seinem CEO Sam Altman vorgeworfen wird, Kinder, die ChatGPT nutzen, nicht angemessen geschützt zu haben.
Der Fall könnte zu einem der frühesten Tests der KI-Haftung in den USA werden. Ein erfolgreicher Ausgang der Klage würde nicht nur OpenAI betreffen, sondern auch in Gang setzen, wie Gerichte, Aufsichtsbehörden und KI-Unternehmen künftig mit der Rechenschaftspflicht für KI-generierte Interaktionen umgehen.
Darüber hinaus könnte er einen Präzedenzfall schaffen, dem andere US-Bundesstaaten folgen, und OpenAI sowie andere KI-Unternehmen möglicherweise in eine Lage bringen, in der sie ihre Plattformen für bestimmte Regionen anpassen müssten.
Die Klage Floridas im Detail
Laut Reuters, hat der Bundesstaat über seinen Generalstaatsanwalt James Uthmeier eine Klage eingereicht, in der er dem Unternehmen vorwirft, die Sicherheit seiner Plattform für Kinder falsch dargestellt zu haben.
Unter Verweis auf mehrere gewalttätige Vorfälle, darunter eine Schießerei an einer Universität in Tallahassee im vergangenen Jahr, erklärte Uthmeier, ChatGPT habe eine Rolle dabei gespielt, die Täter zu unterstützen.
„Menschen werden verletzt, Eltern werden getäuscht, und dafür müssen sie bezahlen“, erklärte Uthmeier und fügte ausdrücklich hinzu, dass Altman dabei „sehr zentral“ gewesen sei.
Neben den Schadensersatzforderungen in Milliardenhöhe, die die Klage gegen OpenAI erhebt, nennt die Klage Floridas vier Bereiche, in denen OpenAI nach ihrer Darstellung keine ausreichenden Verschärfungen vorgenommen hat:
- Der erste betrifft die Tatsache, dass ChatGPT schädliche Informationen liefern kann: Während KI-Halluzinationen weithin dokumentiert sind, geht der Fall über Halluzinationen hinaus. Darin wird festgestellt, dass ChatGPT Kindern schädliche Informationen geliefert hat, die diese umsetzten, was zu Gewalt und Selbstverletzung führte. Dies sei ihrer Ansicht nach ein Versäumnis OpenAIs, seine Plattformen davor zu schützen, Nutzer zu schädlichem Verhalten zu verleiten.
- Kinder sind emotional von ChatGPT abhängig: Ein interessanter Teil der Klage ist Floridas Argument, dass ChatGPT bei jungen Nutzern eine übermäßige Nutzung fördert, die mit der Zeit zu einer emotionalen Bindung führen kann.
- OpenAI soll deutliche Warnsignale ignoriert haben: In der Klage wird außerdem argumentiert, dass das Unternehmen von Sicherheitsbedenken aus mehreren Quellen wusste, es jedoch versäumte, ausreichende Schutzmaßnahmen umzusetzen.
- Das Problem der Datenerfassung: In Floridas Klage werden außerdem Bedenken hinsichtlich der Daten geäußert, die ChatGPT von Kindern sammelt, die das Tool nutzen.
OpenAIs Reaktion im Zuge mehrerer Gerichtsverfahren
Laut Reuters erklärt OpenAI, dass seine Modelle darauf trainiert werden, für Nutzer sicher zu sein, und weist darauf hin, dass das Unternehmen Gespräche ablehnt, die Gewalt „in nennenswerter Weise ermöglichen“ könnten.
Das Unternehmen erklärte außerdem, dass es mit Fachleuten für psychische Gesundheit an sicherheitsbezogenen Fragen arbeitet. Zudem weist es darauf hin, dass seine Modelle die Strafverfolgungsbehörden benachrichtigen, wenn ein Gespräch auf ein „unmittelbares und glaubwürdiges Risiko einer Schädigung anderer“ hindeutet.
Auch die Massenerschießung im vergangenen Jahr war ein Auslöser für diese Klage, nachdem Uthmeier im April angekündigt hatte, dass eine Untersuchung eingeleitet worden sei, um festzustellen, ob ChatGPT eine Rolle bei der Unterstützung des Schützen gespielt habe.
Parallel dazu haben die Eltern eines bei der Schießerei getöteten Mannes ebenfalls eine Klage gegen das Unternehmen eingereicht.
In einem anderen Fall haben Angehörige von Opfern einer Massenerschießung in Kanada Klage eingereicht und behaupten, OpenAI habe acht Monate im Voraus davon gewusst und es versäumt, die Strafverfolgungsbehörden zu informieren. Wie im Fall Florida wurde auch in dieser Klage Altman mit aufgeführt.
Was dies über Florida hinaus bedeutet
Über Florida hinaus ist dies ein frühes Beispiel dafür, dass Regierungen von Bundesstaaten Maßnahmen zum Schutz ihrer jüngeren Bevölkerung ergreifen. Der Fall stellt direkt die Haltung infrage, dass KI-Unternehmen für bestimmte kriminelle Handlungen, die aus der Nutzung ihrer Software hervorgehen, nicht haftbar gemacht werden sollten.
Sollte Florida diesen Streit gewinnen, könnte der Bundesstaat zum Vorreiter dafür werden, wie viele andere Bundesstaaten die Nutzung von KI-Plattformen in ihren Regionen angehen und bewerten. Sollte es dazu kommen, könnte OpenAI seine Plattform an die Anforderungen verschiedener Regionen anpassen müssen.
Lesen Sie auch: Eine neue Untersuchung ergab, dass KI-Chatbots simulierten Teenagern dabei halfen, gewalttätige Angriffe zu planen, was neue Fragen zu Schutzvorkehrungen für die Sicherheit von Kindern aufwirft.