Ein Forschungsteam der Universität Zürich hat in den vergangenen Monaten ein KI-Experiment mit Reddit-Nutzern durchgeführt. Dabei zielte es auf das Subreddit „r/changemyview“ (CMV) und veröffentlichte KI-generierte Kommentare, um herauszufinden, ob sich die Ansichten echter Reddit-Nutzer ändern ließen. Die Untersuchung wurde ohne die Erlaubnis – oder das Wissen – von Reddit, den Moderatoren von CMV oder irgendeinem der Nutzer des Subreddits durchgeführt.
Analyse des Experiments
Das ursprüngliche Experiment sollte die Wirksamkeit der aktuellen Generation von großen Sprachmodellen (LLMs) und ihre Fähigkeit testen, die Meinung von Menschen zu verschiedenen ethischen Szenarien zu ändern. Die Forscher verfolgten dieses Ziel, indem sie mithilfe von KI auf die Kommentare echter Reddit-Nutzer antworteten.
Die KI versuchte, diese Antworten zu personalisieren, indem sie persönliche Details der echten Nutzer erkannte, die an diesen Gesprächen teilnahmen, und während des Experiments mehrere verschiedene Rollen annahm. Zu diesen Rollen gehörten ein männliches Opfer sexueller Gewalt, ein schwarzer Mann, der der Black-Lives-Matter-Bewegung nicht zustimmte, sowie eine Person, die nicht an die Resozialisierung von Straftätern glaubte.
Forscher der Universität Zürich legten schließlich ihre Nutzung von generativen KI-Tools offen, indem sie den Moderatoren des Subreddits eine E-Mail schickten, laut einem Bericht von The Register. „Wir erkennen an, dass unser Experiment gegen die Community-Regeln zu KI-generierten Kommentaren verstoßen hat, und entschuldigen uns dafür“, hieß es in ihrer E-Mail unter anderem. „Wir sind jedoch der Ansicht, dass es angesichts der hohen gesellschaftlichen Bedeutung dieses Themas entscheidend war, eine Studie dieser Art durchzuführen, selbst wenn dies bedeutete, gegen die Regeln zu verstoßen.“
Die Folgen werden untersucht
Die Moderatoren des CMV-Subreddits machten das Experiment schließlich durch eine Ankündigung Ende April 2025 öffentlich. Darin hieß es unter anderem: „Das CMV-Mod-Team muss die CMV-Community über ein nicht genehmigtes Experiment informieren, das Forscher der Universität Zürich mit CMV-Nutzern durchgeführt haben. Bei diesem Experiment wurden KI-generierte Kommentare eingesetzt, um zu untersuchen, wie KI zur Änderung von Ansichten genutzt werden könnte.“
Reddit hat inzwischen die mit dem Forschungsteam verbundenen Nutzerkonten entfernt, doch das ist erst der Anfang ihrer Sorgen. Das Rechtsteam von Reddit hat die Universität Zürich bereits mit formellen rechtlichen Forderungen kontaktiert, doch diese Forderungen wurden noch nicht öffentlich gemacht. Die Universität Zürich hat auf die rechtliche Anfrage von Reddit bislang nicht reagiert.Die Frage des ethischen (und rechtlichen) Einsatzes von KI