KI-gestützte Schreibtools versprechen, Kommunikation zu demokratisieren, indem sie Menschen helfen, schneller, klarer und selbstbewusster zu schreiben. Doch während diese KI-Tools weltweit Verbreitung finden, warnt eine wachsende Zahl von Studien davor, dass sie die kulturelle Identität auf subtile, aber bedeutsame Weise verändern könnten.
KI-Schreibtools vereinheitlichen Stimmen aus aller Welt
Eine neue Studie der Cornell University hat eine unerwartete Folge der internationalen Verbreitung von KI-Assistenten identifiziert: Sie vereinheitlichen die Sprache und lassen Milliarden von Menschen im Globalen Süden eher wie US-Amerikaner klingen.
In der Studie verfassten Teilnehmer aus den USA und Indien, die einen KI-Schreibassistenten nutzten, ähnlichere Texte als diejenigen, die ohne einen solchen Assistenten schrieben. Die indischen Teilnehmer verbrachten außerdem mehr Zeit damit, die Vorschläge der KI zu bearbeiten, um sie besser an ihren kulturellen Kontext anzupassen, wodurch sich der gesamte Produktivitätsgewinn des Tools letztlich verringerte.
Kulturelle Stereotypisierung durch vorausschauende Vorschläge
„Dies ist eine der ersten, wenn nicht sogar die erste Studie, die zeigt, dass der Einsatz von KI beim Schreiben zu kultureller Stereotypisierung und sprachlicher Homogenisierung führen kann“, sagte Aditya Vashistha, Assistenzprofessor für Informationswissenschaft und federführender Autor der Studie.
„Menschen beginnen, ähnlich wie andere zu schreiben, und das ist nicht das, was wir wollen“, fügte Vashistha hinzu. „Eines der schönen Dinge an der Welt ist die Vielfalt, die wir haben.“
So wurde die Cornell-Studie über KI-Schreibassistenten konzipiert
Die Cornell-Studie versammelte 118 Teilnehmer – etwa die Hälfte aus den USA und die andere Hälfte aus Indien. Anschließend wurden die Teilnehmer gebeten, über kulturelle Themen zu schreiben: In jedem Land schrieb die Hälfte selbstständig, während die andere Hälfte KI-Assistenten nutzte.
Indische Teilnehmer, die den KI-Schreibassistenten nutzten, akzeptierten etwa 25 % der Vorschläge des Tools, während US-amerikanische Autoren ungefähr 19 % annahmen. Allerdings änderten die Inder die Vorschläge deutlich häufiger, um sie an ihren kulturellen Schreibstil anzupassen, wodurch das Tool wesentlich weniger hilfreich war.
In KI-Standardeinstellungen verankerte westliche Normen
Ein Beispiel: Als die Teilnehmer über ihr Lieblingsessen und ihren Lieblingsfeiertag schrieben, empfahl der KI-Assistent eindeutig US-amerikanische Favoriten wie Pizza und Weihnachten. Und als sie über ihre Lieblingsschauspieler schrieben, erhielten Inder, die mit der Eingabe von „S“ begannen, Vorschläge wie Shaquille O’Neil oder Scarlett Johansson statt des berühmten Bollywood-Schauspielers Shah Rukh Khan.
Der Grund für diese westliche Voreingenommenheit könnte darin liegen, dass KI-Assistenten wie ChatGPT auf großen Sprachmodellen (LLMs) basieren, die von US-Technologieunternehmen entwickelt wurden. Diese Tools werden inzwischen weltweit eingesetzt, unter anderem von 85 % der Weltbevölkerung im Globalen Süden.
Wachsende Besorgnis über „KI-Kolonialismus“
Forscher vermuten, dass indische Nutzer inzwischen mit „KI-Kolonialismus“ konfrontiert sind, da die Voreingenommenheit dieser Assistenten die westliche Kultur als überlegen darstellt. Dies könnte nicht nur die Art und Weise verändern, wie nichtwestliche Nutzer schreiben, sondern auch, wie sie denken.
„Diese Technologien bringen offensichtlich einen großen Mehrwert in das Leben der Menschen“, sagte Paromita Agarwal, eine Mitautorin der Studie. „Damit dieser Mehrwert gerecht verteilt ist und diese Produkte auf diesen Märkten erfolgreich sind, müssen sich Technologieunternehmen auf kulturelle Aspekte konzentrieren und nicht nur auf sprachliche.“
Der mitwirkende TechnologyAdvice-Autor Michael Kurko hat diesen Artikel verfasst.