Ein Dokumentarfilm, der diese Woche beim Sundance-Festival Premiere feiert, behauptet, die verstörende Realität hinter dem rasanten Aufstieg der KI zu enthüllen.
Alles beginnt mit einer unheimlichen Geschichte aus dem Jahr 2016, die das heutige KI-Chaos vorhergesagt hat. „Ghost in the Machine“ beginnt mit Microsofts experimentellem Chatbot „Tay“, der sich innerhalb von 24 Stunden nach dem Start in eine Hass verbreitende Maschine verwandelte, und damit laut Regisseurin Valerie Veatch eine Büchse der Pandora öffnete, die nun die Kreativbranche verschlingt.
Nun, das ist eine Sichtweise. Wenn Sie KI begeistert, sollten Sie an dieser positiven Einstellung festhalten.
Doch was den Dokumentarfilm betrifft, bezeichneten Kritiker Veatchs Untersuchung als eine „scharfe Abrechnung mit dem Technofaschismus“, die direkt Elon Musk und das Machtgefüge des Silicon Valley ins Visier nimmt. Filmmaterial verbindet die Ursprünge der KI mit diskreditierten rassistischen Eugenikbewegungen aus der Zeit vor einem Jahrhundert und enthüllt die hässliche Wahrheit hinter den Hochglanzversprechen der Technologie.
Verzerrung und Kontrolle
Veatchs persönliche Experimente mit KI-Tools brachten verstörende rassistische Verzerrungen und hochgradig sexualisierte Bilder hervor, ohne dass sie entsprechende Anweisungen gegeben hatte. Das waren keine Fehler – es waren Funktionen eines Systems, das, wie sie herausfand, auf „Extraktion, Ausbeutung und Kontrolle“ beruht.
Indem sie die Erzählung des Silicon Valley Stück für Stück auseinandernimmt, legt ihre Untersuchung die unterbezahlte menschliche Arbeitskraft offen, die hinter den Kulissen Inhalte moderiert. Während Tech-Milliardäre KI als revolutionär anpreisen, zeigt mit versteckter Kamera aufgenommenes Material die allzu menschliche Belegschaft, die am unteren Ende des KI-Stacks für miserablen Lohn arbeitet.
Die Belege deuten darauf hin, dass KI lediglich der jüngste Versuch „mächtiger, ausgrenzender weißer Männer“ ist, „die ganze Welt nach ihrem eigenen Ebenbild neu zu gestalten“. Das ist kein Fortschritt – es ist ein hundert Jahre altes Drehbuch, das in neue Technologie gekleidet wurde.
Wenn Sie noch dabei sind, kommt noch mehr.
Der Branchenkrieg
Während Veatch zu „radikalem Widerstand“ gegen die Einführung von KI aufruft, enthüllen Insider aus Hollywood, dass die Unterhaltungsbranche bereits auseinanderbricht. Filmmanager setzen KI ein, um Drehbücher in Echtzeit zu bewerten, und ersetzen menschliche Leser durch Maschinen, die ohne jegliche menschliche Reaktion Anmerkungen zur Geschichte erstellen.
Studios, die unter Budgetdruck stehen, entscheiden sich für KI-generierte Inhalte, die „80 % der Qualität für 10 % der Kosten“ liefern, und verändern damit grundlegend die Herstellung von Filmen. Erste Entwürfe werden von KI analysiert. Anmerkungen zur Geschichte? Von Maschinen generiert. Menschliche Leser? Vollständig abgeschafft.
Während der Hollywoodstreiks 2023 wurden erste Warnsignale sichtbar, als sowohl Drehbuchautoren als auch Schauspieler den Schutz vor KI zu einem zentralen Anliegen machten. Rolling Stone berichtete bereits im Mai 2023 über die Bedrohung kreativer Arbeitsplätze durch die Technologie, doch die Branche tat diese Befürchtungen als verfrüht ab. Jetzt, weniger als drei Jahre später, werden die Vorhersagen zur brutalen Realität.
Auswirkungen und Konsequenzen
Der Historiker Yuval Noah Harari warnte diesen Monat, dass sich die wahren Auswirkungen der KI über 200 Jahre hinweg entfalten werden, was bedeutet, dass die gegenwärtigen Entscheidungsträger, die sich auf kurzfristige Gewinne konzentrieren, Konsequenzen auslösen, die sie unmöglich verstehen können. Harari verglich den gegenwärtigen Moment mit der frühen Industriellen Revolution, deren tiefgreifendste Konsequenzen sich erst über Generationen hinweg durch soziale, politische und geopolitische Umwälzungen zeigten.
Selbst wenn die Entwicklung von KI heute eingestellt würde, wären die langfristigen Auswirkungen laut Harari weiterhin unmöglich zu erfassen. Dennoch verändert die Technologie bereits das Dokumentarfilmschaffen selbst, wobei KI-Tools für alles verwendet werden – von der Transkription bis zu historischen Rekonstruktionen, wodurch eine ironische Situation entsteht: Filme, die KI kritisieren, müssen sich mit dem Einsatz genau jener Technologie auseinandersetzen, die sie offenlegen.
Die Branchenanalyse offenbart die grausame Rechnung: Studios werden nicht für 100 % menschliche Kreativität bezahlen, wenn sie 80 % der Qualität für 10 % der Kosten bekommen können. Wie ein Insider der Branche warnt: „Wenn man nur Wörter auf einer Seite verkauft, wird die KI beim Tempo und bei den Kosten jedes Mal gewinnen.“
Die unumkehrbare Entscheidung
Veatchs Lösung durchdringt das Chaos der Branche mit verblüffender Klarheit: Gemeinschaften sollen Fürsorge ins Zentrum stellen, menschliche Verbindungen wiederaufbauen und sich um jeden Preis einer unkritischen Einführung von KI widersetzen. Das „NOT AI“-Kennzeichnungssystem ihres Dokumentarfilms ist nicht bloß ein Gimmick – es ist ein Schlachtruf zur Bewahrung menschlicher Kreativität im Zeitalter des algorithmischen Ersatzes.
Über Hollywood hinaus offenbart Veatchs Untersuchung die menschlichen Kosten dieses Wandels. Ihr Film diagnostiziert nicht nur das Problem – er schlägt eindringlich Alarm angesichts dessen, was die Gesellschaft bei ihrem Wettlauf zur Einführung maschinell generierter Inhalte aller Art verliert.
Hier sind die acht wichtigsten Dinge, die Sie niemals in einen KI-Chatbot einfügen sollten – geordnet von leicht zu übersehenden Fehlern bis hin zu den gefährlichsten Preisgaben.