Regierungen und öffentliche Institutionen setzen zunehmend auf KI, um vorherzusehen, wie Gemeinschaften auf politische Entscheidungen reagieren könnten.
Von der Modellierung möglicher Reaktionen „ländlicher Wähler“ auf Klimagesetze bis zur Vorhersage von Reaktionen in Stadtvierteln auf Zonenreformen werden KI-Systeme als Stellvertreter für die öffentliche Meinung positioniert. Mit der zunehmenden Verbreitung dieser Werkzeuge rückt eine grundlegendere Frage in den Fokus: Wen genau repräsentieren diese Systeme?
Die Herausforderung, wie in einem Artikel des Burnes Center for Social Change, besteht nicht darin, ob AI plausible Antworten erzeugen kann, sondern darin, ob sie die Vielfalt und Verteilung realer menschlicher Ansichten zuverlässig widerspiegeln kann. Eine entsprechende Sorge lässt sich so formulieren: „Woher wissen wir, dass ein Modell tatsächlich eine Bevölkerung repräsentiert, statt ein flüssig formuliertes Stereotyp zu erzeugen?“
Ein neuer Rahmen
Das Collective Intelligence Project (CIP) versucht, dieses Problem mit einer sich entwickelnden Methodik namens Digital Twin Evaluation Framework oder DTEF anzugehen. Unter der Leitung des Forschers Evan Hadfield übernimmt das Projekt das Konzept der „digitalen Zwillinge“ aus dem Ingenieurwesen, wo virtuelle Repliken zur Modellierung physischer Systeme eingesetzt werden. In diesem Kontext bezeichnet der Begriff jedoch simulierte Versionen öffentlicher Einstellungen, die bisweilen als „Siliziumstichproben“ bezeichnet werden.
Anstatt eine einzelne technische Abhandlung zu veröffentlichen, hat CIP damit begonnen, den Rahmen in einer Reihe öffentlicher Beiträge vorzustellen, in denen erläutert wird, wie solche Systeme bewertet werden könnten. Ziel ist nicht per se, bessere Meinungssimulatoren zu entwickeln, sondern eine Möglichkeit zu schaffen, zu prüfen, ob KI-Modelle die Verteilung von Meinungen innerhalb einer Gruppe genau abbilden können – einschließlich Minderheits- und abweichender Positionen.
Im Zentrum des DTEF steht eine Abkehr von der Frage, ob ein Modell eine durchschnittliche oder „typische“ Antwort liefert. Stattdessen wird gefragt, ob ein Modell die vollständige Verteilung der von einer demografischen Gruppe vertretenen Meinungen erfassen kann.
So funktioniert die Bewertung
Der Rahmen stützt sich auf den Datensatz Global Dialogues von CIP, der Umfragen und deliberative Diskussionen über die öffentliche Einstellung zu KI umfasst. In einem typischen Bewertungsszenario beantwortet eine reale Gruppe von Menschen eine hypothetische politische Frage. Anschließend erhält das KI-Modell demografische Informationen über diese Gruppe sowie Beispiele dafür, wie sie frühere Fragen beantwortet hat.
Das Modell soll vorhersagen, wie die Gruppe auf die neue Frage reagieren wird – nicht mit einer einzigen Antwort, sondern mit einer Verteilung von Meinungen. Diese Vorhersage wird anschließend mit der tatsächlichen Verteilung der menschlichen Antworten verglichen.
„Das DTEF prüft, ob ein Modell reale Meinungsmuster abbilden kann, anstatt sich auf erlernte Annahmen zu stützen.“
Die daraus resultierenden Leistungswerte sollen zeigen, wo ein Modell gut funktioniert, wo es an Grenzen stößt und welche Bevölkerungsgruppen es nur schwer repräsentieren kann. CIP zufolge könnten diese Erkenntnisse politischen Entscheidungsträgern, Entwicklern und zivilgesellschaftlichen Organisationen letztlich dabei helfen einzuschätzen, wann synthetische Daten zuverlässig sein könnten und wann sie wahrscheinlich in die Irre führen.
Bemerkenswert ist, dass der Rahmen nicht zu beantworten versucht, ob synthetische Daten in der Politikgestaltung eingesetzt werden sollten, sondern nur, wie genau sie bei ihrer Verwendung reale Bevölkerungsgruppen widerspiegeln.
Offene Fragen
Das Aufkommen des DTEF macht ungelöste Governance-Fragen sichtbar, die über die technische Genauigkeit hinausgehen. Eine der drängendsten ist das Fehlen eines gemeinsamen Standards dafür, was als „repräsentativ genug“ gilt. Institutionen bewerten KI-Systeme häufig anhand technischer Kennzahlen, aber nur selten danach, ob ihre Ergebnisse die Meinungsmuster in der realen Welt über verschiedene Gruppen hinweg widerspiegeln.
Das DTEF macht diese Lücken sichtbarer, kann aber nicht bestimmen, wann eine synthetische Öffentlichkeit die Schwelle vom experimentellen Werkzeug zu einem legitimen Beitrag für reale Entscheidungen überschreitet.
Eine weitere Frage lautet, wann synthetische Beiträge überhaupt angemessen sind. KI-generierte öffentliche Meinung wird häufig als Möglichkeit dargestellt, den mit öffentlicher Beteiligung verbundenen Zeit- und Kostenaufwand zu reduzieren. Ihre Vorteile liegen auf der Hand: Sie ist schnell, kostengünstig und wiederholbar. Ohne klare Grenzen besteht jedoch die Gefahr, dass diese Systeme echte Beteiligung verdrängen, statt sie zu ergänzen.
Wenn Bewertungen zeigen, dass Modelle bei verschiedenen Bevölkerungsgruppen unterschiedlich gut funktionieren, stehen politische Entscheidungsträger ohne Orientierung da. Wann sollte ein Modell die Beteiligung ergänzen? Welche Überprüfung sollte vor dem Einsatz erforderlich sein? Und wo dürfen synthetische Öffentlichkeiten niemals an die Stelle realer Menschen treten?
„Synthetische Öffentlichkeiten werden nicht laut scheitern. Sie werden selbstbewusst und überzeugend scheitern.“
Legitimität jenseits der Genauigkeit
Selbst ein äußerst genaues Modell wirft grundlegendere Fragen zur demokratischen Legitimität auf. Siliziumstichproben sind darauf ausgelegt, Verhalten vorherzusagen, nicht Fairness, Inklusion oder Rechenschaftspflicht sicherzustellen. In vielen politischen Kontexten entsteht Legitimität nicht durch statistische Repräsentativität, sondern dadurch, dass den am stärksten von Entscheidungen Betroffenen eine Stimme gegeben wird.
Repräsentativität ist in diesem Sinne nur eine Dimension demokratischer Beteiligung und häufig nicht die wichtigste.
Warum das für Governance wichtig ist
Digitale Zwillinge der öffentlichen Meinung befinden sich noch im Aufbau, deuten aber auf eine neue Form repräsentativer Infrastruktur hin. Sobald Behörden sie einsetzen, um politische Maßnahmen zu testen, Ressourcen zu verteilen oder Gegenreaktionen vorherzusehen, können diese Systeme unbemerkt zu Stellvertretern der Öffentlichkeit werden.
„Das Risiko besteht in einer schleichenden Verschiebung: KI-Systeme werden zu standardmäßigen Entscheidungsträgern, weil sie bequem sind, nicht weil sie legitim sind.“
Synthetische Konsultation könnte allmählich langsamere und unübersichtlichere Formen echter Beteiligung verdrängen, insbesondere unter Budgetbeschränkungen und politischem Druck. Da digitale Zwillinge die Daten widerspiegeln, mit denen sie trainiert wurden, könnten sie außerdem die Perspektiven derjenigen verstärken, die bereits digital sichtbar sind, und zugleich Gemeinschaften ausschließen, die am stärksten von politischen Ergebnissen betroffen sind.
Der Schutz demokratischer Legitimität erfordert klare Leitplanken. Gemeinschaften müssen sehen, anfechten und korrigieren können, wie sie repräsentiert werden. Modelle sollten anhand realer Bevölkerungsdaten und nicht anhand interner Benchmarks validiert werden. Synthetische Öffentlichkeiten dürfen den gesetzlich vorgeschriebenen öffentlichen Input nicht ersetzen, und ihre Ergebnisse sollten als Signale und nicht als Ersatz für die demokratische Stimme behandelt werden.
Während sich KI-basierte Darstellungen menschlicher Meinung von Experimenten zu Infrastruktur entwickeln, stehen politische Entscheidungsträger vor dringenden Fragen: Wer kontrolliert synthetische Öffentlichkeiten? Wer profitiert von ihrer Nutzung? Und welche demokratische Zukunft wird in unserem Namen gestaltet?
Wenn diese Bedingungen nicht jetzt festgelegt werden, könnten sich Institutionen irgendwann gegenüber synthetischen Öffentlichkeiten statt gegenüber realen verantworten müssen.
Gouverneurin Kathy Hochul hat New York gerade zum zweiten Bundesstaat der Nation gemacht, der umfassende AI safety regulations.