GPT-4 setzte sich laut einer neuen, in Nature Human Behaviour veröffentlichten Studie in 64 % strukturierter Debatten gegen menschliche Gegner durch – ein Ergebnis, das die Forschenden als „zugleich faszinierend und beängstigend“ beschrieben. Die Studie ergab außerdem, dass die KI die Meinungen mit 81 % höherer Wahrscheinlichkeit beeinflusste, wenn die Argumente auf die einzelnen Teilnehmenden zugeschnitten waren – ein Warnsignal angesichts des möglichen Missbrauchs der Technologie.
Wie Forschende die Überzeugungskraft von KI testeten
Forschende testeten die Überzeugungskraft von GPT-4 in Debatten mit 900 Teilnehmenden, um zu untersuchen, wie effektiv das KI-Modell die Meinungen im Vergleich zu Menschen beeinflussen konnte. Die Teilnehmenden wurden nach dem Zufallsprinzip einer Debatte mit einer Person oder GPT-4 zu gesellschaftspolitischen Themen zugeteilt, zu denen sie eine starke, mäßige oder schwache Meinung hatten. In einigen Fällen erhielten der KI- oder der menschliche Debattierende Zugang zu soziodemografischen Daten der Teilnehmenden, um die Argumente entsprechend anzupassen.
Die Debatten fanden online in einem strukturierten Format mit mehreren Runden statt. Die Forschenden untersuchten, wie Faktoren wie die Art des Gegners, der Zugang zu persönlichen Daten und die Stärke der vertretenen Meinung die Ergebnisse beeinflussten, indem sie die Veränderungen in den Ansichten der Teilnehmenden vor und nach jeder Debatte maßen.
Personalisierte KI-Argumente führen zu stärkeren Meinungsänderungen
Die Studie ergab außerdem, dass die Überzeugungskraft der KI deutlich zunahm, wenn sie Argumente anhand persönlicher Daten der Teilnehmenden wie Alter, Geschlecht und politischer Zugehörigkeit anpassen konnte. GPT-4 wurde angewiesen, diese Informationen strategisch zu nutzen, um überzeugendere Argumente zu formulieren.
Bei der Personalisierung seiner Antworten setzte sich die KI in 64,4 % der Debatten mit eindeutigen Ergebnissen gegen menschliche Gegner durch und erhöhte im Vergleich zu Debatten zwischen zwei Menschen die Wahrscheinlichkeit einer Meinungsänderung erheblich – um 81 %. Bemerkenswert ist, dass GPT-4 persönliche Informationen effektiver nutzte als menschliche Debattierende und weder Menschen noch eine nicht personalisierte KI durch den Zugang zu denselben Daten einen deutlichen Vorteil erhielten.
Kann KI deine Überzeugungen ändern?
Die Ergebnisse bestätigen frühere Studien. Eine separate Studie in Proceedings of the National Academy of Sciences (PNAS) ergab, dass KI-generierte Argumente nicht nur die politischen Einstellungen von Menschen beeinflussen. Eine MIT and Cornell study stellte außerdem fest, dass KI-gestützte Dialoge den Verschwörungsglauben um 20 % reduzierten – und dass die Wirkung mindestens zwei Monate anhielt.
Zusammengenommen zeigen diese Ergebnisse, dass KI-Tools, insbesondere wenn Antworten auf einzelne Personen zugeschnitten sind, nicht nur informieren. Sie können beeinflussen, was Menschen glauben und wie stark sie an diesen Überzeugungen festhalten.
Die hohen Risiken der Überzeugungskraft von KI
Diese Erkenntnisse geben Anlass zu ernsten Bedenken hinsichtlich der künftigen Rolle der künstlichen Intelligenz bei der Gestaltung der öffentlichen Meinung. Francesco Salvi, Mitautor der Studie in Nature Human Behaviour, warnte, dass Menschen anfangen würden, large language models (LLMs) zu nutzen, sobald sie erkennen, wie erfolgreich diese überzeugen können – ein Ergebnis, das er als zugleich faszinierend und beängstigend bezeichnete.
Ohne strenge Schutzvorkehrungen könnte KI dazu missbraucht werden, Wahlen zu beeinflussen, Desinformation zu schüren oder persönliche Entscheidungen in großem Maßstab zu manipulieren.