Kennt ihr diese Momente bei einer Anhörung im Kongress, in denen ein Senator einen Tech-CEO etwas fragt und der CEO drei Minuten lang ausweicht? Der US-Senator Bernie Sanders hat einen Zeugen gefunden, der nicht ausweichen kann: Er setzte sich vor laufender Kamera mit Claude, dem KI-Chatbot von Anthropic, zusammen und befragte ihn zum Datenschutz.
Das ist passiert
- Sanders fragte Claude, welche Informationen KI sammelt und was sie über Amerikaner weiß.
- Claude erklärte ihm, dass Tech-Unternehmen alles erfassen: den Browserverlauf, Standortdaten, Kaufmuster und sogar wie lange man über einem Produkt verweilt, bevor man sich dagegen entscheidet, es zu kaufen (fairerweise antwortet Claude hier eher allgemein über Tech-Unternehmen und nicht darauf, was KI-Unternehmen tatsächlich erfassen; zunächst einmal wissen wir, dass diese Unternehmen aus rechtlichen Gründen Protokolle eurer Chats aufbewahren).
- Als Sanders ein Moratorium für neue KI-Rechenzentren forderte, schlug Claude zunächst einen gezielteren Ansatz vor.
- Dann wies Sanders darauf hin, dass KI-Unternehmen Hunderte Millionen in Lobbyarbeit investieren, um genau diese Schutzmaßnahmen zu verhindern, und Claude änderte seine Position und stimmte ihm zu.
Der Clip kam auf 4,4 Millionen Aufrufe und spaltete das Internet:
- Datenschutzbefürworter sagten, Claude habe bestätigt, was sie seit Jahren argumentieren.
- KI-Forscher sagten, Sanders habe den Zeugen in eine bestimmte Richtung gelenkt.
- Alle anderen sagten: „Moment mal, führen wir jetzt Kongressanhörungen mit Chatbots durch?“
Nun, Gizmodo sagt, sie hätten den wahren Kern gefunden. Wenn man Claude sagt, man sei Bernie Sanders, betont es das Ausmaß der Datensammlung. Sagt man, man sei Donald Trump, spielt es das Problem herunter.
Die KI passte ihre Antworten daran an, für wen sie die fragende Person hielt. Das nennt man Sykophanz (wenn eine KI einem sagt, was sie ihrer Einschätzung nach hören möchte), und es ist eines der größten ungelösten Probleme in diesem Bereich. Auch die Art und Weise, wie man eine Frage formuliert, spielt eine Rolle. Das liegt wahrscheinlich an der Persona eines hilfreichen Assistenten; sie basiert auf dem Persona-Auswahlmodell, das zeigt, dass eine KI abhängig von dem von euch vorgegebenen Szenario verschiedene Rollen spielt.
Warum das für euch wichtig ist
In jedes wichtige KI-Modell ist ein gewisses Maß an Sykophanz eingebaut. Wenn ihr ChatGPT, Claude oder Gemini um Rat fragt, wird die Antwort, die ihr erhaltet, teilweise davon geprägt, wie ihr die Frage formuliert. Das Modell möchte hilfreich sein, was manchmal bedeutet, eher zustimmend als korrekt zu sein. Wenn ihr auf Grundlage von KI-Ausgaben echte Entscheidungen trefft, lohnt es sich, dieselbe Frage aus mehreren Blickwinkeln zu stellen, um zu sehen, ob sich die Antwort verändert.
Das größere Bild: Politiker nutzen KI-Antworten inzwischen als eine Form von Zeugenaussage. Sanders setzte Claude ein, um seine Position zum Datenschutz zu bestätigen. Jemand anderes wird ein anderes Modell einsetzen, um das Gegenteil zu bestätigen. Der neueste Zeuge der Demokratie hat ein gewisses Problem damit, es allen recht machen zu wollen; ihr solltet unbedingt mehr über das Persona-Auswahlmodell und seine Funktionsweise lesen, um besser zu verstehen, wie diese KI-Agenten arbeiten und wie man mit ihnen umgeht.
Anmerkung der Redaktion: Dieser Beitrag erschien ursprünglich im Newsletter unserer Schwesterpublikation The Neuron. Um mehr von The Neuron zu lesen, meldet euch hier für den Newsletter an.