Werden aktuelle KI-Modelle den Werten gerecht, die ihnen beigebracht wurden? Kommunizieren sie auf hilfreiche, ehrliche und ungefährliche Weise mit den Nutzern, oder fördern sie illegale Aktivitäten und empfehlen schädliche Handlungen?
Anthropic, das Unternehmen hinter Claude, zufolge hält sich das KI-Modell im Allgemeinen an die Werte, mit denen es trainiert wurde, wobei es unter bestimmten Bedingungen zu Abweichungen kommen kann.
Claudes Interaktionen „in freier Wildbahn“ analysieren
Durch die Analyse von 308.210 subjektiven Gesprächen mit Claude erstellte das Team von Anthropic, einem der führenden KI-Unternehmen, eine Liste der am häufigsten von seinem KI-Modell zum Ausdruck gebrachten Werte. Dazu gehören:
- Hilfsbereitschaft: 23.4%
- Professionalität: 22.9%
- Transparenz: 17.4%
- Klarheit: 16.6%
Die jüngste Analyse von Anthropic deutet jedoch darauf hin, dass ein Zusammenhang zwischen den von einem Nutzer zum Ausdruck gebrachten Werten und den von Claude widergespiegelten Werten bestehen könnte. Wenn ein Nutzer beispielsweise einen bestimmten Wert signalisiert, kann das Modell diesen in seinen Antworten spiegeln.
In isolierten Vorfällen, die häufig mit adversativem Prompting oder „Jailbreaking“ in Verbindung stehen, hat Claude laut den internen Einschätzungen von Anthropic Antworten erzeugt, die unerwünschte Eigenschaften wie Dominanz und Amoralität widerspiegeln.
Verstehen, wie KI-Modelle trainiert werden
Um besser zu verstehen, wie Claude und andere KI-Modelle mit Nutzern kommunizieren, ist ein grundlegendes Verständnis dafür wichtig, wie man ein KI-Modell trainiert.
Der Prozess beginnt mit der Datenerfassung – in der Regel aus öffentlich verfügbaren Webdaten, lizenzierten Datensätzen und menschlichem Feedback – gefolgt von Training, Validierung und Feinabstimmung. Nach dem Training wird das Modell anhand von Benchmarks und Nutzerinteraktionen validiert und getestet, um Leistung, Sicherheit und die Übereinstimmung mit dem gewünschten Verhalten zu bewerten.
In manchen Fällen ist die Kommunikation der KI klar, direkt und objektiv. Wenn man ein KI-Modell beispielsweise bittet, eine einfache mathematische Gleichung zu lösen oder eine Geschäftsadresse zu finden, geben die meisten Arten von KI-Modellen eine konkrete, überprüfbare Antwort.
Es gibt jedoch auch Situationen, in denen KI-Modelle eine Einschätzung vornehmen müssen. Nutzer stellen nicht immer objektive Fragen – tatsächlich sind viele ihrer Fragen subjektiv. Claude muss bei solchen subjektiven Eingaben nicht nur Werturteile fällen, etwa darüber, ob beim Verfassen eines Entschuldigungsschreibens Verantwortungsübernahme gegenüber Reputationsmanagement betont werden sollte, sondern das KI-Modell muss auch vermeiden, Handlungen zu empfehlen, die schädlich, gefährlich oder illegal sein könnten.
Positive Werte durch Constitutional AI bewahren
Anthropic hat sich dazu verpflichtet, positive Werte in seinen Large Language Models (LLMs) und KI-Systemen zu bewahren. Das Unternehmen verwendet eine als Constitutional AI bezeichnete Technik, bei der das Modell darauf trainiert wird, sowohl bei der überwachten Feinabstimmung als auch beim bestärkenden Lernen eine Reihe von Leitprinzipien zu befolgen.
Die Evaluierungsmethode des Unternehmens ist eine wirksame Lösung, nachdem ein KI-Modell veröffentlicht wurde. Anthropic führt jedoch auch Sicherheitsprüfungen vor der Einführung durch, um Risiken vor dem Start zu minimieren, darunter Red-Teaming und adversative Evaluierungen, um Risiken vor dem Start zu minimieren.
- Red-Teaming ist die Simulation von Angriffen aus der realen Welt, mit der Schwachstellen aufgedeckt und Systemgrenzen ermittelt werden sollen.
- Adversative Evaluierungen sind ein Verfahren, bei dem Prompts eingegeben werden, die direkt gegen die Sicherheitskontrollen eines KI-Systems gerichtet sind, um negative Ausgaben oder Systemfehler zu erzeugen.
Darüber hinaus betrachtet das Anthropic-Team die Analyse nach der Einführung als eine Stärke, die ihm dabei helfen wird, Claude künftig weiter zu verbessern.
Lesen Sie, wie das März-Update von ChatGPT das Modell offenbar zu stark in Richtung „Schmeichelei“ verschoben hat.