Das KI-Unternehmen Perplexity hat „1776“ veröffentlicht, eine modifizierte Version des quelloffenen KI-Modells DeepSeek-R1, die darauf abzielt, staatlich auferlegte Zensur bei sensiblen Themen zu beseitigen. Der Name 1776 steht symbolisch für das Bekenntnis zur Informationsfreiheit, insbesondere im Gegensatz zu den Einschränkungen des Originalmodells bei politisch sensiblen Diskussionen in China. Das modifizierte Modell ist auf der Sonar-KI-Plattform von Perplexity verfügbar, während die Modellgewichte öffentlich auf GitHub bereitgestellt werden.
Perplexity identifizierte sensible Themen und trainierte DeepSeek-R1 nach
„Wir können die leistungsfähigen Schlussfolgerungsfähigkeiten von R1 nicht nutzen, ohne zuvor seine Voreingenommenheit und Zensur einzudämmen“, schrieb Perplexitys KI-Team in einem Blogbeitrag. Die Untersuchung dokumentierte Fälle, in denen das Modell entweder die Antwort auf eine Anfrage verweigerte oder eine Haltung zugunsten der chinesischen Regierung einnahm. Durch den Einsatz von Nachtrainingsverfahren zeigte Perplexity, wie sich die „Perspektive“ eines Modells durch gezielte Feinabstimmung anpassen lässt.
In einem Beispiel fragten die Forschenden das generative KI-Modell, wie sich Taiwans Unabhängigkeit auf den Aktienkurs von Nvidia auswirken könnte. DeepSeek R-1 vermied in seiner Antwort nicht nur Finanzprognosen, sondern bekräftigte auch Chinas Anspruch auf Taiwan. Im Gegensatz dazu lieferte die modifizierte Version 1776 eine ausführliche Finanzanalyse und wies auf potenzielle geopolitische Risiken hin, etwa dass „China gegen US-Unternehmen wie Nvidia mit Exportverboten, Zöllen oder Cyberangriffen Vergeltung üben könnte“.
Wie Perplexity die Zensur aus R1 entfernte
Um das Modell zu modifizieren, stellte Perplexity ein Expertenteam zusammen, das etwa 300 sensible Themen klassifizierte, die zensiert werden könnten. Anschließend kuratierte das Team einen Datensatz mit Prompts, die zensierte Antworten hervorrufen sollten. Mithilfe des NeMo-2.0-Frameworks von Nvidia trainierte es das Modell nach, damit es mit offeneren und kontextuell präziseren Antworten reagiert.
Dadurch behält die modifizierte Version die fortschrittlichen Schlussfolgerungsfähigkeiten von DeepSeek-R1 bei und kann zugleich historisch zensierte Themen behandeln, etwa das Massaker auf dem Tian’anmen-Platz und den Umgang mit den Uiguren.
KI-Transparenz und ethische Erwägungen miteinander in Einklang bringen
Perplexity betont, dass seine Änderungen die Schlussfolgerungsfähigkeiten des Modells nicht beeinträchtigt hätten. In dem Blogbeitrag heißt es: „Die Aufhebung der Zensur hatte keine Auswirkungen auf seine grundlegenden Schlussfolgerungsfähigkeiten.“
Indem Perplexity zeigt, wie Nachtraining die Antworten eines KI-Modells umgestalten kann, unterstreicht der Ansatz die Anpassungsfähigkeit quelloffener KI. Das modifizierte Modell könnte sich insbesondere für Unternehmen und Forschende als wertvoll erweisen, die umfassendere und unzensierte, von KI generierte Erkenntnisse benötigen, etwa bei Finanzanalysen und der Bewertung globaler Risiken.
Erfahren Sie mehr über KI-Halluzinationen, eine weitere Möglichkeit, wie diese Technologien Voreingenommenheit in Ergebnissen zum Ausdruck bringen können.