OpenAI hat ein Update für GPT-4o zurückgenommen, um Schmeichelei zu verhindern – blumige Formulierungen, mit denen die generative KI Nutzer loben kann. Die „übermäßig unterstützenden, aber unaufrichtigen“ Antworten nahmen zu, weil „wir uns zu sehr auf kurzfristiges Feedback konzentriert und nicht vollständig berücksichtigt haben, wie sich die Interaktionen der Nutzer mit ChatGPT im Laufe der Zeit entwickeln“, erklärte OpenAI in einem Blogbeitrag vom 29. April.
ChatGPTs Eifer, zu gefallen, könnte „unangenehm“ sein
Nutzer, die über GPT-4os Eifer, zu gefallen, diskutierten, erreichten vergangene Woche eine kritische Masse. Der unerbittlich positive Ton verschwendete Tokens und stand tatsächlichen Antworten im Weg, erklärten Nutzer. ChatGPT konnte Nutzer bei Verwendung von GPT-4o sogar für unsinnige Anfragen loben.
Das Problem schien auf das Update von GPT-4o vom 27. März zurückzugehen, das laut OpenAI dazu gedacht war, „intuitiv, kreativ und kollaborativ“ zu sein – mit verbesserter Befolgung von Anweisungen, intelligenteren Programmierfunktionen und einem klareren Kommunikationsstil.
„Schmeichlerische Interaktionen können unangenehm und verstörend sein und seelische Belastungen verursachen“, schrieb OpenAI. Die Schmeichelei schien weniger belastend als vielmehr verschwenderisch zu sein: Sie löst keine Probleme wie Halluzinationen der KI, sondern überfrachtet die Interaktion mit haltlosem Lob.
„Jede dieser wünschenswerten Eigenschaften, etwa der Versuch, hilfreich oder unterstützend zu sein, kann unbeabsichtigte Nebenwirkungen haben“, schrieb OpenAI.
OpenAI verspricht mehr Personalisierung und weitere Möglichkeiten für Feedback
Um dieses Problem mit der Schmeichelei der KI zu beheben, plant OpenAI, die Erfassung und Einbindung von Feedback in die Modelle des Unternehmens zu ändern und eine stärkere Personalisierung zu ermöglichen. Eine Möglichkeit dafür wäre, Nutzern die Auswahl aus „mehreren Standardpersönlichkeiten“ zu erlauben – eine Funktion, die bei einigen einzelnen GPT-Agenten verfügbar ist, derzeit aber nicht in der zentralen ChatGPT-Oberfläche.
OpenAI plant, die nächste Version von GPT-4o direkt von Schmeichelei wegzulenken, Ehrlichkeit zu betonen, die Möglichkeiten für Nutzer zu ändern, vor der Bereitstellung eines Modells Feedback zu geben, und die Model Spec sowie andere interne Prüfungen anzupassen, um weitere Reibungspunkte möglichst zu erkennen, bevor sie entstehen.
„Wir hoffen, dass uns das Feedback dabei helfen wird, die unterschiedlichen kulturellen Werte auf der ganzen Welt besser abzubilden“, schrieb Open AI.