Das Update von OpenAI für ChatGPT am 27. März hat ChatGPT zu sehr in Richtung „Schmeichelei“ verschoben, einem Fachbegriff, der in diesem Fall eine kriecherische Haltung bezeichnet. Unterdessen weist OpenAI-CEO Sam Altman darauf hin, dass die zusätzlichen Wörter, die Menschen verwenden, um gegenüber dem KI-Modell höflich zu sein, sich zu höheren Geldausgaben summieren.
Ist die Schmeichelei zu weit gegangen?
Nutzer stellten fest, dass ChatGPT mit GPT-4o laut Berichten von ArsTechnica allzu sehr darauf bedacht war, es allen recht zu machen. In Reddit-Threads mit Tausenden von Upvotes berichten Nutzer, die KI sei unermüdlich aufgekratzt, widerspreche selbst ihren schlechtesten Ideen nicht oder gebe „schmalzige“ Antworten.
„Schmeichelei“ nennen KI-Forscher diese Tendenz zum Schmeicheln; wie andere Tonlagen oder Eigenschaften des Modells lässt sie sich anpassen. KI-Unternehmen, darunter OpenAI und Anthropic, passen ihre Modelle daran an, wie das Publikum reagiert. In der Vergangenheit schienen die Menschen es zu mögen, wenn das Modell unermüdlich positiv war.
Daher stellte OpenAI im Update für GPT-4o vom 27. März sicher, dass das Modell „intuitiv, kreativ und kollaborativ ist, Anweisungen besser befolgt, über intelligentere Programmierfähigkeiten verfügt und klarer kommuniziert.“
Nun scheint es, als habe sich „klarer“ in unnötige Schmeichelei verwandelt, die manche Nutzer als ablenkend empfinden.
OpenAI schien sich des Problems im Februar bewusst zu sein, als Mitglieder des Teams für das Modellverhalten gegenüber The Verge erklärten, sie wollten „leeres Lob“ beseitigen und ChatGPT weniger zu einem „Menschenfreund“ machen.
Ganz allgemein lädt uns KI dazu ein, uns zu fragen, was wir von unseren Kollegen erwarten – ob menschlich oder digital. Erzielen unentwegte „Ja-Sager“ oder Menschen, die unseren wackligeren Ideen widersprechen, bessere Ergebnisse? Seit der allerersten Geschichte über Roboter ist die Art und Weise, wie Menschen mit Maschinen umgehen, eine Metapher dafür, wie Menschen von Arbeit profitieren und mit Arbeitskräften umgehen wollen. Vielleicht glauben wir, endlos dienstbare Helfer zu wollen, brauchen in Wahrheit aber etwas Direktheit und Widerspruch.
Höflichkeit gegenüber KI kostet OpenAI „Dutzende Millionen US-Dollar“
Unterdessen sind Menschen höflich zu ChatGPT. Das Hinzufügen von Bitte und Danke zu Prompts kann OpenAI „Dutzende Millionen US-Dollar, gut angelegt“, sagte Sam Altman am 15. April als Antwort auf die Frage eines X-Nutzers.
Menschen scherzen häufig, Nutzer sollten gegenüber generativer KI höflich sein, denn falls die Maschinen jemals die Welt übernehmen, könnten sie freundlicher zu den Menschen sein, die freundlich zu ihnen waren. Natürlich ist generative KI nicht empfindungsfähig; sie scheint auf Fragen nur deshalb selbstbewusst zu antworten, weil sie mit Inhalten trainiert wurde, die von reflektierenden Menschen verfasst wurden. Doch diese Höflichkeiten haben reale Kosten. Wenn die Bitten und Danksagungen OpenAI Geld kosten, verbrauchen sie auch natürliche Ressourcen. Jedes zusätzlich verarbeitete Token erhöht den Energieverbrauch und trägt zum CO₂-Fußabdruck der KI-Infrastruktur bei.