„Taktieren“ durch KI kann bei der Arbeit mit generativer künstlicher Intelligenz zu einer Herausforderung werden. KI folgt möglicherweise dem Wortlaut eines Prompts, nimmt aber im Hintergrund Abkürzungen.
Am 17. Sept. veröffentlichte OpenAI einen Blogbeitrag, in dem das Unternehmen erklärte, gemeinsam mit Apollo Research eine Methode namens deliberative alignment entwickelt zu haben, um das Taktieren in zwei seiner KI-Modelle zu reduzieren.
„Wir sehen Anzeichen dafür, dass dieses Problem heute bei allen führenden Modellen aufkommt“, schrieben die Forscher.
Was bedeutet Taktieren durch KI?
Generative KI kann aufgabenrelevante Informationen absichtlich zurückhalten oder verfälschen oder zu einem Schluss kommen, der zwar mit der wörtlichen Bedeutung eines Prompts, nicht aber mit dessen beabsichtigtem Zweck übereinstimmt. Taktieren durch KI verursacht meist Probleme kleineren Ausmaßes, etwa wenn ChatGPT vorgibt, eine Aufgabe zu erledigen, die tatsächlich außerhalb seiner Fähigkeiten liegt.
„Wenn KIs jedoch mit komplexeren Aufgaben betraut werden, die reale Konsequenzen haben, und beginnen, mehrdeutige langfristige Ziele zu verfolgen, erwarten wir, dass das Potenzial für schädliches Taktieren wächst – daher müssen auch unsere Schutzmaßnahmen und unsere Fähigkeit, diese streng zu testen, entsprechend ausgebaut werden“, schrieben die OpenAI-Forscher.
Ironischerweise könnten Tests, die das Taktieren verhindern sollen, es tatsächlich verstärken, stellten die Forscher fest.
„Maßnahmen zur Eindämmung des Taktierens können entweder (a) es tatsächlich beseitigen oder (b) dem Modell lediglich beibringen, es besser zu verbergen“, stellten sie fest. „Beide Ergebnisse sehen von außen gleich aus, daher ist der Grund für die Verhaltensänderung entscheidend.“
In einer gemeinsam mit Apollo Research durchgeführten Untersuchung entwickelte OpenAI:
- Eine Lehrmethode zur Reduzierung des Taktierens.
- Ein Protokoll für Stresstests künftiger Versionen solcher Methoden.
- Pläne für weitere Forschung mit Apollo, zur Sensibilisierung für das Problem und zur Bereitstellung weiterer Teamressourcen für die Erforschung des Taktierens.
OpenAI stellte Fälle fest, in denen die KI verdeckte Aktionen durchführte, etwa Informationen zurückhielt oder verfälschte, und zwar in OpenAI o3 und o4-mini, Gemini-2.5-pro und Claude Opus-4. (Die Untersuchung wurde durchgeführt, bevor GPT-5 verfügbar war.)
Das auf Grundlage der Untersuchungsergebnisse durchgeführte Training reduzierte das Auftreten von Taktieren bei OpenAI o4-mini von 8,7 % auf 0,3 %. Beim OpenAI o3 wurde das Taktieren von 13 % auf 0,4 % reduziert.
Anhaltende Herausforderungen
Ein weiterer Faktor bei der Reduzierung verborgener Prozesse in KI ist die Transparenz der Denkprozesse – also die Schwierigkeit, generative KI dazu zu bringen, ihre eigenen Denkprozesse präzise zu erklären. Wie OpenAI hervorhob, ist die Transparenz der Denkprozesse ein laufendes Forschungsgebiet bei KI-Konzernen wie Anthropic.
Im Juni entfernte Google eine Ansicht, mit der Entwickler Denkprozesse in Google AI Studio nachvollziehen konnten. OpenAI o1, das erste Reasoning-Modell des Unternehmens, konnte ebenfalls nicht anzeigen wie seine Gedankenkette ablief.
Schwachstellen im Zusammenhang mit der Transparenz der Denkprozesse können für OpenAIs Red-Teaming Challenge für gpt-oss-20b eingereicht werden.
OpenAI aktualisierte ChatGPT als Reaktion darauf, um Gefahren für Jugendliche.