PwC ist das jüngste der vier großen Beratungsunternehmen, in dessen veröffentlichten Berichten offenbar KI-Halluzinationen und problematische Quellenangaben entdeckt wurden.
PwC Middle East steht unter Beobachtung, nachdem Forscher von GPTZero in vier öffentlich zugänglichen Berichten zur „Thought Leadership“ des Unternehmens KI-Halluzinationen, fingierte Quellenangaben und nicht überprüfbare Behauptungen gefunden haben. Damit wächst die Liste ähnlicher Probleme im Zusammenhang mit den vier großen Beratungsunternehmen weiter.
Die vom Financial Times zuerst verifizierten Ergebnisse beziehen sich auf Berichte, die zwischen 2024 und 2026 veröffentlicht wurden und unter anderem Themen wie agentische KI, staatliche Dienstleistungen, Cybersicherheit für Elektrofahrzeuge und autonome Mobilität behandeln. Laut GPTZeroenthielten die Berichte gefälschte Fußnoten, Quellenangaben, die auf sachfremde oder nicht existente Quellen verwiesen, sowie Behauptungen, die nicht überprüft werden konnten.
Untersuchung hebt fingierte Quellen hervor
GPTZero erklärte, einer der Berichte, Transforming Governance, weise die deutlichsten Anzeichen für KI-generierten Textauf. Die Forscher schätzten die Wahrscheinlichkeit, dass der Bericht vollständig von einer KI generiert wurde, auf 84 %, ohne den Literaturverzeichnis-Teil sogar auf 100 %.
Zu den festgestellten Problemen gehörten Verweise auf eine Studie zur Luftqualität in Riad, die die Ermittler weder in der zitierten Fachzeitschrift noch unter den angegebenen Autoren finden konnten, Fußnoten mit Links zu Webseiten, die die dazugehörigen Behauptungen nicht stützten, sowie Quellenangaben, die auf Seiten verwiesen, die nicht mehr oder nie existiert hatten.
Die Forscher bezweifelten außerdem die Behauptung, dass PwCs „Citizen Pulse“-Framework bereits von den Regierungen Dänemarks, Saudi-Arabiens, der Vereinigten Staaten und Australiens eingesetzt werde, und erklärten, sie hätten keine öffentlich zugänglichen Belege für diese Einsätze gefunden.
In einem anderen Bericht wurde eine Automatisierungsinitiative von JPMorgan mit einem Medium-Beitrag eines jugendlichen Bloggers als Beleg untermauert. Ein Cybersicherheitsbericht enthielt unterdessen eine URL mit dem Parameter „utm_source=chatgpt.com“, den GPTZero als weiteren Hinweis auf die Unterstützung beim Verfassen durch eine KI anführte.
PwC kündigt Aktualisierung der Quellenangaben an
Als Reaktion auf die Ergebnisse erklärte PwC Middle East, die betroffenen Berichte zu korrigieren.
„PwC Middle East nimmt die Genauigkeit unserer veröffentlichten Forschung ernst und aktualisiert eine begrenzte Zahl unterstützender Quellenangaben in den genannten Berichten. Im Einklang mit unserem Ansatz für verantwortungsvolle KI verfügen wir über Qualitätskontrollprozesse für Forschung und Inhaltsentwicklung, deren Einhaltung wir von allen unseren Mitarbeitern erwarten“, erklärte ein Sprecher von PwC Middle East, laut City AM.
Das Unternehmen erläuterte nicht, wie die berichteten Fehler in die veröffentlichten Dokumente gelangen konnten. Paul Esau, ein Forscher bei GPTZero, sagte der Financial Timesdass uneinheitliche Muster bei den Quellenangaben ein Hinweis darauf gewesen seien, dass wahrscheinlich KI eingesetzt worden war.
„Diese Behauptung ist nicht falsch, aber kein Mensch würde dieselbe Tatsache auf zwei Seiten dreimal mit drei verschiedenen Quellen belegen“, sagte Esau mit Bezug auf wiederholte Quellenangaben zu der Behauptung, menschliches Versagen verursache 90 % der Verkehrsunfälle.
KI-Fehler breiten sich bei den vier großen Beratungsunternehmen aus
PwC ist das jüngste der vier großen Beratungsunternehmen, das wegen mutmaßlich KI-generierter Forschung und unzuverlässiger Quellenangaben unter Beobachtung steht.
Frühere Untersuchungen von GPTZeroveranlassten EY und KPMG, Berichte zurückzuziehen, die angeblich fingierte oder nicht überprüfbare Quellenangaben enthielten. Deloitte gewährte der australischen Regierung unterdessen teilweise eine Rückerstattung, nachdem in einem im Rahmen eines Regierungsauftrags erstellten Bericht Fehler im Zusammenhang mit KI festgestellt worden waren.
Der Fall PwC birgt ein zusätzliches Reputationsrisiko, weil einige der betroffenen Berichte die Expertise des Unternehmens in den Bereichen KI und aufkommende Technologien demonstrieren sollten – also in Bereichen, in denen es zahlende Kunden berät.
Was das für Unternehmen bedeutet
Der Vorfall verdeutlicht eine wachsende Herausforderung, da Unternehmen zunehmend auf generative KI setzenum Forschungs- und Marketingmaterialien zu erstellen.
KI kann das Erstellen von Entwürfen erheblich beschleunigen, doch der Fall PwC zeigt, dass ungeprüfte Quellenangaben und fingierte Referenzen die Glaubwürdigkeit untergraben können – insbesondere bei Unternehmen, die Kunden zur verantwortungsvollen Einführung von KI beraten. Für Unternehmen lautet die Lehre daraus, dass KI-generierte Inhaltevor der Veröffentlichung möglicherweise weiterhin einer gründlichen Überprüfung durch Menschen bedürfen, insbesondere wenn Berichte strategische oder politische Entscheidungen leiten sollen.
Lesen Sie auch: Die EU legt Fahrplan für Regeln zu Deepfakes und Kennzeichnungen von KI-Inhalten vor