KI wirkte zunächst erstaunlich leistungsfähig: Sie konnte Fragen beantworten, Dokumente zusammenfassen und sogar Code schreiben. Doch es gibt zunehmend Bedenken darüber, wie häufig KI-Systeme falsche Informationen erfinden – auch bekannt als Halluzinationen –, wobei die Fehlerquoten in einigen Tests bis zu 79 % erreichen.
Dieses Problem betraf kürzlich Kunden von Cursor, einer Plattform für KI-Coding-Assistenten, als der KI-Support-Bot fälschlicherweise behauptete, Nutzer könnten die Software nur auf einem Computer installieren. Die erfundene Cursor-Richtlinie löste Empörung aus, und einige Kunden kündigten ihre Abonnements, bevor das Unternehmen einschritt. „Eine solche Richtlinie gibt es bei uns nicht. Natürlich könnt ihr Cursor auf mehreren Geräten nutzen“, stellte Cursor-CEO Michael Truell auf Reddit klar.
Dieser Vorfall zeigt, wie KI-Halluzinationen über harmlose Fehler hinausgehen und reale Konsequenzen haben.
Probleme mit der Genauigkeit von KI-Modellen von OpenAI, DeepSeek und IBM
Unabhängige Tests zu Halluzinationen offenbaren beunruhigende Trends, und die steigenden Fehlerquoten von KI bereiten Experten Sorgen.
Vectara, das erfasst, wie häufig KI Informationen erfindet, zufolge werden KI-Halluzinationen immer häufiger – sogar bei Aufgaben, die sich eigentlich leicht überprüfen lassen sollten. Das Unternehmen stellte fest, dass das o3-Modell von OpenAI beim Zusammenfassen von Nachrichtenartikeln in 6,8 % der Fälle Details erfand – obwohl es sich dabei um eine einfache, überprüfbare Aufgabe handelt. Das Modell R1 von DeepSeek schnitt mit 14,3 % noch schlechter ab, während IBMs auf Schlussfolgerungen ausgerichtetes Granite 3.2 je nach Modellgröße in 8,7 bis 16,5 % der Fälle halluzinierte.
Das Tow Center for Digital Journalism stellte kürzlich fest, dass KI-gestützte Suchmaschinen Nachrichtenquellen nur äußerst unzuverlässig korrekt angeben. Tatsächlich erzeugte Elon Musks Grok 3 in erstaunlichen 94 % der Fälle fehlerhafte Quellenangaben.
Experten zufolge ist noch nicht bekannt, warum das geschieht, auch wenn es dafür Theorien gibt. Eine Theorie besagt, dass neuere Modelle darauf trainiert werden, Probleme Schritt für Schritt zu durchdenken, wobei jeder Schritt eine neue Möglichkeit für Fehler eröffnet. Eine andere Theorie lautet, dass die KI darauf trainiert wird, immer eine Antwort zu liefern – selbst wenn sie falsch ist –, anstatt zuzugeben, dass sie es nicht weiß.
„Trotz unserer besten Bemühungen werden sie immer halluzinieren“, sagte Amr Awadallah, CEO von Vectara und ehemaliger Google-Manager, gegenüber The New York Times. „Das wird niemals verschwinden.“
Benchmark-Ergebnisse von OpenAI
OpenAI, ein führendes Unternehmen im Bereich generativer KI-Technologie, erlebt mit seinen neuesten Systemen einen ironischen Rückschlag. Die Modelle o3 und o4-mini von OpenAI nutzen „Schlussfolgern“ (also einen schrittweisen Denkprozess), statt einfach nur Antworten auszugeben. Tests zeigen jedoch, dass dieses gründlichere Nachdenken nach hinten losgeht.
Laut den Benchmark-Tests von OpenAI:
- halluzinierte das Modell o3 in 33 % der Fälle, wenn es Fragen zu Personen des öffentlichen Lebens beantwortete (PersonQA).
- Bei einfacheren Faktenfragen (SimpleQA) halluzinierte o3 in 51 % der Fälle.
- Das Modell o4-mini schnitt noch schlechter ab: 48 % bei PersonQA und 79 % bei SimpleQA.
Diese Zahlen liegen über denen früherer Systeme von OpenAI. Und obwohl OpenAI das Problem untersucht, sind die Ursachen weiterhin unklar. „Wir werden unsere Forschung zu Halluzinationen in allen Modellen fortsetzen, um Genauigkeit und Zuverlässigkeit zu verbessern“, sagte Gaby Raila, eine Sprecherin von OpenAI, gegenüber The New York Times.
Ein ernstes Problem bei ernsthaften Aufgaben
Während ein wenig Fehlinformation möglicherweise kein großes Problem darstellt, wenn man ein Gedicht schreibt oder nach Ideen fürs Abendessen fragt, können Halluzinationen bei Gerichtsdokumenten, medizinischen Unterlagen oder geschäftlichen Entscheidungen gefährlich sein.
Selbst Unternehmen, die versuchen, das Problem der KI-Halluzinationen zu beheben, tun sich schwer. Microsoft und Google verfügen über Tools, die verdächtige Antworten zu markieren versuchen. Experten bezweifeln jedoch weiterhin, dass diese Maßnahmen das Problem vollständig lösen werden.
Lesen Sie die Berichterstattung von eWeek darüber, wie Amazon KI-Halluzinationen mithilfe einer mathematischen Methode eindämmt. Auf unserer Schwesterseite TechRepublic sehen wir uns an, wie Anthropic erforscht, „denkt“ seine KI Claude.